Ia Memerlukan Lebih Daripada Robot untuk Menguruskan Robot

TIME Person of the Year

Kini kemahiran maklumat palsu tentang Israel dan Hamas jelas kepada sesiapa yang membuka telefon mereka minggu ini. Ketika platform teknologi bergantung semakin banyak kepada kecerdasan buatan dalam perang mereka menentang maklumat palsu, kekacauan di Timur Tengah mendedahkan had teknologi untuk mengawal kesan teknologi. Ia lebih penting lagi bagi kita untuk memahami bagaimana platform global seperti Meta, Google, dan X, platform yang dahulunya dikenali sebagai Twitter, membuat keputusan tentang kandungan mana yang diberi peningkatan dan apa yang diambil turun.

Bukanlah kerana platform tidak mengetahui bahawa mereka mempunyai masalah maklumat palsu besar yang tidak dapat diselesaikan oleh pemeriksa kandungan manusia sahaja. Dua tahun lalu, pendedah Facebook, Frances Haugen, menerangkan kepada Kongres bagaimana pertumbuhan dan keuntungan memacu keputusan: “Akibatnya adalah lebih perpecahan, lebih kerosakan, lebih dusta, lebih ancaman dan lebih perbalahan,” beliau memberi keterangan. “Dalam beberapa kes, perbualan berbahaya ini telah membawa kepada keganasan sebenar yang membahayakan dan bahkan membunuh orang.”

Tetapi Kongres masih tidak dapat bersetuju pada asas yang asas untuk memegang platform bertanggungjawab. Rakan sekerja saya di Harvard Kennedy School, ahli sains komputer Latanya Sweeney, menganggarkan bahawa dalam masa setahun internet seperti yang kita kenali akan digantikan oleh satu di mana majoriti besar kandungan datang dari bot. Dan jika ada satu perkara yang kita pelajari ketika AI generatif berjalan keluar makmal dan masuk ke feed kita dan telefon dan kehidupan kita, ia adalah bagaimana ia berbohong dengan yakin dan berlagak.

Kita memerlukan suara yang lebih luas untuk menangani tanggungjawab platform dalam melindungi kesihatan ekologi maklumat kita. Saya tidak hanya maksudkan ahli teknologi dan ahli psikologi, ekonom dan ahli etika, walaupun semua perlu duduk di meja: Saya maksudkan kedua-dua hantu dan mesin. Orang yang terjejas oleh teknologi ini dalam cara yang orang yang membina mereka tidak menjangka, perlu didengar juga.

Mengarkiv dokumen dalaman Facebook

Ia jatuh kepada disiplin Kebajikan Awam Teknologi yang berkembang, sepupu Kesihatan Awam dan Undang-Undang Awam, untuk menggerakkan penyelidikan dan membentuk perdebatan mengenai “penjajahan” tempat awam kita oleh syarikat persendirian. Dengan cabaran itu di fikiran, minggu ini bekas Presiden Barack Obama datang ke Harvard untuk sumber tentang masa depan internet. Sekolah Undang-Undang Harvard akan melancarkan Makmal Media Sosial Aplikasi Awam baru untuk “mengimajinasikan semula, membina semula dan memulihkan media sosial untuk berkhidmat kepada kebajikan awam.” Sementara itu, di Sekolah Kennedy Harvard, Makmal Teknologi Awam Sweeney akan melancarkan FBArchive.org, platform penyelidikan baru yang membolehkan penyelidik dan wartawan mengkaji dokumen dalaman Facebook yang dikongsi oleh Haugen.

Platform utama beroperasi sebagai peti besi berlapis plumbum dengan tirai gelap. Kami tahu kerosakan yang keluar tetapi masih mempunyai sedikit idea tentang keputusan yang memasuki mereka. Adakah garis panduan penyuntingan kandungan dikuatkuasakan secara konsisten, dan jika tidak, apakah pengecualian yang dibenarkan dan siapa yang mempunyai kuasa untuk memberikannya? Bagaimana penyuntingan kandungan antarabangsa dijalankan? Adakah ia terutamanya bergantung kepada algoritma AI yang canggih, atau adakah ia bergantung kepada penilaian manual oleh pembaca bahasa Inggeris mengkaji keputusan Google Translate?

Mengingat segala yang meragukan tentang bagaimana platform teknologi membuat keputusan mengenai privasi, penyuntingan kandungan, dan reka bentuk algoritma, FBarchive dibina untuk memberikan beberapa ukuran ketelusan. Meta—syarikat induk Facebook—melakukan banyak penyelidikan tentang produknya, termasuk Facebook, dan mempunyai data besar tentang impak perubahan reka bentuknya. Dokumen yang dikeluarkan oleh Haugen mendedahkan, misalnya, bahawa penyunting mempertimbangkan “belanjawan pertukaran”, sehingga walaupun apabila kandungan yang membuktikan merosakkan berkembang pesat di Ethiopia atau Myanmar, Meta memerlukan mereka mengira kos kewangan sebelum mengurangkan jangkauan kandungan sedemikian atau menurunkannya.

Arkib dalam talian baru mencipta ruang bagi orang untuk menambah konteks dan wawasan dalam skala, dalam penyelidikan kolaboratif jenis yang sebaliknya mustahil. Ia hanyalah satu contoh perkahwinan fikiran dan mesin, yang melindungi privasi individu sementara membenarkan penyelidik memahami pertukaran yang dihadapi pemimpin perniagaan yang menimbang tanggungjawab mereka kepada awam dan pemegang saham mereka.

Menempatkan manusia di pusat

Ini adalah apa yang ahli teknologi awam panggil “penyelesaian berpusatkan manusia”, dan mustahil untuk mencipta “internet kebajikan awam” tanpa melibatkan manusia sangat manusia yang membentuk bagaimana internet beroperasi. Dengan menganggap Kongres tidak mungkin campur tangan dalam waktu terdekat, untuk masa ini kita terpaksa bergantung kepada pertimbangan dan bahkan kepentingan sendiri pemimpin syarikat teknologi untuk bersetuju pada piawaian industri bersama yang melindungi hak individu, barang awam kita, dan ekosistem maklumat—dan akhirnya, melindungi demokrasi.

Twitter pernah menjadi model tertentu untuk berkongsi data dan piawaian komuniti—tetapi bukan lagi. Dan titik permulaan telah lama jelas: ketelusan yang jauh lebih besar tentang bagaimana algoritma direka bentuk dan bagaimana keputusan kandungan dibuat. Itu akan memberi penyelidik, wartawan, hakim, masyarakat sivil, dan pembuat dasar lebih kuasa untuk memainkan peranan penting mereka dalam membentuk tempat awam sihat. Walaupun ketika kita kagum dengan kemampuan rakan robot baru kita untuk menulis soneta atau meramal bagaimana protein dilipat, adalah baik untuk mengingat bahawa tanpa pengalaman dan nilai manusia membawa ke persamaan, penyelesaian kemungkinan besar akan gagal—terutamanya apabila teknologi ini membuat lebih mudah untuk memperlakukan sesama dengan tidak manusiawi.