AS tidak bersedia untuk Era Baru Disinformasi Didorong AI—Tapi China Ya

Pada 2019, seorang penyelidik Cina bernama Li Bicheng menggariskan idenya tentang memanipulasi pendapat umum menggunakan AI. Rangkaian “ejen pintar” – sebuah tentera palsu dalam talian persona, dikawal oleh AI – boleh bertindak cukup realistik untuk membentuk konsensus mengenai isu-isu yang menjadi kebimbangan Parti Komunis Cina, seperti pengendaliannya terhadap pandemik COVID-19. Hanya beberapa tahun sebelum itu, Li telah menulis dalam artikel lain bahawa China perlu memperbaiki keupayaannya untuk menjalankan “penipuan maklumat dalam talian” dan “panduan pendapat umum dalam talian.”

Li bukanlah orang luar. Malah, dia adalah orang dalam mutlak, dengan kerjaya penyelidikan yang panjang di institut penyelidikan peperangan maklumat tertinggi Tentera Pembebasan Rakyat di China. Visinya menggunakan AI untuk memanipulasi media sosial telah diterbitkan dalam salah satu jurnal akademik tentera China yang teratas. Dia mempunyai kaitan dengan satu-satunya unit peperangan maklumat Tentera Pembebasan Rakyat yang diketahui, Base 311. Oleh itu, artikel-artikel beliau harus dilihat sebagai pertanda banjir operasi pengaruh AI yang dibantu oleh China di seluruh web.

Seperti yang baru-baru ini didedahkan oleh Meta dalam laporan ancaman adversarial suku tahunannya, platform internet Barat sudah tenggelam dalam kandungan pro-Beijing yang dipos oleh kumpulan yang mempunyai kaitan dengan kerajaan China. Menurut laporan Meta, lebih daripada setengah juta pengguna Facebook mengikuti sekurang-kurangnya satu akaun palsu dalam rangkaian China yang lebih luas – yang bergantung kepada ladang klik yang berpangkalan di Vietnam dan Brazil untuk meningkatkan jangkauannya. Laporan itu juga menyatakan bahawa rangkaian China telah membeli kira-kira $3,000 nilai iklan untuk mempromosikan pos mereka. Walau bagaimanapun, usaha ini kelihatan masih dikendalikan oleh manusia dan mempunyai hasil dunia sebenar yang marginal. Laporan Jabatan Negara baru-baru ini mengenai operasi pengaruh China menguatkan titik ini.

Tetapi AI generatif menawarkan potensi untuk mengubah usaha tersebut menjadi sesuatu yang jauh lebih berkesan, dan dengan itu jauh lebih berbahaya kepada AS dan demokrasi global yang lain. Dan penyelidikan kami menunjukkan bahawa China bersedia untuk menerima teknologi baru ini. Bulan lepas, Microsoft melaporkan beberapa pelaku yang mempunyai kaitan dengan China yang mereka pantau mula menggunakan imej yang dihasilkan oleh AI pada bulan Mac. Ini mengesahkan kebimbangan kami, dan kami menjangkakan lebih banyak perkara seperti ini akan berlaku.

Kini, berkat AI generatif, impak manipulasi media sosial China akan menjadi lebih besar dari segi jumlah mutlak dan jauh lebih murah, dan berkemungkinan besar akan mempunyai kandungan yang lebih baik dan lebih boleh dipercayai. Walaupun pendekatan tradisional memerlukan pengambilan manusia untuk bekerja di ladang kandungan untuk mewujudkan atau selainnya mempost kandungan dan kemudian menghabiskan wang untuk meningkatkan dan mempromosikannya di seluruh media sosial, dengan AI generatif, kosnya agak tetap, dan skopnya sangat boleh diskalakan: membinanya sekali, dan biarkan ia memenuhi web dengan kandungan.

Kos membina model sedemikian sudah sangat murah dan – seperti kebanyakan teknologi – akan menjadi semakin murah. Seperti yang Wired laporkan baru-baru ini, seorang penyelidik yang menggunakan nama samaran Nea Paw berjaya mencipta akaun autonomi sepenuhnya yang mempost di seluruh internet, dengan pautan ke artikel dan portal berita, malah menyebut wartawan tertentu – kecuali bahawa semuanya palsu, sepenuhnya dihasilkan menggunakan AI. Paw melakukan ini dengan alat AI terbuka untuk umum. Ia menelannya hanya $400.

Jenis AI generatif ini, yang bertindak lebih seperti manusia, dan bukannya seperti bot, menawarkan CCP – dan banyak pelaku jahat lain, seperti Rusia dan Iran – potensi untuk memenuhi hasrat lama untuk membentuk perbualan global.

Pada Mei 2021, Setiausaha Agung China Xi Jinping mengulangi fokus parti beliau pada matlamat mulia ini, semasa ucapannya di Sesi Pengajian Kolektif Politburo CCP bulanan. Di sana, beliau berkata bahawa China perlu “mewujudkan persekitaran pendapat umum luar yang menggalakkan untuk reformasi, pembangunan dan kestabilan China,” sebahagiannya dengan membangunkan naratif propaganda yang lebih meyakinkan dan lebih menyesuaikan kandungan untuk khalayak tertentu. Xi juga menekankan bahawa sejak beliau berkuasa pada tahun 2012, Beijing telah meningkatkan “kuasa panduan usaha pendapat umum antarabangsa kita.” Dengan kata lain, Xi berpuas hati dengan betapa banyaknya China sudah mempengaruhi pendapat umum global tetapi dia fikir CCP masih ada kerja yang perlu dilakukan.

Xi juga sudah bertahun-tahun bercakap tentang teknologi sebagai cara untuk mencapai hasratnya. Dalam Sesi Pengajian Kolektif Politburo yang lebih awal pada tahun 2019, Xi berkata bahawa adalah perlu untuk mengkaji aplikasi AI dalam pengumpulan berita, pengeluaran, pengedaran, dan maklum balas, dalam usaha untuk meningkatkan keupayaan untuk membimbing pendapat umum. Seluruh aparatus Parti-negara seterusnya telah bergerak untuk merealisasikan visi Xi, termasuk menubuhkan “jabatan editorial AI.”

Penyelidik tentera China telah berusaha untuk mewujudkan apa yang kadangkala mereka panggil “maklumat sintetik” sejak sekurang-kurangnya 2005. Maklumat sedemikian boleh digunakan untuk pelbagai tujuan, termasuk menjana “berita politik yang meletup” tentang musuh. Sebagai contoh, China dituduh pada 2017 melancarkan kempen salah maklumat yang mendakwa kerajaan Taiwan akan mengawal ketat perkhidmatan keagamaan, yang mewujudkan badai politik di pulau itu.

Penyelidik tentera China secara rutin mengadu Tentera Pembebasan Rakyat kekurangan kakitangan yang mencukupi dengan kemahiran bahasa asing dan pemahaman antara budaya. Kini bagaimanapun, AI generatif menawarkan Tentera Pembebasan Rakyat alat untuk melakukan sesuatu yang tidak pernah dapat dilakukan sebelum ini, iaitu memanipulasi media sosial dengan kandungan kualiti hampir manusia, dalam skala besar.

Terdapat langkah-langkah yang boleh dan harus diambil oleh platform media sosial dan kerajaan AS untuk mula mengurangkan ancaman ini. Tetapi semua strategi sedemikian mesti bermula dari realiti bahawa AI generatif sudah menjadi perkara biasa dan tidak mungkin pernah dikawal selia secara sejagat.

Walaupun begitu, platform media sosial harus meningkatkan usaha mereka untuk menumpaskan akaun tidak sah yang menyebarkan salah maklumat dan menyukarkan pelaku jahat – asing atau domestik – untuk membuka akaun baru. Sementara itu, kerajaan AS harus mempertimbangkan sama ada kawalan eksport terkini untuk perkakasan canggih yang dilaksanakan terhadap China dan Rusia boleh dipertingkatkan semasa semakan semula yang akan datang untuk menangkap dengan lebih baik perkakasan yang diperlukan untuk melatih model bahasa besar yang menjadi teras AI. Setelah dibangunkan, model menjadi jauh lebih sukar untuk dikawal selia.

Adalah penting agar kerajaan AS dan platform media sosial mengiktiraf ancaman ini dan