(SeaPRwire) –   Minggu lalu, gabungan pemimpin saintifik, agama dan politik menyeru pengharaman global terhadap pembangunan superintelligence: AI yang mengatasi manusia dalam semua tugas kognitif. Saya adalah salah seorang penandatangan awal, bersama penerima Hadiah Nobel seperti Geoffrey Hinton; saintis AI paling banyak dipetik di dunia Yoshua Bengio; bekas penasihat kepada Presiden Donald Trump Steve Bannon; bekas Pengerusi Ketua Turus Bersama Mike Mullen; dan Putera Harry serta Meghan, Duchess of Sussex.

Apakah yang menyatukan ini? Bahaya yang mendesak dan terhadap kewujudan manusia. Syarikat teknologi melaburkan berbilion dolar ke arah mencapai superintelligence secepat mungkin. Tiada siapa yang tahu bagaimana untuk mengawal AI yang jauh lebih cekap daripada mana-mana manusia, namun kita semakin hampir untuk membangunkan mereka, dengan ramai pakar menjangkakan superintelligence dalam tempoh 5 tahun akan datang pada kadar semasa. 

Inilah sebab mengapa saintis AI terkemuka bahawa pembangunan superintelligence boleh mengakibatkan kepupusan manusia. 

Keperluan untuk larangan superintelligence

Sebaik sahaja kita membangunkan mesin yang jauh lebih cekap daripada kita dalam semua domain, kemungkinan besar kita akan berada di bawah belas kasihan orang, atau negara yang mengawalnya. Atau kita akan berada di bawah belas kasihan mesin superintelligent itu sendiri, kerana pada masa ini tiada negara, tiada syarikat, dan tiada orang yang tahu bagaimana untuk mengawal mereka. Secara teori, AI superintelligent akan mengejar matlamatnya sendiri, dan jika matlamat tersebut tidak serasi dengan kelangsungan hidup manusia, kita akan dimusnahkan.

Lebih teruk lagi, pembangun AI tidak memahami bagaimana sistem AI berkuasa semasa sebenarnya berfungsi. Tidak seperti jambatan atau loji janakuasa, yang direka mengikut spesifikasi manusia yang tepat, sistem AI hari ini daripada set data yang luas melalui proses yang pencipta mereka sendiri tidak dapat tafsirkan. Malah Ketua Pegawai Eksekutif Anthropic Dario Amodei mengatakan bahawa kita hanya “memahami 3% daripada cara mereka berfungsi.” 

Walaupun bahaya ini, superintelligence kekal sebagai syarikat AI terkemuka: OpenAI, Anthropic, Google DeepMind, Meta, xAI, DeepSeek. Dan memandangkan penilaian syarikat-syarikat ini melonjak, mereka tidak akan berhenti dengan sendiri.

Kerajaan di seluruh dunia mesti campur tangan sebelum terlambat. Namun situasi antarabangsa tidak menggalakkan. Kita hidup dalam era ketegangan geopolitik yang meningkat, penuh dengan antara A.S. dan China. Negara-negara bergegas melabur berbilion dalam pusat data untuk menggerakkan AI pada masa pembangunan dan penggunaan sistem AI berbahaya kekal kurang terkawal daripada membuka restoran baharu atau membina rumah. 

Bagaimana untuk mengharamkan superintelligence

Dalam iklim ini, adakah larangan antarabangsa terhadap pembangunan superintelligence mungkin?

Ya, kerana kita pernah mencapai larangan global sedemikian sebelum ini.

Pada tahun 1985, dunia terdapat lubang pada lapisan ozon di atas Antartika, hasil kerja tiga saintis dari British Antarctic Survey. Punca jenayah atmosfera ini adalah (CFCs), bahan kimia industri yang biasa digunakan. Melainkan sesuatu dilakukan, lubang itu akan terus membesar, dan akan mendapat kanser kulit atau menjadi buta kerana kekurangan perlindungan UV. 

Sebaliknya, berjuta-juta orang . Saintis menjadikan ancaman itu nyata dengan gambar satelit berwarna dan perbincangan jelas tentang akibat kesihatan. NGO mengatur boikot jenama besar dan mengarahkan ribuan warga prihatin untuk menulis surat bantahan. Sekolah di seluruh dunia menjalankan program pendidikan, dan PBB menyokong kempen kesedaran awam.

Pada tahun 1987, hanya dua tahun selepas lubang ozon didedahkan kepada umum, setiap negara yang wujud menandatangani . Ditandatangani semasa Perang Dingin, Protokol Montreal menunjukkan bahawa adalah mungkin untuk mencapai perjanjian antarabangsa yang cepat dan tegas di tengah-tengah ketegangan geopolitik.

Satu faktor utama ialah lubang ozon membahayakan hampir semua orang di dunia. Ia bukan sesuatu yang didorong oleh sesetengah orang kepada orang lain, tetapi sesuatu yang akan dialami oleh semua orang. Superintelligence adalah ancaman sejagat yang serupa: kehilangan kawalan AI bermakna walaupun mereka yang membangunkan ia tidak akan terlepas daripada bahayanya. Risiko kepupusan daripada superintelligence dengan itu berpotensi untuk mengatasi setiap perpecahan. Ia boleh menyatukan orang merentasi parti politik, agama, negara, dan ideologi. Tiada siapa yang mahu kehidupan mereka, keluarga mereka, dunia mereka dimusnahkan.

Apabila orang belajar tentang superintelligence dan risiko kepupusan yang ditimbulkannya, ramai yang melihat bahaya itu dan mula bimbang mengenainya. Seperti lubang ozon, kebimbangan ini mesti dicetuskan menjadi penglibatan sivik, membina gerakan global yang bekerjasama dengan kerajaan untuk menjadikan pengharaman superintelligence sebagai kenyataan.

Malangnya, kebanyakan penggubal undang-undang masih tidak tahu tentang ancaman superintelligence atau kesegeraannya, dan syarikat AI kini mengerahkan untuk menghancurkan percubaan mengawal selia AI.

Penyeimbang terbaik kepada usaha lobi gergasi ini adalah bagi penggubal undang-undang untuk mendengar daripada pengundi mereka apa yang mereka benar-benar fikirkan tentang superintelligence. Selalunya, penggubal undang-undang akan mendapati bahawa kebanyakan mereka mahu mereka mengatakan “ tidak,” dan “ya” kepada masa depan di mana manusia bertahan dan berkembang maju.

Dalam era penglibatan politik yang merosot dan kepartian yang meningkat, mengharamkan superintelligence adalah isu akal budi yang menyatukan orang merentasi spektrum politik.

Seperti penipisan lapisan ozon, semua orang berisiko kehilangan akibat pembangunan superintelligence. Kita tahu gerakan untuk mengelakkan nasib ini boleh dibina.

Satu-satunya soalan yang tinggal ialah: bolehkah kita membina ia dengan cukup pantas?