Ketika Perhimpunan Agung Pertubuhan Bangsa-Bangsa Bersatu berkumpul minggu ini di New York, utusan Setiausaha Agung PBB untuk teknologi, Amandeep Gill, menganjurkan acara bertajuk Memerintah AI untuk Kemanusiaan, di mana peserta membincangkan risiko yang mungkin ditimbulkan oleh AI dan cabaran untuk mencapai kerjasama antarabangsa mengenai kecerdasan buatan.
Setiausaha Agung António Guterres dan Gill telah berkata mereka percaya bahawa agensi PBB baru akan diperlukan untuk membantu dunia bekerjasama dalam mengurus teknologi berkuasa ini. Tetapi isu-isu yang akan cuba ditangani oleh entiti baru dan strukturnya masih belum ditentukan, dan beberapa pemerhati mengatakan bahawa rancangan kerjasama global yang ambisius seperti ini jarang mendapat sokongan kuasa besar.
Gill telah memimpin usaha untuk menjadikan bentuk teknologi maju yang lebih selamat sebelum ini. Dia adalah pengerusi Kumpulan Pakar Kerajaan Konvensyen Mengenai Senjata Konvensional Tertentu apabila Kempen untuk Menghentikan Robot Pembunuh, yang bertujuan untuk memaksa kerajaan melarang pembangunan sistem senjata autonomi mematikan, gagal mendapat sambutan daripada kuasa besar global termasuk Amerika Syarikat dan Rusia. Kini, Gill mengetuai usaha yang lebih ambisius untuk menggalakkan kerjasama antarabangsa mengenai AI.
AI telah berkembang dengan pesat dalam beberapa tahun kebelakangan ini, dan pakar jangka kemajuan ini tidak akan melambat. Impak AI akan dirasai jauh melampaui sempadan negara di mana ia dibangunkan, yang mendorong pemimpin dunia dan pakar teknologi menyeru kerjasama antarabangsa mengenai isu AI.
Dalam mesyuarat Majlis Keselamatan PBB pada bulan Julai, Guterres membuat kes bagi PBB sebagai forum yang sesuai untuk kerjasama ini. Badan Penasihat Peringkat Tinggi mengenai Kecerdasan Buatan, yang keahlian akan diumumkan pada bulan Oktober, adalah langkah seterusnya menuju penubuhan agensi AI PBB.
Badan Penasihat Peringkat Tinggi
Gill, yang sebelum ini berkhidmat sebagai pengarah eksekutif Panel Peringkat Tinggi PBB mengenai Kerjasama Digital dari tahun 2018 hingga 2019, dilantik sebagai utusan teknologi pada bulan Jun 2022.
Pada bulan Ogos tahun ini, pejabat utusan teknologi membuka proses pemilihan pakar untuk berkhidmat dalam Badan Penasihat Peringkat Tinggi mengenai Kecerdasan Buatan dengan panggilan awam untuk pencalonan.
Panggilan pencalonan berasingan, yang dilihat oleh TIME, dihantar kepada negara anggota dan mengandungi terma rujukan untuk Badan tersebut. Ini menyatakan bahawa Badan itu akan terdiri daripada sehingga 32 ahli dari pelbagai sektor dan campuran jantina, umur, perwakilan geografi dan bidang tumpuan.
Gill memberitahu TIME dalam temu bual pada 30 Ogos bahawa pejabatnya telah menerima lebih daripada 1,600 pencalonan melalui panggilan awam untuk pencalonan. Digabungkan dengan pencalonan daripada negara anggota, dia menjangkakan akan ada lebih daripada 2,000 pencalonan. Pejabat utusan teknologi, dengan input daripada organisasi PBB lain, akan membuat senarai pendek, daripada mana Setiausaha Agung akan memilih 32 ahli, katanya. Badan itu akan bermesyuarat buat pertama kali pada bulan Oktober.
Terma rujukan dalam dokumen yang dilihat oleh TIME, dan disahkan oleh Gill, menyatakan bahawa Badan itu akan menghasilkan laporan interim yang menyajikan “analisis peringkat tinggi pilihan untuk tadbir urus antarabangsa kecerdasan buatan” menjelang 31 Disember 2023. Laporan kedua, yang akan diserahkan menjelang 31 Ogos 2024, “boleh memberikan cadangan terperinci mengenai fungsi, bentuk, dan jadual waktu untuk agensi antarabangsa baru bagi tadbir urus kecerdasan buatan.”
Aki Enkenberg, ketua pasukan inovasi dan kerjasama digital di Kementerian Luar Negeri Finland, menggambarkan keputusan untuk menyatakan bahawa Badan itu akan memberikan cadangan berkaitan agensi antarabangsa baru sebagai “langkah terburu-buru.” Dia berhujah bahawa sebahagian besar tadbir urus antarabangsa yang diperlukan untuk AI boleh difasilitasi oleh badan sedia ada dalam sistem PBB, dan mengatakan bahawa analisis perlu dijalankan untuk menilai sama ada terdapat jurang dalam sistem PBB sebelum mencadangkan agensi baru ditubuhkan. Gill menafikan bahawa terma rujukan membiaskan penemuan Badan ke arah mengesyorkan penubuhan agensi baru.
Apabila ditanya sama ada saiz badan penasihat mungkin menjadikannya sukar dikendalikan, dan oleh itu berakhir dengan memberi pengaruh yang besar kepada sekretariat ke atas kandungan laporan, Gill berkata bahawa sekretariat tidak akan cuba mempengaruhi penemuan Badan.
Pada September 2024, PBB akan menganjurkan Sidang Kemuncak Masa Depan. Menjelang masa itu, Gill berkata dia berharap penemuan Badan telah memberi negara anggota maklumat yang mereka perlukan untuk memutuskan sama ada dan bagaimana mereka harus menyokong penubuhan agensi AI PBB. “Itu akan menjadi saat yang tepat untuk agensi ini dicipta,” katanya. “Sidang kemuncak masa depan adalah peluang peringkat pemimpin.”
Agensi tenaga atom untuk AI
Dalam pos blog yang diterbitkan pada bulan Mei, pemimpin kanan syarikat di sebalik ChatGPT, OpenAI, berhujah bahawa sesuatu seperti Agensi Tenaga Atom Antarabangsa (IAEA) untuk AI mungkin diperlukan pada masa depan untuk mengawal selia sistem kecerdasan buatan yang lebih canggih dengan selamat. “Mana-mana usaha [superintelligence] melebihi ambang keupayaan (atau sumber seperti pengiraan) tertentu akan perlu tertakluk kepada pihak berkuasa antarabangsa yang boleh memeriksa sistem, menghendaki audit, menguji pematuhan piawaian keselamatan, mengenakan sekatan pada tahap penempatan dan tahap keselamatan,” kata pos blog itu.
IAEA, yang ditubuhkan pada tahun 1957, menjalankan pemeriksaan untuk membantu memastikan bahawa negara bukan senjata nuklear tidak membangunkan senjata nuklear, dan memberikan kerjasama teknikal untuk pembangunan tenaga nuklear yang damai.
Pada bulan Jun, Guterres menunjukkan minat terhadap konsep badan serupa untuk AI, dengan berkata “Saya akan memihak kepada idea bahawa kita boleh mempunyai agensi kecerdasan buatan… terilham oleh apa yang dilakukan agensi tenaga atom antarabangsa pada hari ini.”
Tetapi meniru IAEA untuk kecerdasan buatan hanyalah satu pilihan yang berpotensi. Sebuah kertas, yang Gill rujuk semasa temu bual dengan TIME, diterbitkan pada bulan Julai oleh penyelidik dari makmal AI terkemuka Google DeepMind dan OpenAI dan pelbagai institusi penyelidikan akademik dan nonprofit, menggariskan empat bentuk badan AI antarabangsa yang berpotensi yang tidak bersaling eksklusif.
Agensi seperti IAEA yang boleh membangunkan piawaian industri dan memantau pihak berkepentingan untuk menilai sama ada piawaian tersebut dipatuhi adalah satu pilihan. Cadangan lain adalah organisasi yang dimodelkan selepas Panel Antara Kerajaan mengenai Perubahan Iklim (IPCC) yang memudahkan konsensus pakar mengenai isu teknikal. Turut dicadangkan dalam laporan itu adalah perkongsian antarabangsa antara sektor awam dan swasta, yang akan memastikan akses sama rata kepada AI yang bermanfaat, seperti yang dilakukan Gavi, Perikatan Vaksin, untuk vaksin. Cadangan akhir adalah usaha penyelidikan keselamatan AI antarabangsa, serupa dengan Pusat Penyelidikan Nuklear Eropah (CERN).
Walaupun Gill berkata Badan Penasihat Peringkat Tinggi mesti menentukan model mana, jika ada, yang paling sesuai, dia berkata pilihan keempat