Seorang pemimpin undang-undang California yang senior akan memperkenalkan rang undang-undang kecerdasan buatan (AI) baru kepada senat negeri pada hari Rabu, menambah kepada usaha kebangsaan dan global untuk mengawal selia teknologi yang berkembang pesat.
Walaupun terdapat beberapa percubaan di Kongres untuk merangka perundangan AI, negeri California – rumah kepada Lembah Silikon, di mana kebanyakan syarikat AI teratas dunia berpusat – memainkan peranan dalam menetapkan garis panduan industri, menurut Senator Negeri Scott Wiener, (D-San Francisco) yang merangka rang undang-undang itu.
“Dalam dunia ideal, kita akan mempunyai skim peraturan AI Persekutuan yang kukuh,” kata Wiener dalam temu bual dengan TIME pada hari Selasa, sambil menambah bahawa beliau menyokong percubaan di Kongres dan Rumah Putih untuk mengawal selia teknologi itu. “Tetapi California mempunyai sejarah bertindak apabila kerajaan persekutuan bergerak terlalu perlahan atau tidak bertindak.”
Beliau menambah: “Kita perlu mendahului risiko ini, bukan melakukan apa yang telah kita lakukan pada masa lalu tentang media sosial atau teknologi lain, di mana kita tidak melakukan apa-apa sebelum ia berpotensi terlambat.”
Rang undang-undang itu menyasarkan sistem AI “frontier” di ambang keupayaan. Ia mencadangkan agar sistem yang memerlukan kuantiti pengkomputeran di atas ambang tertentu untuk melatih – ambang yang tidak ditentukan oleh rang undang-undang – tunduk kepada keperluan ketelusan. Ia mencadangkan mewujudkan liabiliti undang-undang bagi “mereka yang gagal mengambil langkah berjaga-jaga yang sesuai” untuk mencegah akibat yang tidak disengajakan dan penyalahgunaan AI canggih. Ia juga mencadangkan mewajibkan langkah-langkah keselamatan untuk mencegah AI canggih jatuh ke tangan negara asing. Rang undang-undang itu menyeru California untuk menubuhkan “CalCompute,” awan penyelidikan negeri yang dicadangkan yang akan menyediakan infrastruktur pengkomputeran yang diperlukan bagi kumpulan di luar industri besar, seperti akademia dan startup, untuk melakukan kerja AI canggih.
“Badan perundangan bimbang tentang potensi akibat yang tidak diingini atau bahkan bencana yang timbul daripada pembangunan atau penggunaan model AI frontier masa depan,” kata rang undang-undang itu. “Laju perkembangan teknikal dalam AI memerlukan pendekatan perundangan yang proaktif dalam mengantisipasi risiko yang ditimbulkan oleh teknologi semasa dan masa depan terhadap keselamatan awam untuk membolehkan pemanfaatan selamat sepenuhnya potensi teknologi untuk manfaat awam.”
Namun, seperti banyak usaha setakat ini untuk mengawal selia AI, rang undang-undang itu ringkas butirannya. Sebagai rang undang-undang hasrat, ia kurang daripada tiga halaman panjang dan hanya memberikan garis besar luas apa yang akan dilakukan oleh undang-undang AI California. Tujuannya, menurut lembaran fakta berasingan yang dikeluarkan oleh pejabat Wiener, adalah untuk menetapkan hasrat badan perundangan California “untuk melaksanakan peraturan yang menyeluruh yang mengawal pembangunan AI,” sementara membenarkan cadangan “untuk menjana perbincangan dan maklum balas untuk tempoh masa sebelum dipinda dengan teks perundangan penuh dan bergerak melalui proses perundangan rasmi.” Rancangan adalah agar teks penuh dipinda dengan butiran khusus menjelang Januari, bersedia untuk rang undang-undang itu untuk maju melalui badan perundangan (di mana Demokrat mempunyai majoriti besar di kedua-dua dewan) pada tahun 2024 dan menjadi undang-undang, paling awal, pada permulaan tahun 2025.
Wiener memberitahu TIME beliau mahu menyerahkannya kepada pembuat undang-undang negeri untuk memutuskan ambang kuasa pengkomputeran yang sesuai bagi peruntukan rang undang-undang untuk berkuat kuasa, dan sama ada liabiliti untuk gagal mengambil langkah berjaga-jaga yang mencukupi harus jatuh ke atas syarikat atau kakitangan individu. “Itu akan dibincangkan dan diputuskan,” katanya. “Saya tidak mahu menghakimi terlebih dahulu. Apa yang saya mahu ialah sistem yang diwujudkan yang mewujudkan insentif sebenar bagi syarikat dan makmal untuk mengambil ini dengan serius dan melakukannya dengan betul.”
Wiener mengakui bahawa pada masa ini kerajaan California tidak mempunyai kapasiti untuk mengaudit sistem AI atau sepenuhnya menguatkuasakan rang undang-undang itu. “Saya tidak fikir ada agensi yang, esok, dapat melaksanakan ini,” katanya. “Sudah pasti sebahagian daripada perbualan ini perlu: agensi mana? Adakah ia agensi sedia ada yang mandatnya boleh ditingkatkan? Adakah ia agensi baru?” Keputusan itu, katanya, akhirnya akan diputuskan oleh Gabenor California Gavin Newsom.
“Begitu banyak inovasi AI berlaku di California,” kata Wiener. “Jadi apabila California menetapkan peraturan tentang AI, ia akan memberi kesan global.”
Tetapi menjadi rumah kepada syarikat AI sambil berusaha untuk menetapkan rangka kerja kawal selia bagi mereka boleh mewujudkan konflik bagi pembuat dasar yang ingin menggalakkan inovasi dan pertumbuhan ekonomi. Secara berasingan, pada awal September, Newsom mengeluarkan perintah eksekutif yang menyeru pendekatan “berukuran” terhadap AI, mengurangkan risikonya sambil “kekal menjadi pemimpin AI dunia.” Perintah eksekutif itu menggemakan cadangan dasar awal tahun ini dari UK, di mana makmal AI terkemuka Google DeepMind berpusat, yang menekankan keperluan kerajaan untuk mengelakkan pendekatan “berat tangan” terhadap peraturan AI yang akan menyekat inovasi.