Bagaimana Peraturan AI Baru China Boleh Mempengaruhi Syarikat-syarikat AS

Baidu-ernie-bot

Tidak lama selepas peraturan kecerdasan buatan (AI) China mula berkuat kuasa bulan lepas, beberapa chatbot AI baharu mula meresap ke pasaran, dengan kelulusan kerajaan. Peraturan itu sudah dicairkan daripada apa yang pada mulanya dicadangkan, dan setakat ini, China belum menguatkasakannya dengan ketat seperti yang ia mampu, menurut pakar. Pendekatan pengawalseliaan China berkemungkinan besar akan memberi implikasi besar terhadap persaingan teknologi antara negara itu dan saingan kuasa AI Amerika Syarikat.

Langkah-langkah Kecerdasan Buatan Generatif (CAC) Cyberspace Administration of China, yang mula berkuat kuasa pada 15 Ogos, adalah antara yang paling ketat di dunia. Ia menyatakan bahawa perkhidmatan AI generatif tidak sepatutnya menjana kandungan “menghasut penderhakaan kedaulatan negara atau menggulingkan sistem sosialis,” atau “menggalakkan keganasan atau ekstremisme, menggalakkan kebencian etnik dan diskriminasi etnik, keganasan dan lucah, serta maklumat palsu dan berbahaya. “Mencegah chatbot AI daripada menyembur keluar kandungan yang tidak diingini atau bahkan toksik telah menjadi satu cabaran bagi pembangun AI di seluruh dunia. Jika peraturan baharu China dikuatkuasakan sepenuhnya, maka pembangun AI China mungkin menemui kesukaran untuk mematuhinya, menurut beberapa penganalisis.

Pengawal selia China sedar akan isu ini, dan telah bertindak balas dengan melemahkan beberapa peraturan dan mengambil pendekatan pelaksanaan yang longgar dalam usaha untuk mencapai keseimbangan antara mengawal aliran maklumat politik yang sensitif dan menggalakkan pembangunan AI China, kata pakar. Bagaimana keseimbangan ini dicapai tidak hanya akan memberi kesan kepada kebebasan politik warganegara China dan kejayaan industri AI China tetapi ia juga berkemungkinan mempengaruhi pemikiran pembuat undang-undang AS tentang dasar AI menghadapi perlumbaan yang sedang berlangsung untuk dominasi AI.

Penyahkawalseliaan

Pada akhir Ogos, CAC telah meluluskan pelancaran lapan chatbot AI, termasuk Ernie Bot Baidu dan Doubao ByteDance.

Versi peraturan-peraturan yang diterbitkan pada bulan Julai adalah kurang ketat daripada draf peraturan-peraturan yang diterbitkan untuk komen pada bulan April. CAC telah membuat tiga perubahan utama, kata Matt Sheehan, rakan di The Carnegie Endowment for International Peace.

Pertama, skop telah dipersempit daripada semua penggunaan AI generatif kepada hanya penggunaan menghadap awam, bermakna penggunaan dalaman kurang ketat dikawal. Kedua, bahasanya dilembutkan di beberapa tempat. Sebagai contoh, “Dapat memastikan kebenaran, ketepatan, objektiviti, dan kepelbagaian data,” telah diubah kepada “Menggunakan langkah berkesan untuk meningkatkan kualiti data latihan, dan meningkatkan kebenaran, ketepatan, objektiviti, dan kepelbagaian data latihan.” Ketiga, peraturan baru memasukkan bahasa yang menggalakkan pembangunan AI generatif, manakala sebelum ini peraturan-peraturan hanya bersifat menghukum.

CAC telah menjadikan peraturan-peraturan lebih membenarkan, sebahagiannya sebagai reaksi terhadap kesihatan ekonomi China yang lemah, menurut Sheehan, yang penyelidikannya memberi tumpuan kepada ekosistem AI China. Di samping itu, perdebatan awam – termasuk penyelidik think tank dan akademik, penasihat kerajaan, dan industri – menyimpulkan bahawa peraturan-peraturan terlalu keras dan boleh menyekat inovasi.

Penguatkuasaan fleksibel

Setelah peraturan-peraturan dimuktamadkan, penguatkuasaannya adalah atas budi bicara pihak berkuasa, dan seringkali lebih sewenang-wenangnya dan kurang konsisten daripada di Barat, menurut Sihao Huang, penyelidik di University of Oxford yang menghabiskan setahun lepas mempelajari tadbir urus AI di Beijing.

“Apabila kita melihat peraturan untuk algoritma rekomendasi yang diterbitkan sebelum ini, atau sintesis mendalam, atau undang-undang keselamatan siber CAC – mereka dikuatkuasakan apabila CAC mahu menguatkuasakannya,” kata Huang. “Syarikat-syarikat diberi kelonggaran yang agak panjang, mereka boleh membangunkan sistem ini secara sangat berambisi, tetapi mereka hanya perlu sedar bahawa jika palu itu jatuh ke atas mereka, terdapat peraturan yang boleh digunakan oleh kerajaan.”

Haung berkata bahawa sama ada CAC menguatkuasakan peraturan itu selalunya bergantung pada “sama ada syarikat itu berada dalam kedudukan yang baik dengan kerajaan atau jika mereka mempunyai hubungan yang betul”. Syarikat teknologi juga sering cuba mendedahkan kelemahan dalam produk dan perkhidmatan pesaing masing-masing untuk menghasut tindakan kerajaan terhadap pesaing mereka, dan tekanan awam boleh memaksa CAC untuk menguatkuasakan peraturan-peraturan, katanya.

“China jauh lebih bersedia untuk meletakkan sesuatu di sana, dan kemudian menguruskannya sebagaimana yang mereka lalui,” kata Sheehan. “Di China, syarikat-syarikat tidak percaya bahawa jika mereka mencabar CAC mengenai perlembagaan peruntukan ini mereka akan menang di mahkamah. Mereka perlu mengetahui bagaimana bekerja dengannya atau bekerja mengelilinginya. Mereka tidak mempunyai jaring keselamatan yang sama daripada mahkamah dan hakim bebas.”

Perdebatan AS mengenai peraturan dan persaingan

China hawks amaran bahawa AS berisiko ketinggalan di belakang China dalam persaingan untuk membangunkan sistem AI yang semakin canggih, dan bahawa peraturan AS mungkin membolehkan China mengejar ketinggalan.

Huang tidak bersetuju, menegaskan bahawa sistem AI China sudah ketinggalan berbanding setara AS, dan bahawa peraturan China yang ketat menambah kelemahan ini. “Apabila anda sebenarnya menggunakan sistem AI China… keupayaan mereka secara signifikan dicairkan, kerana mereka hanya bersandar pada sisi yang lebih selamat,” katanya. Prestasi yang lemah adalah hasil daripada penapis kandungan yang menghalang sistem daripada menjawab sebarang ajakan yang berkaitan dengan politik, dan “pelarasian halus yang sangat agresif,” katanya.

“Syarikat China akan mempunyai beban pematuhan yang jauh lebih tinggi daripada syarikat Amerika,” setuju Sheehan.

Jordan Schneider, rakan bersekutu di Pusat Hal Ehwal Pertahanan Amerika Syarikat Baru, sebuah institut hal ehwal tentera, berkata bahawa kumpulan chatbot China sekarang ini adalah di belakang pesaing AS dari segi kecanggihan dan keupayaan mereka. “Aplikasi ini mungkin tahap GPT-3,” kata Schneider. Tetapi Schneider menunjukkan bahawa GPT-3, model bahasa yang dibangunkan oleh OpenAI, hanya sekitar dua tahun. “Itu bukan jurang yang besar,” katanya. (Sistem AI terkini OpenAI yang tersedia untuk umum adalah GPT-4.)

Schneider juga menekankan bahawa telah terbukti lebih mudah untuk mengawal output chatbot daripada yang pada asalnya dibimbangi oleh pembangun dan pembuat dasar – termasuk mereka di China. Selain kecacatan yang membimbangkan yang didedahkan apabila Microsoft melancarkan chatbot Bing AI, tidak banyak masalah lain dengan chatbot AI syarikat AS yang liar, katanya. “Model Amerika secara umumnya tidak rasis. Memecahkan penjara adalah sangat sukar dan ia diperbetulkan dengan sangat cepat. Syarikat-syarikat ini secara umumnya telah berjaya menjadikan model mereka mematuhi apa yang merupakan wacana yang sesuai dalam konteks Barat. Itu menyerupai cabaran yang secara dasarnya sama yang dihadapi oleh firma China ini.” (Model bahasa masih menunjukkan isu-isu seperti halusinasi – istilah untuk mencipta maklumat palsu.)

Oleh kerana itu, Schneider berhujah bahawa kompromi antara kestabilan politik dan menggalakkan pembangunan dilebih-lebihkan. Pada masa depan, katanya, firma teknologi China akan terus berhujah bahawa mereka berjaya mengimbangi kedua-dua objektif ini.