Laporan diterbitkan minggu ini oleh Competition & Markets Authority (CMA) UK telah menimbulkan kebimbangan tentang potensi cara industri kecerdasan buatan (AI) dapat dimonopoli atau membahayakan pengguna pada masa depan, tetapi menekankan bahawa masih terlalu awal untuk menentukan sama ada senario ini akan menjadi kenyataan.

Isu-isu yang dibangkitkan oleh laporan ini menyerlahkan kesukaran yang dihadapi pembuat dasar dalam mentadbir AI, sumber kedua-dua nilai komersial yang besar dan banyak risiko. Rishi Sunak, Perdana Menteri British, sedang mendesak agar UK menduduki peranan utama dalam perbincangan dasar AI antarabangsa, dengan fokus khusus terhadap risiko daripada sistem AI maju. Jika pengawal persaingan UK memutuskan untuk mula mengambil tindakan terhadap pembangun AI, syarikat teknologi di seluruh dunia boleh terjejas.

Kebimbangan pengawalseliaan

Laporan, yang diterbitkan pada hari Isnin, memberi tumpuan kepada model asas, yang CMA takrifkan sebagai “jenis teknologi AI yang dilatih dengan data dalam jumlah besar yang boleh diadaptasi ke pelbagai tugas dan operasi.” Contoh termasuk model AI penjana teks, seperti GPT-3.5, model yang mendasari ChatGPT OpenAI, serta model AI penjana imej, seperti Stable Diffusion.

Kertas kerja ini menimbulkan kebimbangan bahawa peningkatan jumlah kuasa pengkomputeran dan data yang digunakan untuk melatih model AI boleh menimbulkan halangan kepada kemasukan, mengurangkan persaingan dalam sektor tersebut.

“Akses kepada kuasa pengkomputeran sudah menentukan dinamik persaingan pasaran ini,” kata Anton Korinek, profesor ekonomi di University of Virginia, kepada TIME melalui e-mel. “Laporan ini tepat mengenal pasti bahawa pasaran untuk model asas akan kompetitif jika sejumlah besar model mendorong ke arah sempadan keupayaan; pasaran di mana hanya beberapa model berada di garis depan tidak kompetitif walaupun ratusan model lain berada di belakang garis depan.”

CMA juga mengatakan dalam kertas kerja bahawa jika model berkuasa seperti Llama 2 Meta kekal sumber terbuka, ini akan mengurangkan keupayaan pembangun AI lain untuk menyalahgunakan kuasa pasaran dan boleh melindungi pengguna. Laporan itu mengakui bahawa mungkin ada ketegangan antara memastikan keselamatan awam dan menggalakkan persaingan, kerana jika model AI berkuasa secara meluas tersedia, model ini boleh digunakan untuk menyebabkan kemudaratan.

Senator Amerika Syarikat Richard Blumenthal dan Josh Hawley mengeluarkan rangka kerja untuk rang undang-undang AI AS yang mencari garis panduan lain pada 7 September. Di bawah rangka kerja itu, pembangun AI akan memerlukan lesen untuk membangunkan sistem paling canggih, dan mengambil langkah untuk mengehadkan pemindahan model AI maju kepada “China, Rusia, dan negara lawan lain.” Kedua-dua langkah ini sangat bertentangan dengan menggalakkan model sumber terbuka yang berkuasa.

“Dasar persaingan perlu digandingkan dengan peraturan proaktif risiko lain, termasuk risiko keselamatan,” kata Korinek. “Jika jenis peraturan itu ketinggalan, menggalakkan persaingan sebenarnya boleh memberi kesan buruk kepada keselamatan.”

Pada akhirnya, memandangkan kebanyakan model AI sumber terbuka berkuasa dibangunkan di luar UK, badan kawal selia di UK akan mempunyai kuasa terhad ke atas bekalan sistem AI sumber terbuka jika AS dan negara lain mengambil tindakan untuk mencegah pelepasan mereka.

Syarikat yang membangunkan model asas perlu dipertanggungjawabkan untuk memastikan pengguna dilindungi, menurut laporan itu.

Suruhanjaya Perdagangan Persekutuan (FTC), agensi persaingan dan perlindungan pengguna AS, sudah mengambil tindakan terhadap perlindungan pengguna. Pada bulan Julai, FTC membuka siasatan terhadap OpenAI tentang sama ada ChatGPT, chatbot bertenaga AI, telah merosakkan pengguna melalui pengumpulan data dan penerbitan maklumat palsu.

FTC, di bawah kepimpinan Lina Khan, telah mengambil sikap konfrontasi terhadap peraturan AI. Dalam siaran blog yang diterbitkan pada bulan Jun, FTC menyerlahkan kebimbangan persaingan berpotensi yang ditimbulkan oleh AI generatif – sistem yang menghasilkan kandungan dan bukannya menganalisis data sedia ada. (Model asas sering melakukan tugas generatif, tetapi tidak semua model asas adalah generatif dan tidak semua sistem generatif adalah model asas).

Siaran blog itu menyentuh banyak isu yang sama yang diterokai oleh laporan CMA. Sebagai contoh, siaran itu menyuarakan kebimbangan tentang kuasa pasaran pembekal pengkomputeran awan. Korinek menyatakan bahawa pengawal selia persaingan kelihatan membuat usaha yang lebih besar untuk berkoordinasi bagi mencegah firma mengelak peraturan.

Akta AI Kesatuan Eropah , yang kini sedang melalui proses peraturan blok itu, mengenakan keperluan ketelusan dan penilaian risiko untuk model asas. Syarikat di sebalik model asas, seperti OpenAI, Google, dan Microsoft, akan dikehendaki mengisytiharkan sama ada bahan berhak cipta telah digunakan untuk melatih AI mereka.

Langkah berhati-hati seterusnya

Bidang kuasa CMA sebagai pengawal selia persaingan melampaui hanya UK, seperti yang ditunjukkan apabila ia menghalang percubaan raksasa teknologi Microsoft untuk memperoleh pengeluar permainan video Activision Blizzard sebanyak $69 bilion.

Badan kawal selia itu menyatakan dalam kertas kerja model asasnya bahawa ia “akan waspada terhadap sebarang kebimbangan persaingan yang timbul dalam pasaran di mana [model asas] memainkan peranan dan tidak akan ragu-ragu menggunakan kuasanya di mana sesuai.”

Tetapi, laporan itu juga menyatakan bahawa langkah seterusnya adalah “program penglibatan yang signifikan” dengan pihak berkepentingan, berakhir dengan penerbitan kemas kini pada awal 2024, menandakan pendekatan yang berhati-hati.

Dalam tweet, Cristina Caffara, pakar di firma perundingan ekonomi Keystone Strategy, berkata bahawa CMA terlalu berhati-hati, dan bahawa struktur pasaran adalah sedemikian rupa sehingga pembangun model asas akan dapat menyalahgunakan kuasa pasaran mereka. Pengawal selia persaingan membuat kesilapan yang sama dalam kes platform digital, dia menambah.

“Kami mengakui bahawa pasaran model asas sedang berkembang pesat dan sepenuhnya sedar akan risikonya,” kata jurucakap CMA dalam kenyataan e-mel. “Itulah sebabnya kami telah menetapkan prinsip-prinsip yang dicadangkan ini sekarang agar dapat membantu memandu pasaran ke hasil yang lebih positif dan memaksimumkan potensi teknologi ini.”

“Dengan bekerja sama dengan pihak berkepentingan, matlamat kami adalah untuk membangunkan prinsip-prinsip ini untuk memastikan persaingan dan perlindungan pengguna yang berkesan berada di