(SeaPRwire) –   Siapakah yang sepatutnya mengawal AI? Adakah syarikat-syarikat yang mengeluarkan teknologi berkuasa ini menjadi pengadil nasib mereka? Atau sepatutkah kuasa itu diserahkan kepada kerajaan?

Palmer Luckey, pengasas syarikat pertahanan Anduril—yang bertujuan untuk memodenkan tentera AS—berpendapat jawapannya adalah mudah: berikan kuasa kepada kerajaan. Dalam baru-baru ini dengan New York Post, pengasas jutawan itu turut menyuarakan pendapatnya mengenai perdebatan yang semakin membesar tentang siapa yang berhak menentukan bagaimana AI digunakan oleh kerajaan.

Bagi jutawan itu, adalah tanggungjawab kerajaan, dan oleh itu, rakyat, untuk membuat keputusan penggunaan khusus. Jika tidak, syarikat teknologi boleh membahayakan demokrasi.

“Kita perlu berpegang pada pendirian bahawa ini berada di tangan rakyat,” katanya. “Sesiapa yang mengatakan bahawa syarikat pertahanan harus melampaui undang-undang, melampaui apa yang dikatakan oleh ahli perundangan dan pemimpin yang dipilih dari segi siapa yang mereka akan bekerjasama dan tidak, anda sebenarnya mengatakan bahawa anda tidak mempercayai eksperimen demokrasi ini, bahawa anda mahukan ‘korporatokrasi’.”

“Dalam semua kes, sesiapa yang kerajaan Amerika Syarikat memberitahu saya bahawa saya boleh dan tidak boleh menjual kepada,” sambungnya, “mempunyai pendirian lain adalah untuk terjatuh lebih jauh ke dalam…pada asasnya eksekutif korporat mempunyai kawalan de facto ke atas dasar luar AS.”

Pemikiran Luckey muncul semasa CEO Anthropic Dario Amodei untuk membenarkan Pentagon menggunakan sepenuhnya sistem AInya untuk pengawasan besar-besaran atau untuk menggerakkan senjata sepenuhnya autonomi yang beroperasi tanpa pengawasan manusia. Hasilnya, Jabatan Pertahanan syarikat AI itu sebagai “risiko rantaian bekalan”, gelaran yang biasanya disediakan untuk firma musuh asing, seperti yang berasaskan China . Amodei berkata label itu tidak akan memberi banyak kesan kepada perniagaan syarikat, dan ia untuk menukar balik gelaran itu. Namun, ia masih dalam perbincangan dengan Pentagon mengenai penggunaan model dan alat AInya.

Tetapi Amodei, bersama dengan pengasas Anthropic—yang telah meninggalkan OpenAI bersama-sama untuk membina syarikat yang mereka katakan memberi keutamaan kepada keselamatan AI—mengekalkan bahawa permintaan Pentagon melampaui batas. “Ancaman ini tidak mengubah pendirian kami: kami tidak boleh dengan hati nurani mematuhi permintaan mereka,” kata Amodei dalam minggu lepas.

Anthropic tidak segera menjawab permintaan komen .

Silicon Valley versus Washington

Jabatan Pertahanan—dan tokoh seperti Luckey—tidak fikir ia berada di tangan kontraktor swasta untuk menentukan kes penggunaan, sebaliknya, berhujah bahawa ia berada dalam kuasa kerajaan. Tidak lama selepas perjanjian Anthropic runtuh bulan lepas, OpenAI milik Sam Altman mencapai perjanjian dengan Pentagon untuk model dan alat AI startup itu. xAI milik Elon Musk juga untuk membenarkan Pentagon menggunakan AInya, menambah persaingan kepada perkongsian eksklusif Anthropic yang pernah ada.

Anthropic bukanlah syarikat teknologi pertama yang menentang DOD. Seperti yang dicatatkan Luckey semasa temu bual, meninggalkan Pentagon pada 2018, menarik diri dari , yang melibatkan analisis rakaman drone AI, selepas ribuan pekerja memprotes penglibatan dalam program itu kerana takut ia boleh membawa kepada senjata autonomi.

“Apa yang anda akan dapat adalah dunia di mana eksekutif Silicon Valley akan mempunyai kuasa dasar luar lebih daripada presiden Amerika Syarikat,” kata Luckey. “Itu sungguh, sungguh berbahaya.”

Bagi Luckey, ia berkisar pada sama ada keputusan peringkat atas mengenai penggunaan AI adalah milik Silicon Valley atau Washington. Pandangannya adalah, tanpa mengira siapa yang berada di White House, syarikat teknologi, dan sektor swasta secara lebih luas, mempunyai tanggungjawab untuk mematuhi keputusan dasar luar pentadbiran itu.
Tetapi walaupun konflik Anthropic-Pentagon membesar, Amodei berkata dalam Khamis kedua-dua pihak dapat mencari beberapa landasan sepunya. “Anthropic mempunyai lebih banyak persamaan dengan Jabatan Perang daripada perbezaan yang kita ada,” katanya.