(SeaPRwire) –   Apabila seorang jurutera perisian duduk untuk mengawal penyedut debu robot DJI Romo barunya dengan pengawal permainan video PlayStation 5, dia tidak menjangkakan untuk secara tidak sengaja menguasai rangkaian pengawasan global. Dengan menggunakan pembantu pengekodan AI untuk mereka bentuk semula cara penyedut debu itu berkomunikasi dengan pelayan jauh DJI, Azdoufal mengekstrak token keselamatan yang bertujuan untuk membuktikan bahawa dia adalah pemilik peranti tertentu miliknya. Sebaliknya, seperti , pelayan belakang menganggapnya sebagai pemilik hampir 7,000 penyedut debu robot yang beroperasi di 24 negara.

Dengan beberapa tekanan kekunci, Azdoufal mendapati dia boleh mengakses talian pemancaran kamera langsung, mengaktifkan mikrofon, dan bahkan menyusun pelan lantai 2D rumah persendirian orang asing. Walaupun dia bertanggungjawab melaporkan kecacatan keselamatan () daripada mengeksploitasinya, kelemahan yang mengejutkan ini menonjolkan realiti yang menakutkan: Integrasi sistem automatik yang cepat dan tidak terkawal sedang mencipta jurang keselamatan yang besar dan tidak pernah berlaku sebelum ini.

Berjuta-juta rakyat Amerika semakin menerima peranti yang bersambung internet ini ke dalam ruang paling intim mereka. Kira-kira 54 juta isi rumah AS mempunyai sekurang-kurangnya satu peranti rumah pintar yang dipasang pada tahun 2020, . Tambahan pula, syarikat seperti , Figure, dan 1X bersaing untuk memperkenalkan yang canggih dan yang mampu tinggal di rumah dan melakukan tugas rumahan yang kompleks.

Keupayaan pengawasan peranti pintar menjadi perkara perbincangan nasional awal tahun ini, apabila di awan mengenai dugaan penculikan Nancy Guthrie, ibu hos rancangan Today Savannah Guthrie. Itu diikuti tidak lama kemudian dengan iklan Super Bowl untuk produk Ringnya, yang sepatutnya menjadi penyelamatan yang menarik bagi anjing hilang tetapi sebenarnya mendedahkan bahawa kamera bersambung rangkaian yang mampu mengintai rakyat Amerika ada di mana-mana. Reaksi negatif itu nampaknya dengan firma pengawasan polis. Sekali anda menambah agen AI autonomi ke dalam campuran ini, anda akan mempunyai apa yang digambarkan oleh raksasa siber Thales sebagai senario mimpi ngeri yang baru muncul.

Senario mimpi ngeri yang hampir berlaku

Menurut yang baru-baru ini dikeluarkan , sebanyak 70% organisasi kini secara jelas menyebut AI sebagai risiko keselamatan data teratas mereka. Dan sama seperti penyedut debu DJI yang bergantung pada pelayan awan jauh, perusahaan-perusahaan dengan bersemangat memasang AI ke dalam aliran kerja harian mereka, memberikan sistem automatik akses luas kepada data perusahaan yang luas.

Isu teras adalah kekurangan penglihatan dan kawalan data asas yang mengejutkan. mendedahkan hanya 34% organisasi sebenarnya mengetahui di mana semua data sensitif mereka berada. Dan kerana sistem AI terus-menerus mengambil dan bertindak ke atas maklumat merentasi persekitaran awan yang luas, adalah sangat sukar untuk menguatkuasakan “akses keistimewaan minimum”, atau amalan pemberian hanya hak akses minimum yang diperlukan. Jika kredential mesin—seperti token atau kunci API—dicuri, pendedahan data yang terhasil boleh menjadi dahsyat.

Sebenarnya, pencurian kredential adalah teknik serangan terkemuka terhadap infrastruktur pengurusan awan, yang disebut oleh 67% organisasi yang telah mengalami serangan awan. Bayangkan 7,000 penyedut debu robot, tetapi peranti Nest atau Ring seluruh komuniti, dikawal oleh agen AI sebaliknya.

Rodney Brooks, pengasas bersama iRobot, pencipta penyedut debu Roomba pencipta visi Elon Musk tentang masa depan yang dikuasai oleh robot humanoid adalah ,” kerana mereka terlalu kikuk.

“Robot humanoid hari ini tidak akan belajar bagaimana untuk menjadi cekap walaupun ratusan juta, atau mungkin berbilion-bilion dolar, disumbangkan oleh VC dan syarikat teknologi utama untuk membayar latihan mereka,” tulis Brooks dalam sebuah . Tidak jelas sama ada pemikiran itu meluas kepada manusia atau agen AI yang mengawal robot itu dari jauh.

“Risiko dalaman bukan lagi hanya tentang manusia. Ia juga tentang sistem automatik yang terlalu cepat dipercayai,” tegaskan Sebastien Cano, naib presiden kanan produk keselamatan siber di Thales. Apabila langkah-langkah keselamatan asas seperti tadbir urus identiti dan dasar akses lemah, Cano menyatakan “AI boleh memperbesarkan kelemahan itu di seluruh persekitaran korporat jauh lebih cepat daripada manusia.”

Yang membuat keadaan lebih buruk, alat yang digunakan untuk membina perisian sedang merendahkan halangan kemasukan untuk mengeksploitasi sistem ini. Alat pengekodan berkuasa AI—seperti yang digunakan Azdoufal untuk dengan mudah mereka bentuk semula pelayan DJI—membuatkan individu dengan pengetahuan teknikal yang kurang lebih mudah untuk menemui dan mengeksploitasi kecacatan perisian. Walaupun ancaman automatik ini semakin meningkat, hanya 30% syarikat yang disoal selidik kini mempunyai bajet keselamatan AI khusus, sebaliknya bergantung pada pertahanan perimeter tradisional yang dibina untuk pengguna manusia.

Seperti yang ditunjukkan oleh Eric Hanselman, penganalisis ketua di 451 Research S&P Global, perubahan paradigma asas sangat diperlukan.

“Apabila AI menjadi sangat berkaitan dengan operasi perusahaan, penglihatan dan perlindungan data yang berterusan bukan lagi pilihan,” kata Hanselman.

Tanpa pemikiran semula yang radikal mengenai protokol identiti dan penyulitan, masyarakat pada dasarnya membuka pintu depan lebar-lebar untuk jurutera perisian seterusnya yang membawa pengawal permainan video.