(SeaPRwire) –   Jika anda atau seseorang yang anda kenali mungkin mengalami krisis kesihatan mental atau mempunyai niat untuk membunuh diri, hubungi atau SMS 988. Dalam keadaan kecemasan, hubungi 911, atau dapatkan rawatan daripada hospital tempatan atau penyedia kesihatan mental. Untuk sumber antarabangsa, .

Satu rang undang-undang baharu yang diperkenalkan di Kongres hari ini akan menghendaki sesiapa sahaja yang memiliki, mengendalikan, atau membolehkan akses kepada AI chatbots di Amerika Syarikat untuk mengesahkan umur pengguna mereka—dan, jika pengguna didapati di bawah umur, untuk melarang mereka daripada menggunakan AI companions.

GUARD Act—diperkenalkan oleh Senator Josh Hawley, seorang Republikan dari Missouri, dan Richard Blumenthal, seorang Demokrat dari Connecticut—bertujuan untuk melindungi kanak-kanak dalam interaksi mereka dengan AI. “Chatbots ini boleh memanipulasi emosi dan mempengaruhi tingkah laku dengan cara yang mengeksploitasi kelemahan perkembangan kanak-kanak di bawah umur,” menurut rang undang-undang itu.

Rang undang-undang itu diperkenalkan selepas Hawley mempengerusikan pendengaran subkomite Kehakiman Senat mengenai Bahaya AI Chatbots bulan lalu, di mana jawatankuasa itu mendengar testimoni daripada ibu bapa tiga remaja lelaki yang mula mencederakan diri sendiri atau membunuh diri setelah menggunakan chatbots daripada OpenAI dan Character.AI. Hawley juga melancarkan siasatan terhadap dasar AI Meta pada bulan Ogos, berikutan pendedahan dokumen dalaman yang membenarkan chatbots untuk “melibatkan kanak-kanak dalam perbualan yang bersifat romantis atau sensual.” 

Rang undang-undang itu mendefinisikan “AI companions” secara meluas, untuk merangkumi mana-mana AI chatbot yang “menyediakan respons adaptif, seperti manusia kepada input pengguna” dan “direka untuk menggalakkan atau memudahkan simulasi interaksi interpersonal atau emosi, persahabatan, pertemanan, atau

komunikasi terapeutik.” Oleh itu, ia boleh digunakan untuk penyedia model sempadan seperti OpenAI dan Anthropic (pencipta ChatGPT dan Claude), dan syarikat seperti dan Replika, yang menyediakan AI chatbots yang berpura-pura menjadi watak-watak tertentu. 

Ia juga akan memerlukan langkah-langkah pengesahan umur yang melangkaui hanya memasukkan tarikh lahir, memerlukan “pengenalan diri yang dikeluarkan kerajaan” atau “kaedah lain yang munasabah secara komersial” yang dapat menentukan dengan tepat sama ada pengguna adalah kanak-kanak di bawah umur atau orang dewasa. 

Merekabentuk atau menyediakan chatbots yang berisiko menarik, menggalakkan, atau mendorong kanak-kanak di bawah umur untuk terlibat dalam tingkah laku seksual, atau yang mempromosikan atau memaksa “bunuh diri, mencederakan diri sendiri bukan bunuh diri, atau keganasan fizikal atau seksual yang akan berlaku,” juga akan dijadikan kesalahan jenayah, dan boleh menyebabkan syarikat dikenakan denda sehingga $100,000. 

“Kami digalakkan oleh pengenalan GUARD Act baru-baru ini dan menghargai kepimpinan Senator Hawley dan Blumenthal dalam usaha ini,” menurut kenyataan yang ditandatangani oleh gabungan organisasi termasuk Young People’s Alliance, Tech Justice Law Project, dan Institute for Families and Technology. “Mencatat bahawa rang undang-undang ini adalah sebahagian daripada gerakan nasional untuk melindungi kanak-kanak dan remaja daripada bahaya companion chatbots,” kenyataan itu mencadangkan agar rang undang-undang itu mengukuhkan definisinya mengenai AI companions, dan agar ia “menumpukan pada reka bentuk platform, melarang platform AI daripada menggunakan ciri-ciri yang memaksimumkan penglibatan sehingga menjejaskan keselamatan dan kesejahteraan golongan muda.”

Rang undang-undang itu juga akan menghendaki AI chatbots untuk mengingatkan semua pengguna secara berkala bahawa mereka bukan manusia, dan untuk mendedahkan bahawa mereka tidak “menyediakan perkhidmatan perubatan, undang-undang, kewangan, atau psikologi.”

Awal bulan ini, Gabenor California Gavin Newsom menandatangani SB243 menjadi undang-undang, yang juga menghendaki syarikat AI yang beroperasi di negeri itu untuk melaksanakan perlindungan bagi kanak-kanak, termasuk mewujudkan protokol untuk mengenal pasti dan menangani ideasi bunuh diri dan mencederakan diri sendiri, serta mengambil langkah untuk mencegah pengguna daripada mencederakan diri mereka sendiri. Undang-undang itu dijangka berkuat kuasa mulai 1 Januari 2026.

Pada bulan September, OpenAI mengumumkan mereka sedang “sistem ramalan umur” yang secara automatik akan mengarahkan kepada versi ChatGPT yang mesra remaja. Bagi kanak-kanak di bawah umur, “ChatGPT akan dilatih untuk tidak melakukan perbualan genit jika diminta, atau terlibat dalam perbincangan mengenai bunuh diri atau mencederakan diri sendiri walaupun dalam suasana penulisan kreatif,” tulis syarikat itu. “Dan, jika pengguna di bawah 18 tahun mempunyai ideasi bunuh diri, kami akan cuba menghubungi ibu bapa pengguna dan jika tidak dapat, akan menghubungi pihak berkuasa sekiranya berlaku bahaya yang akan berlaku.” Pada bulan yang sama, syarikat itu melancarkan “kawalan ibu bapa,” membolehkan ibu bapa mengawal pengalaman anak-anak mereka dengan produk tersebut. Kawalan ibu bapa juga diperkenalkan oleh Meta untuk model AI mereka awal bulan ini.

Pada bulan Ogos, keluarga seorang remaja yang membunuh diri melancarkan saman terhadap OpenAI, dengan alasan bahawa syarikat itu melonggarkan langkah perlindungan yang sepatutnya menghalang ChatGPT daripada terlibat dalam perbualan mengenai mencederakan diri sendiri—satu “keputusan sengaja” untuk “mengutamakan penglibatan,” menurut salah seorang peguam keluarga itu.