(SeaPRwire) –   Apabila hospital beralih kepada AI, pesakit mungkin tidak lagi tahu siapa—atau apa—yang membuat keputusan perubatan mereka. Sebagai doktor ER, kami melihat bagaimana panduan AI mengubah makna untuk melangkah masuk ke bilik kecemasan.

Ini bukan cerita tentang polisi. Ini adalah cerita budaya: tentang maksud mempunyai kepercayaan kepada doktor anda apabila “doktor” mungkin adalah algoritma. Menurut satu baru-baru ini, aplikasi AI di jabatan kecemasan sudah digunakan untuk saringan (triage), ramalan risiko, dan model penempatan kakitangan, iaitu pelan yang membantu hospital memastikan mereka mempunyai jumlah dan gabungan doktor, jururawat, dan kakitangan lain yang sesuai bekerja pada masa yang tepat untuk menjaga pesakit. Pesakit mungkin tidak tahu sama ada orang yang merawat mereka adalah doktor atau hibrid yang dibantu AI. Itu boleh terasa lancar, atau membimbangkan, bergantung kepada taruhan. Kami sedang bergelut dengan transformasi senyap ER, di mana tekanan kos, kekurangan kakitangan, dan pembantu AI (AI copilots) sedang menulis semula maksud melihat seorang doktor, dan maksud mempercayai seorang doktor.

Peralihan daripada doktor kepada AI bukan sekadar penyelesaian kakitangan, tetapi lebih kepada perubahan besar dalam cara keputusan perubatan dibuat. Setiap satu datang dengan pertukaran. AI boleh memproses sejumlah besar data dalam beberapa saat, tetapi ia tidak boleh melihat pesakit di mata dan mengenali ketakutan, menghargai detik-detik senyap penderitaan manusia, atau menangkap petunjuk tidak terucap yang datang daripada memegang tangan seseorang yang kesakitan. Sebahagian daripada latihan perubatan kami selama lebih 10,000 jam untuk menjadi doktor ER adalah mengembangkan naluri bahawa sesuatu tidak kena, walaupun tanda vital dan ujian makmal pesakit kelihatan baik. Ia adalah menangkap petunjuk halus—sedikit kekeliruan, percakapan yang sedikit gagap pada pesakit, kepanikan senyap di mata mereka—yang mungkin tidak disebut oleh pesakit, dan juga tidak dapat dirasakan oleh algoritma. Elemen manusia, intipati kepercayaan dan belas kasihan, adalah tempat AI tersandung.

Syarikat teknologi sedang berlumba untuk mengintegrasikan AI ke dalam ruang klinikal dengan mencipta sistem saringan digital, pembantu diagnostik, dan alat sokongan keputusan yang direka untuk menambah atau bahkan menggantikan pengawasan doktor. Dan hospital bergerak pantas untuk menggunakannya, tertarik dengan janji kos yang lebih rendah dan ketepatan diagnostik yang lebih tajam. Dalam satu baru-baru ini, AI berprestasi setanding dengan doktor bukan pakar, bukti betapa cepatnya algoritma mengejar pakar klinikal manusia di bilik pemeriksaan. OpenAI, Google, dan Microsoft sedang menguji aplikasi penjagaan kesihatan berasaskan AI secara eksplisit. Salah satu syarikat tersebut, Open Evidence AI, sedang membina alat berkuasa AI untuk memberikan jawapan perubatan berasaskan bukti yang cepat kepada pakar klinikal, dan sudah bernilai $3.5 bilion.

Untuk pasti, ada tempat di mana AI boleh menyerlah. Ia boleh mendedahkan corak yang tidak kelihatan walaupun kepada pakar klinikal yang paling berpengalaman, mengaitkan hasil makmal dari beberapa bulan yang lalu dengan senarai ubat dan sekumpulan simptom untuk menandakan risiko jangkitan teruk sebelum orang lain melihatnya. Ia boleh mencari interaksi ubat yang kurang diketahui, menyokong pembuatan keputusan, dan mempercepatkan dokumentasi, memberikan lebih banyak masa kepada doktor untuk pesakit dan mengurangkan keletihan. Digunakan dengan betul, AI kurang sebagai pengganti intuisi dan lebih sebagai pengganda daya untuknya.

Mungkin lebih daripada segalanya, apa yang baru adalah bahawa kedua-dua pesakit dan doktor kini menggunakan AI, tetapi bukan dengan cara yang sama.

Beberapa malam yang lalu, seorang wanita muda datang ke ER dengan sakit dada. Ujian-ujiannya semuanya normal, tetapi dia masih kelihatan gelisah. Apabila saya bertanya sama ada dia risau tentang sesuatu, dia mengaku telah ‘terjerumus’ ke dalam ‘rabbit hole’ ChatGPT setelah menyedari beberapa degupan jantung yang terlepas. Chatbot itu memberitahunya dia mungkin menghidap : keadaan jantung yang jarang dan mematikan. (Dia tidak.) Panik yang menyusul kemungkinan menyebabkan simptom-simptom yang membawanya masuk.

Seorang lagi pesakit, seorang lelaki muda, tiba dengan yakin dia menghidap apendisitis kerana ChatGPT memberitahunya. Kali ini, dia betul. Simptomnya adalah seperti yang terdapat dalam buku teks, dan pelajar perubatan yang menemuinya secara bebas membuat diagnosis yang sama. AI membantu pesakit mencari diagnosisnya lebih awal dan mendapatkan rawatan. Namun dia masih memerlukan tangan mahir seorang pakar bedah untuk membuang apendiksnya.

Itulah paradoks masa ini: teknologi yang sama yang mencetuskan kekeliruan dan ketakutan juga boleh menajamkan pandangan dan mempercepatkan rawatan. Ia bukan sahaja mengubah cara kita mendiagnosis, ia juga mengubah cara pesakit tiba dan siapa yang menjaga mereka. Kos, kakitangan, dan teknologi telah mengaburkan garis antara penjagaan manusia dan mesin, memperkenalkan jenis perubatan baharu: pesakit dirawat oleh pakar klinikal yang rakan sekerja paling berkuasa mungkin adalah algoritma.

Masalahnya bukan hanya AI boleh membuat diagnosis yang salah, ia juga adalah penggunaan AI jangka panjang boleh membahayakan pandangan pakar klinikal. Dalam satu , doktor kurang cenderung untuk mengesan bintik-bintik yang mungkin kanser pada kolonoskopi selepas mereka biasa menggunakan alat AI. Para penulis membuat hipotesis bahawa semakin mereka bergantung pada algoritma, semakin kurang pertimbangan manusia yang mereka gunakan.

Peralihan untuk mengintegrasikan AI atau pakar klinikal bukan doktor ke dalam ER tidak semestinya buruk, tetapi ia selalunya tidak kelihatan kepada pesakit. Dan itulah masalahnya.

Pesakit berhak tahu bila penjagaan mereka dipandu oleh AI, siapa yang akhirnya bertanggungjawab atas keputusan yang dibuat, dan apakah perlindungan yang ada apabila “doktor di bilik” mungkin adalah algoritma.

Ketelusan tidak akan menghentikan kemajuan teknologi, tetapi ia mungkin membantu memelihara sesuatu yang tidak mampu hilang dalam perubatan: kepercayaan.