AI secara beransur-ansur menjadi "doktor dalam talian".

Perkembangan pesat bot sembang AI seperti ChatGPT, Gemini dan Claude sedang mengubah cara orang ramai mengakses maklumat perubatan . Dengan hanya beberapa baris soalan, pengguna boleh menerima respons yang hampir serta-merta tentang simptom, ubat-ubatan, penyakit atau kesihatan mental tanpa perlu menjadualkan temu janji atau menunggu di hospital.

Satu tinjauan oleh King's College London terhadap lebih 2,000 orang di UK mendapati bahawa lebih daripada 15% telah menggunakan chatbot AI untuk bertanya tentang isu kesihatan dan bukannya berunding dengan pengamal perubatan am atau sistem kesihatan awam NHS.

Selain masalah fizikal, AI juga digunakan oleh ramai untuk menyokong kesihatan mental. Kira-kira 10% daripada mereka yang ditinjau melaporkan menggunakan chatbot untuk mendapatkan sokongan kesihatan mental dan bukannya profesional terlatih. Pakar menganggap ini sebagai petanda yang membimbangkan, kerana AI semakin menjadi "talian hubungan pertama" untuk banyak masalah kesihatan.

Dengan hanya beberapa baris soalan, pengguna boleh menerima respons yang hampir serta-merta tentang simptom, ubat-ubatan, penyakit atau kesihatan mental daripada chatbot AI. (Imej: nationalhealthexecutive.com)

Menurut kajian itu, kemudahan merupakan sebab paling biasa orang ramai beralih kepada AI. Hampir separuh daripada peserta berkata chatbot membantu mereka mengakses maklumat dengan lebih cepat dan mudah. ​​Ramai yang lain menggunakan AI kerana ingin tahu tentang teknologi baharu atau kerana mereka tidak pasti sama ada keadaan mereka cukup serius sehingga memerlukan doktor untuk menghubungi mereka.

Profesor Graham Lord, penulis utama kajian itu, menyatakan bahawa percambahan chatbot sedang mewujudkan “sistem penjagaan kesihatan AI yang tidak dikawal selia selari dengan sistem kesihatan awam.” Menurutnya, AI sedang mengubah cara orang ramai mengakses penjagaan kesihatan dengan pantas, tetapi ini datang dengan isu-isu utama yang berkaitan dengan kebolehpercayaan, keselamatan dan akauntabiliti.

Trend ini tidak terhad kepada UK; ia juga meningkat pesat di banyak negara. Di AS, satu tinjauan oleh Pusat Kesihatan Barat-Gallup mengenai penjagaan kesihatan yang melibatkan kira-kira 5,600 orang dewasa mendedahkan bahawa seorang daripada empat orang menggunakan chatbot untuk mencari maklumat atau nasihat berkaitan kesihatan. Sekitar 14% melaporkan bahawa mereka tidak berjumpa doktor selepas menerima maklumat daripada AI.

Risiko yang tidak dijangka

Bersamaan dengan popularitinya yang semakin meningkat, muncul pelbagai amaran tentang risiko nasihat yang salah atau berbahaya yang tidak dapat diramalkan daripada chatbot AI. Banyak kajian terbaru menunjukkan bahawa chatbot AI sememangnya boleh memberikan diagnosis yang tidak tepat atau nasihat yang berpotensi berbahaya kepada pengguna, terutamanya dalam situasi perubatan yang kompleks atau situasi yang kekurangan data.

Dalam satu kajian yang diterbitkan dalam JAMA Network Open oleh sekumpulan penulis daripada sistem penjagaan kesihatan Mass General Brigham, saintis meminta 21 model AI untuk "memainkan peranan sebagai doktor" bagi mengendalikan situasi perubatan hipotetikal. Keputusan menunjukkan bahawa chatbot sering tergesa-gesa membuat kesimpulan dan bukannya mengekalkan keraguan dan terus menganalisis seperti doktor sebenar. Kajian itu mendedahkan bahawa chatbot ini salah mendiagnosis 80% kes.

Sementara itu, hasil kajian lain yang diterbitkan dalam BMJ Open, yang menguji lima chatbot AI dengan 250 soalan berkaitan kanser, vaksin, pemakanan dan topik kesihatan lain yang mudah terdedah kepada maklumat salah, menunjukkan bahawa kadar jawapan yang betul adalah lebih 50%, manakala kira-kira 20% daripada jawapan yang salah dianggap berpotensi berbahaya jika diikuti. Nicholas Tiller, pengarang bersama kajian itu, berkata perkara yang paling membimbangkan ialah AI sering menjawab dengan keyakinan yang tinggi walaupun salah. "Jika seseorang mengikuti nasihat itu, terdapat kemungkinan besar mereka akan dicederakan," katanya.

Isu yang paling membimbangkan ialah ramai orang mula menganggap chatbot sebagai doktor sebenar. Menurut tinjauan oleh King's College London, kira-kira 20% orang yang telah menggunakan AI berkata bahawa respons chatbot membuatkan mereka berfikir bahawa mereka tidak perlu berjumpa doktor atau profesional perubatan. Hampir seperempat daripada mereka berkata mereka memutuskan untuk tidak berjumpa doktor selepas membaca respons AI.

Angka-angka ini telah menyebabkan pakar bimbang bahawa AI boleh meningkatkan kadar kelewatan rawatan atau rawatan kendiri tanpa panduan daripada doktor.

Profesor Victoria Tzortziou Brown, Pengerusi Royal College of General Practitioners di UK, memberi amaran bahawa ia akan menjadi "sangat membimbangkan" jika orang ramai menggunakan AI dan bukannya pemeriksaan perubatan secara bersemuka. Menurutnya, AI boleh memberikan jawapan yang cepat tetapi tidak boleh menggantikan pemeriksaan fizikal, menilai sejarah perubatan, mengenali tanda-tanda halus atau membuat keputusan klinikal berasaskan bukti. "Maklumat yang diberikan oleh AI mungkin tidak tepat, mengelirukan atau kekurangan konteks penting," tegasnya.

Menurut pakar, kebanyakan chatbot hari ini dibina berdasarkan Model Bahasa Besar (LLM), yang direka terutamanya untuk mewujudkan perbualan semula jadi dan cenderung untuk "menyenangkan" pengguna. Ini menyebabkan AI cenderung untuk bersetuju dengan penanya dan bukannya berhujah atau bertanya soalan lanjut untuk memeriksa ketepatannya. Selain itu, bertanya soalan juga boleh menyesatkan chatbot.

Dalam satu contoh yang didokumenkan, chatbot pada mulanya memberi amaran kepada pengguna agar tidak melakukan prosedur perubatan di rumah, tetapi kemudian terus memberikan arahan langkah demi langkah yang terperinci. Menurut Dr. Monica Agrawal, seorang pakar di Universiti Duke, seorang doktor sebenar akan segera menamatkan perbualan dan bukannya terus memberikan arahan berbahaya.

Menurut para penyelidik, AI menghadapi masalah terutamanya dalam situasi dengan data terhad atau pelbagai kemungkinan diagnosis. Pakar juga memberi amaran bahawa chatbot AI terdedah kepada maklumat salah di internet. Dalam satu eksperimen pada tahun 2024, para penyelidik mencipta sejenis penyakit palsu yang dipanggil "bixonimania" dan kemudian menyiarkan beberapa dokumen palsu dalam talian. Hanya beberapa minggu kemudian, banyak chatbot mula memetik penyakit yang tidak wujud ini sebagai diagnosis perubatan sebenar.

Walaupun AI boleh menjadi alat yang berguna dalam mengakses pengetahuan perubatan asas, menerangkan literatur khusus atau berfungsi sebagai rujukan awal sebelum lawatan doktor, pakar menekankan bahawa teknologi ini hanya sepatutnya menjadi alat sokongan dan tidak boleh menggantikan profesional perubatan. Penyelidik juga menyeru agar mekanisme pengawalseliaan dan pengesahan bebas diwujudkan lebih awal bagi memastikan keselamatan pengguna.

    Sumber: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994