AI secara bertahap menjadi "dokter online".

Perkembangan pesat chatbot AI seperti ChatGPT, Gemini, dan Claude mengubah cara orang mengakses informasi medis . Hanya dengan beberapa baris pertanyaan, pengguna dapat menerima respons yang hampir instan tentang gejala, pengobatan, penyakit, atau kesehatan mental tanpa perlu menjadwalkan janji temu atau menunggu di rumah sakit.

Sebuah survei yang dilakukan oleh King's College London terhadap lebih dari 2.000 orang di Inggris menemukan bahwa lebih dari 15% telah menggunakan chatbot AI untuk menanyakan masalah kesehatan alih-alih berkonsultasi dengan dokter umum atau sistem kesehatan masyarakat NHS.

Selain masalah fisik, AI juga digunakan oleh banyak orang untuk mendukung kesehatan mental. Sekitar 10% dari responden survei melaporkan menggunakan chatbot untuk mencari dukungan kesehatan mental alih-alih profesional terlatih. Para ahli menganggap ini sebagai pertanda yang mengkhawatirkan, karena AI semakin menjadi "lini kontak pertama" untuk banyak masalah kesehatan.

Hanya dengan beberapa baris pertanyaan, pengguna dapat menerima respons yang hampir instan tentang gejala, pengobatan, penyakit, atau kesehatan mental dari chatbot AI. (Gambar: nationalhealthexecutive.com)

Menurut penelitian tersebut, kemudahan adalah alasan paling umum orang beralih ke AI. Hampir setengah dari peserta mengatakan chatbot membantu mereka mengakses informasi lebih cepat dan mudah. ​​Banyak lainnya menggunakan AI karena rasa ingin tahu tentang teknologi baru atau karena mereka tidak yakin apakah kondisi mereka cukup serius untuk memerlukan konsultasi dokter.

Profesor Graham Lord, penulis utama studi tersebut, mencatat bahwa proliferasi chatbot menciptakan "sistem perawatan kesehatan berbasis AI yang tidak diatur secara paralel dengan sistem kesehatan masyarakat." Menurutnya, AI dengan cepat mengubah cara orang mengakses perawatan kesehatan, tetapi hal ini disertai dengan masalah besar terkait keandalan, keamanan, dan akuntabilitas.

Tren ini tidak hanya terbatas di Inggris; tren ini juga meningkat pesat di banyak negara. Di AS, sebuah survei oleh West Health-Gallup Center tentang perawatan kesehatan yang melibatkan sekitar 5.600 orang dewasa mengungkapkan bahwa satu dari empat orang menggunakan chatbot untuk mencari informasi atau saran terkait kesehatan. Sekitar 14% melaporkan bahwa mereka tidak menemui dokter setelah menerima informasi dari AI.

Risiko yang tidak terduga

Seiring dengan meningkatnya popularitas, muncul pula sejumlah peringatan tentang risiko tak terduga dari saran yang salah atau berbahaya dari chatbot AI. Banyak studi terbaru menunjukkan bahwa chatbot AI memang dapat memberikan diagnosis yang tidak akurat atau saran yang berpotensi berbahaya kepada pengguna, terutama dalam situasi medis yang kompleks atau situasi yang kekurangan data.

Dalam sebuah studi yang diterbitkan di JAMA Network Open oleh tim penulis dari sistem perawatan kesehatan Mass General Brigham, para ilmuwan meminta 21 model AI untuk "berperan sebagai dokter" untuk menangani situasi medis hipotetis. Hasilnya menunjukkan bahwa chatbot sering terburu-buru mengambil kesimpulan alih-alih mempertahankan keraguan dan terus menganalisis seperti dokter sungguhan. Studi tersebut mengungkapkan bahwa chatbot ini salah mendiagnosis 80% kasus.

Sementara itu, hasil studi lain yang diterbitkan di BMJ Open, yang menguji lima chatbot AI dengan 250 pertanyaan terkait kanker, vaksin, nutrisi, dan topik kesehatan lainnya yang rentan terhadap informasi yang salah, menunjukkan bahwa tingkat jawaban yang benar hanya sedikit di atas 50%, sedangkan sekitar 20% dari jawaban yang salah dianggap berpotensi berbahaya jika diikuti. Nicholas Tiller, salah satu penulis studi tersebut, mengatakan hal yang paling mengkhawatirkan adalah bahwa AI sering menjawab dengan tingkat kepercayaan diri yang tinggi bahkan ketika salah. "Jika seseorang mengikuti saran itu, ada kemungkinan besar mereka akan dirugikan," katanya.

Masalah yang paling mengkhawatirkan adalah banyak orang mulai menganggap chatbot sebagai dokter sungguhan. Menurut survei oleh King's College London, sekitar 20% orang yang telah menggunakan AI mengatakan bahwa respons chatbot membuat mereka berpikir bahwa mereka tidak perlu menemui dokter atau tenaga medis profesional. Hampir seperempatnya bahkan mengatakan mereka memutuskan untuk tidak menemui dokter setelah membaca respons AI.

Angka-angka ini telah membuat para ahli khawatir bahwa AI dapat meningkatkan tingkat keterlambatan pengobatan atau pengobatan mandiri tanpa bimbingan dari dokter.

Profesor Victoria Tzortziou Brown, Ketua Royal College of General Practitioners di Inggris, memperingatkan bahwa akan "sangat mengkhawatirkan" jika orang menggunakan AI sebagai pengganti pemeriksaan medis langsung. Menurutnya, AI dapat memberikan jawaban cepat tetapi tidak dapat menggantikan pemeriksaan fisik, penilaian riwayat medis, pengenalan tanda-tanda halus, atau pengambilan keputusan klinis berdasarkan bukti. "Informasi yang diberikan AI mungkin tidak akurat, menyesatkan, atau kurang konteks penting," tegasnya.

Menurut para ahli, sebagian besar chatbot saat ini dibangun berdasarkan Large Language Model (LLM), yang dirancang terutama untuk menciptakan percakapan alami dan cenderung "menyenangkan" pengguna. Hal ini menyebabkan AI cenderung setuju dengan penanya daripada berdebat atau mengajukan pertanyaan lebih lanjut untuk memeriksa keakuratannya. Selain itu, mengajukan pertanyaan juga dapat menyesatkan chatbot.

Dalam satu kasus yang terdokumentasi, chatbot awalnya memperingatkan pengguna agar tidak melakukan prosedur medis di rumah, tetapi kemudian memberikan instruksi langkah demi langkah yang terperinci. Menurut Dr. Monica Agrawal, seorang ahli di Universitas Duke, seorang dokter sungguhan akan segera mengakhiri percakapan daripada terus memberikan instruksi yang berbahaya.

Menurut para peneliti, AI khususnya kesulitan dalam situasi dengan data terbatas atau banyak kemungkinan diagnosis. Para ahli juga memperingatkan bahwa chatbot AI rentan terhadap informasi yang salah di internet. Dalam sebuah eksperimen tahun 2024, para peneliti menciptakan penyakit palsu yang disebut "bixonimania" dan kemudian memposting serangkaian dokumen palsu secara online. Hanya beberapa minggu kemudian, banyak chatbot mulai mengutip penyakit yang tidak ada ini sebagai diagnosis medis yang nyata.

Meskipun AI dapat menjadi alat yang berguna dalam mengakses pengetahuan medis dasar, menjelaskan literatur khusus, atau berfungsi sebagai referensi awal sebelum kunjungan ke dokter, para ahli menekankan bahwa teknologi ini hanya boleh menjadi alat pendukung dan tidak dapat menggantikan tenaga medis profesional. Para peneliti juga menyerukan pembentukan mekanisme regulasi dan verifikasi independen sedini mungkin untuk memastikan keamanan pengguna.

    Sumber: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994