Yapay zeka yavaş yavaş "çevrimiçi doktor" haline geliyor.

ChatGPT, Gemini ve Claude gibi yapay zekâ destekli sohbet robotlarının hızlı gelişimi, insanların tıbbi bilgilere erişim biçimini değiştiriyor. Kullanıcılar, sadece birkaç soru sorarak, randevu almaya veya hastanelerde beklemeye gerek kalmadan semptomlar, ilaçlar, hastalıklar veya ruh sağlığı hakkında neredeyse anında yanıt alabiliyorlar.

King's College London tarafından İngiltere'de 2.000'den fazla kişiyle yapılan bir anket, katılımcıların %15'inden fazlasının genel pratisyen hekime veya NHS kamu sağlık sistemine danışmak yerine sağlık sorunları hakkında bilgi almak için yapay zeka sohbet robotlarını kullandığını ortaya koydu.

Fiziksel sorunların ötesinde, yapay zekâ birçok kişi tarafından ruh sağlığını desteklemek için de kullanılıyor. Ankete katılanların yaklaşık %10'u, eğitimli profesyoneller yerine ruh sağlığı desteği almak için sohbet robotlarını kullandığını bildirdi. Uzmanlar bunu endişe verici bir işaret olarak değerlendiriyor, çünkü yapay zekâ giderek birçok sağlık sorunu için "ilk temas noktası" haline geliyor.

Kullanıcılar, yalnızca birkaç soru sorarak yapay zekâ destekli sohbet robotlarından semptomlar, ilaçlar, hastalıklar veya ruh sağlığı hakkında neredeyse anında yanıt alabiliyorlar. (Görsel: nationalhealthexecutive.com)

Araştırmaya göre, insanların yapay zekâya yönelmesinin en yaygın nedeni kolaylık. Katılımcıların neredeyse yarısı, sohbet robotlarının bilgiye daha hızlı ve kolay erişmelerine yardımcı olduğunu söyledi. Birçok kişi ise yeni teknolojiye duydukları merak nedeniyle veya durumlarının doktora başvurmayı gerektirecek kadar ciddi olup olmadığından emin olmadıkları için yapay zekâyı kullanıyor.

Çalışmanın baş yazarı Profesör Graham Lord, chatbot'ların yaygınlaşmasının "kamu sağlık sistemiyle paralel olarak düzenlenmeyen bir yapay zeka sağlık sistemi" yarattığını belirtti. Ona göre, yapay zeka insanların sağlık hizmetlerine erişim biçimini hızla değiştiriyor, ancak bu durum güvenilirlik, güvenlik ve hesap verebilirlik ile ilgili önemli sorunları da beraberinde getiriyor.

Bu trend yalnızca İngiltere ile sınırlı değil; birçok ülkede de hızla artıyor. ABD'de, yaklaşık 5.600 yetişkinin katılımıyla gerçekleştirilen West Health-Gallup Sağlık Merkezi anketine göre, her dört kişiden biri sağlıkla ilgili bilgi veya tavsiye aramak için sohbet robotlarını kullanıyor. Yaklaşık %14'ü ise yapay zekadan bilgi aldıktan sonra doktora gitmediğini belirtti.

Öngörülemeyen riskler

Artan popülariteleriyle birlikte, yapay zekâ destekli sohbet robotlarından gelebilecek yanlış veya tehlikeli tavsiyelerin öngörülemeyen riskleri hakkında bir dizi uyarı da ortaya çıkıyor. Son dönemde yapılan birçok çalışma, yapay zekâ destekli sohbet robotlarının özellikle karmaşık tıbbi durumlarda veya veri eksikliği olan durumlarda kullanıcılara yanlış teşhisler veya potansiyel olarak zararlı tavsiyeler verebileceğini gösteriyor.

Mass General Brigham sağlık sisteminden bir ekip tarafından JAMA Network Open'da yayınlanan bir çalışmada, bilim insanları 21 yapay zekâ modelinden varsayımsal tıbbi durumları ele almak için "doktor rolünü üstlenmelerini" istedi. Sonuçlar, sohbet robotlarının gerçek doktorlar gibi şüpheyi koruyup analiz etmeye devam etmek yerine, sıklıkla aceleci sonuçlara vardığını gösterdi. Çalışma, bu sohbet robotlarının vakaların %80'inde yanlış teşhis koyduğunu ortaya koydu.

Bu arada, BMJ Open'da yayınlanan ve kanser, aşılar, beslenme ve yanlış bilgilere açık diğer sağlık konularıyla ilgili 250 soruyla beş yapay zekâ sohbet robotunu test eden başka bir çalışmanın sonuçları, doğru cevap oranının %50'nin biraz üzerinde olduğunu, yanlış cevapların ise yaklaşık %20'sinin takip edilmesi halinde potansiyel olarak zararlı olduğunu gösterdi. Çalışmanın ortak yazarı Nicholas Tiller, en endişe verici şeyin, yapay zekâların yanlış olsalar bile genellikle yüksek bir güven derecesiyle cevap vermeleri olduğunu söyledi. "Eğer biri bu tavsiyeye uyarsa, zarar görme olasılığı çok yüksek," dedi.

En endişe verici konu, birçok insanın sohbet robotlarını gerçek doktorlar olarak görmeye başlamasıdır. King's College London tarafından yapılan bir ankete göre, yapay zeka kullanan kişilerin yaklaşık %20'si, sohbet robotunun yanıtının kendilerini bir doktora veya sağlık uzmanına görünmeye gerek duymadıkları düşüncesine sevk ettiğini söyledi. Neredeyse dörtte biri ise yapay zekanın yanıtını okuduktan sonra doktora gitmemeye karar verdiğini belirtti.

Bu rakamlar, uzmanların yapay zekanın tedavi gecikmelerini veya doktor yönlendirmesi olmadan kendi kendine tedavi oranını artırabileceğinden endişelenmesine yol açtı.

Birleşik Krallık Kraliyet Genel Hekimler Koleji Başkanı Profesör Victoria Tzortziou Brown, insanların yüz yüze tıbbi muayeneler yerine yapay zekayı kullanmasının "ciddi endişe verici" olacağı konusunda uyardı. Ona göre, yapay zeka hızlı yanıtlar sağlayabilir ancak fiziksel muayenelerin, tıbbi geçmişin değerlendirilmesinin, ince işaretlerin tanınmasının veya kanıta dayalı klinik kararların yerini alamaz. "Yapay zekanın sağladığı bilgiler yanlış, yanıltıcı veya önemli bağlamdan yoksun olabilir," diye vurguladı.

Uzmanlara göre, günümüzdeki çoğu chatbot, öncelikle doğal konuşmalar oluşturmak ve kullanıcıları "memnun etmek" amacıyla tasarlanmış Büyük Dil Modeli (LLM) üzerine kuruludur. Bu durum, yapay zekanın tartışmak veya doğruluğu kontrol etmek için daha fazla soru sormak yerine, soruyu soranla aynı fikirde olma eğiliminde olmasına neden olur. Bunun yanı sıra, soru sormak chatbot'u yanlış yola da sürükleyebilir.

Belgelenmiş bir örnekte, sohbet robotu başlangıçta kullanıcıyı evde tıbbi bir işlem yapmaması konusunda uyardı, ancak daha sonra ayrıntılı, adım adım talimatlar vermeye başladı. Duke Üniversitesi'nden uzman Dr. Monica Agrawal'a göre, gerçek bir doktor tehlikeli talimatlar vermeye devam etmek yerine konuşmayı derhal sonlandırırdı.

Araştırmacılara göre, yapay zekâ özellikle sınırlı veri veya birden fazla olası teşhisin olduğu durumlarda zorlanıyor. Uzmanlar ayrıca yapay zekâ sohbet robotlarının internetteki yanlış bilgilere karşı savunmasız olduğu konusunda da uyarıyor. 2024 yılında yapılan bir deneyde, araştırmacılar "bixonimania" adı verilen sahte bir hastalık yarattılar ve ardından bir dizi uydurma belgeyi çevrimiçi olarak yayınladılar. Sadece birkaç hafta sonra, birçok sohbet robotu bu var olmayan hastalığı gerçek bir tıbbi teşhis olarak göstermeye başladı.

Yapay zekâ, temel tıbbi bilgilere erişmede, uzmanlık literatürünü açıklamada veya doktor ziyaretinden önce ilk referans kaynağı olarak hizmet etmede faydalı bir araç olsa da, uzmanlar bu teknolojinin yalnızca destekleyici bir araç olması ve tıp uzmanlarının yerini alamayacağını vurguluyor. Araştırmacılar ayrıca, kullanıcı güvenliğini sağlamak için bağımsız düzenleyici ve doğrulama mekanizmalarının erken aşamada kurulmasını da talep ediyor.

    Kaynak: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994