Eksperter advarer mot å følge medisinske råd fra AI

Ifølge en VNA-reporter i Ottawa viser en ny studie at kunstig intelligens (KI) kan gi overbevisende medisinske råd, men medisinske eksperter er bekymret for at pasienters overdrevne tillit til KI vil føre til at de går glipp av viktige muligheter til å diskutere sine medisinske tilstander med leger, for ikke å snakke om konsekvensene av at KI muligens gir unøyaktige diagnoser.

Forskningen – utført av forskere ved University of British Columbia (UBC) – har avslørt det overraskende resultatet at store språkmodeller (LLM-er) som ChatGPT ikke bare gir informasjon, men også kommuniserer mer overbevisende og behagelig enn ekte mennesker.

Dr. Vered Shwartz, førsteamanuensis i informatikk ved UBC, sa at samtaler med AI noen ganger føles mer overbevisende og empatiske enn samtaler med ekte leger ansikt til ansikt. AI-chatboter har nå menneskelignende intonasjon og presenterer seg selv med selvtillit, noe som gjør det mer sannsynlig at folk blir overtalt.

Ifølge studien kommer stadig flere pasienter til klinikker med forhåndsbestemte beslutninger, ofte basert på diagnoser eller behandlingsplaner foreslått av AI-verktøy.

Dr. Cassandra Stiller-Moldovan, en familielege i Colwood, British Colombia, Canada, sa at rådene fra AI-chatboter ofte er riktige, men ikke gjenspeiler problemet fullt ut, slik at leger må bruke mye tid på å forklare og overbevise pasienter.

Problemet forverres ytterligere av en annen studie fra University of Waterloo (også i Canada) som fant at AI-chatboter som ChatGPT versjon 4 ga mer falsk informasjon enn korrekt informasjon ved diagnostisering av helseproblemer.

Spesielt da forskere stilte en rekke åpne spørsmål, ble bare 31 % av svarene fra ChatGPT vurdert til å være helt korrekte.

Den kanadiske legeforeningen (CMA) sier at den økende avhengigheten av AI er forståelig gitt at mange kanadiere mangler tilgang til familieleger og står overfor lange ventetider på avtaler.

Mens de utålmodig venter, har mange vendt seg til AI-verktøy for å finne svar som en alternativ løsning.

(TTXVN/Vietnam+)

Kilde: https://www.vietnamplus.vn/chuyen-gia-khuyen-cao-can-trong-voi-loi-khuyen-y-te-cua-ai-post1069996.vnp