Deskundigen waarschuwen tegen het inwinnen van medisch advies op basis van AI

Uit onderzoek blijkt dat patiënten steeds vaker met voorgeprogrammeerde beslissingen naar klinieken komen. Deze zijn vaak gebaseerd op diagnoses of behandelplannen die door AI-tools zijn aangedragen.

Volgens een VNA-verslaggever in Ottawa blijkt uit een nieuw onderzoek dat kunstmatige intelligentie (AI) overtuigend medisch advies kan geven. Medische experts maken zich echter zorgen dat patiënten door het overmatige vertrouwen in AI belangrijke kansen mislopen om hun medische aandoening met artsen te bespreken. En dan hebben we het nog niet eens over de mogelijke gevolgen van onjuiste diagnoses door AI.

Het onderzoek – uitgevoerd door wetenschappers aan de University of British Columbia (UBC) – heeft de verrassende uitkomst opgeleverd dat grote taalmodellen (LLM's) zoals ChatGPT niet alleen informatie verschaffen, maar ook overtuigender en prettiger communiceren dan echte mensen.

Dr. Vered Shwartz, universitair hoofddocent computerwetenschappen aan de UBC, zei dat gesprekken met AI soms overtuigender en empathischer aanvoelen dan gesprekken met echte artsen in levende lijve. AI-chatbots hebben nu een menselijke intonatie en presenteren zich zelfverzekerd, waardoor mensen eerder geneigd zijn om overtuigd te worden.

Uit het onderzoek blijkt dat patiënten steeds vaker naar klinieken komen met vooraf vastgestelde beslissingen, vaak op basis van diagnoses of behandelplannen die door AI-tools zijn aangedragen.

Dr. Cassandra Stiller-Moldovan, een huisarts in Colwood, British Colombia, Canada, zegt dat het advies van AI-chatbots vaak wel correct is, maar niet volledig het probleem weergeeft. Artsen moeten daardoor veel tijd besteden aan het uitleggen en overtuigen van patiënten.

Het probleem wordt nog verergerd door een ander onderzoek van de Universiteit van Waterloo (eveneens in Canada). Hieruit bleek dat AI-chatbots zoals ChatGPT versie 4 bij het diagnosticeren van gezondheidsproblemen meer onjuiste dan correcte informatie gaven.

Toen onderzoekers een reeks open vragen stelden, werd slechts 31% van de antwoorden van ChatGPT als volledig correct beoordeeld.

Volgens de Canadian Medical Association (CMA) is de toenemende afhankelijkheid van AI begrijpelijk, aangezien veel Canadezen geen toegang hebben tot een huisarts en lange wachttijden hebben voor een afspraak.

Terwijl ze ongeduldig wachten, wenden veel mensen zich tot AI-tools om antwoorden te vinden als alternatieve oplossing.

(TTXVN/Vietnam+)

Bron: https://www.vietnamplus.vn/chuyen-gia-khuyen-cao-can-trong-voi-loi-khuyen-y-te-cua-ai-post1069996.vnp