Experter varnar för att ta medicinska råd från AI

Enligt forskning kommer allt fler patienter till kliniker med författade beslut, ofta baserade på diagnoser eller behandlingsplaner som föreslås av AI-verktyg.

Enligt en VNA-reporter i Ottawa visar en ny studie att artificiell intelligens (AI) kan ge övertygande medicinska råd, men medicinska experter är oroliga för att patienters överdrivna förtroende för AI kommer att få dem att missa viktiga möjligheter att diskutera sina medicinska tillstånd med läkare, för att inte tala om konsekvenserna av att AI eventuellt ger felaktiga diagnoser.

Forskningen – utförd av forskare vid University of British Columbia (UBC) – har visat det överraskande resultatet att stora språkmodeller (LLM) som ChatGPT inte bara tillhandahåller information, utan också kommunicerar mer övertygande och behagligt än riktiga människor.

Dr. Vered Shwartz, docent i datavetenskap vid UBC, sa att samtal med AI ibland känns mer övertygande och empatiska än samtal med riktiga läkare personligen. AI-chattrobotar har nu en människoliknande intonation och presenterar sig med självförtroende, vilket gör det mer sannolikt att människor blir övertygade.

Enligt studien kommer allt fler patienter till kliniker med författade beslut, ofta baserade på diagnoser eller behandlingsplaner som föreslås av AI-verktyg.

Dr. Cassandra Stiller-Moldovan, familjeläkare i Colwood, British Colombia, Kanada, sa att råden från AI-chattrobotar ofta är korrekta men inte helt återspeglar problemet, så läkare måste lägga ner mycket tid på att förklara och övertyga patienter.

Problemet förvärras ytterligare av en annan studie från University of Waterloo (också i Kanada) som fann att AI-chattrobotar som ChatGPT version 4 gav mer falsk information än korrekt information vid diagnostisering av hälsoproblem.

Mer specifikt, när forskare ställde en serie öppna frågor, bedömdes endast 31 % av ChatGPT:s svar vara helt korrekta.

Canadian Medical Association (CMA) säger att det växande beroendet av AI är förståeligt med tanke på att många kanadensare saknar tillgång till familjeläkare och står inför långa väntetider på möten.

Medan de otåligt väntat har många vänt sig till AI-verktyg för att hitta svar som en alternativ lösning.

(TTXVN/Vietnam+)

Källa: https://www.vietnamplus.vn/chuyen-gia-khuyen-cao-can-trong-voi-loi-khuyen-y-te-cua-ai-post1069996.vnp