AI er gradvis i ferd med å bli en «online lege».

Den raske utviklingen av AI-chatboter som ChatGPT, Gemini og Claude endrer hvordan folk får tilgang til medisinsk informasjon. Med bare noen få spørsmålslinjer kan brukere motta nesten umiddelbare svar om symptomer, medisiner, sykdommer eller mental helse uten å måtte bestille time eller vente på sykehus.

En undersøkelse utført av King's College London blant over 2000 personer i Storbritannia viste at mer enn 15 % hadde brukt AI-chatboter til å spørre om helseproblemer i stedet for å konsultere en allmennlege eller NHS-helsesystemet.

Utover fysiske problemer brukes også AI av mange for å støtte mental helse. Omtrent 10 % av de spurte rapporterte at de brukte chatboter for å søke støtte innen mental helse i stedet for trente fagfolk. Eksperter anser dette som et bekymringsfullt tegn, ettersom AI i økende grad blir «første kontaktlinje» for mange helseproblemer.

Med bare noen få linjer med spørsmål kan brukere motta nesten umiddelbare svar om symptomer, medisiner, sykdommer eller mental helse fra AI-chatboter. (Bilde: nationalhealthexecutive.com)

Ifølge studien er bekvemmelighet den vanligste grunnen til at folk vender seg til AI. Nesten halvparten av deltakerne sa at chatboter hjelper dem med å få tilgang til informasjon raskere og enklere. Mange andre bruker AI av nysgjerrighet om ny teknologi eller fordi de er usikre på om tilstanden deres er alvorlig nok til å kreve at de kontakter en lege.

Professor Graham Lord, hovedforfatter av studien, bemerket at spredningen av chatboter skaper et «KI-helsesystem som ikke er regulert parallelt med det offentlige helsesystemet». Ifølge ham endrer KI raskt hvordan folk får tilgang til helsetjenester, men dette kommer med store problemer knyttet til pålitelighet, sikkerhet og ansvarlighet.

Denne trenden er ikke begrenset til Storbritannia; den øker også raskt i mange land. I USA avslørte en undersøkelse fra West Health-Gallup Center om helsevesen som involverte omtrent 5600 voksne at én av fire personer bruker chatboter til å søke etter helserelatert informasjon eller råd. Rundt 14 % rapporterte at de ikke oppsøkte lege etter å ha mottatt informasjon fra AI.

Uforutsette risikoer

Sammen med deres økende popularitet kommer en rekke advarsler om de uforutsigbare risikoene ved feil eller farlige råd fra AI-chatboter. Mange nyere studier viser at AI-chatboter faktisk kan gi unøyaktige diagnoser eller potensielt skadelige råd til brukere, spesielt i komplekse medisinske situasjoner eller situasjoner som mangler data.

I en studie publisert i JAMA Network Open av et team av forfattere fra helsevesenet i Mass General Brigham, ba forskere 21 AI-modeller om å «spille rollen som leger» for å håndtere hypotetiske medisinske situasjoner. Resultatene viste at chatboter ofte forhastet seg med konklusjoner i stedet for å opprettholde tvil og fortsette å analysere som ekte leger. Studien avslørte at disse chatbotene feildiagnostisert 80 % av tilfellene.

I mellomtiden viste resultatene fra en annen studie publisert i BMJ Open, som testet fem AI-chatboter med 250 spørsmål relatert til kreft, vaksiner, ernæring og andre helseemner som er utsatt for feilinformasjon, at den riktige svarprosenten var litt over 50 %, mens omtrent 20 % av de feilaktige svarene ble ansett som potensielt skadelige hvis de ble fulgt. Nicholas Tiller, medforfatter av studien, sa at det mest bekymringsfulle er at AI-er ofte svarer med høy grad av selvtillit selv når de tar feil. «Hvis noen følger disse rådet, er det stor sjanse for at de vil bli skadet», sa han.

Det mest bekymringsfulle problemet er at mange begynner å se på chatboter som ekte leger. Ifølge en undersøkelse fra King's College London sa rundt 20 % av de som har brukt AI at chatbotens respons fikk dem til å tro at de ikke trengte å oppsøke lege eller helsepersonell. Nesten en fjerdedel sa til og med at de bestemte seg for ikke å oppsøke lege etter å ha lest AI-ens svar.

Disse tallene har ført til bekymring hos eksperter for at AI kan øke antallet behandlingsforsinkelser eller egenbehandling uten veiledning fra leger.

Professor Victoria Tzortziou Brown, leder av Royal College of General Practitioners i Storbritannia, advarte om at det ville være «alvorlig bekymringsfullt» om folk brukte kunstig intelligens i stedet for personlige medisinske undersøkelser. Ifølge henne kan kunstig intelligens gi raske svar, men kan ikke erstatte fysiske undersøkelser, vurdering av sykehistorie, gjenkjenning av subtile tegn eller å ta evidensbaserte kliniske beslutninger. «Informasjonen kunstig intelligens gir kan være unøyaktig, misvisende eller mangle viktig kontekst», understreket hun.

Ifølge eksperter er de fleste chatboter i dag bygget på Large Language Model (LLM), som primært er designet for å skape naturlige samtaler og har en tendens til å "tilfredsstille" brukere. Dette fører til at AI-en har en tendens til å være enig med spørsmålsstilleren i stedet for å krangle eller stille ytterligere spørsmål for å sjekke nøyaktigheten. I tillegg til det kan det å stille spørsmål også føre chatboten på villspor.

I ett dokumentert tilfelle advarte chatboten først brukeren mot å utføre en medisinsk prosedyre hjemme, men fortsatte deretter med å gi detaljerte, trinnvise instruksjoner. Ifølge Dr. Monica Agrawal, en ekspert ved Duke University, ville en ekte lege ha avsluttet samtalen umiddelbart i stedet for å fortsette å gi farlige instruksjoner.

Ifølge forskere sliter AI spesielt i situasjoner med begrensede data eller flere mulige diagnoser. Eksperter advarer også om at AI-chatboter er sårbare for feilinformasjon på internett. I et eksperiment fra 2024 skapte forskere en falsk sykdom kalt «bixonimania» og la deretter ut en rekke fabrikkerte dokumenter på nettet. Bare uker senere begynte mange chatboter å sitere denne ikke-eksisterende sykdommen som en reell medisinsk diagnose.

Selv om AI kan være et nyttig verktøy for å få tilgang til grunnleggende medisinsk kunnskap, forklare spesiallitteratur eller tjene som en innledende referanse før et legebesøk, understreker eksperter at denne teknologien kun bør være et støtteverktøy og ikke kan erstatte helsepersonell. Forskere etterlyser også tidlig etablering av uavhengige regulerings- og verifiseringsmekanismer for å sikre brukersikkerhet.

    Kilde: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994