AI håller gradvis på att bli en "onlineläkare".

Den snabba utvecklingen av AI-chattrobotar som ChatGPT, Gemini och Claude förändrar hur människor får tillgång till medicinsk information. Med bara några få rader frågor kan användare få nästan omedelbara svar om symtom, mediciner, sjukdomar eller psykisk hälsa utan att behöva boka tid eller vänta på sjukhus.

En undersökning av King's College London bland över 2 000 personer i Storbritannien visade att fler än 15 % hade använt AI-chattrobotar för att fråga om hälsoproblem istället för att konsultera en allmänläkare eller NHS folkhälsovårdssystem.

Utöver fysiska problem används AI också av många för att stödja mental hälsa. Ungefär 10 % av de tillfrågade uppgav att de använde chatbotar för att söka stöd för mental hälsa istället för utbildade yrkesverksamma. Experter anser att detta är ett oroande tecken, eftersom AI i allt högre grad blir den "första kontaktlinjen" för många hälsoproblem.

Med bara några få rader frågor kan användare få nästan omedelbara svar om symtom, mediciner, sjukdomar eller psykisk hälsa från AI-chattrobotar. (Bild: nationalhealthexecutive.com)

Enligt studien är bekvämlighet den vanligaste anledningen till att folk vänder sig till AI. Nästan hälften av deltagarna sa att chattrobotar hjälper dem att få tillgång till information snabbare och enklare. Många andra använder AI av nyfikenhet på ny teknik eller för att de är osäkra på om deras tillstånd är tillräckligt allvarligt för att kräva att de kontaktar en läkare.

Professor Graham Lord, huvudförfattare till studien, noterade att spridningen av chatbotar skapar ett ”AI-vårdsystem som inte regleras parallellt med det offentliga hälsosystemet”. Enligt honom förändrar AI snabbt hur människor får tillgång till hälso- och sjukvård, men detta medför stora problem relaterade till tillförlitlighet, säkerhet och ansvarsskyldighet.

Denna trend är inte begränsad till Storbritannien; den ökar också snabbt i många länder. I USA visade en undersökning av West Health-Gallup Center om hälso- och sjukvård med cirka 5 600 vuxna att en av fyra personer använder chatbotar för att söka efter hälsorelaterad information eller råd. Cirka 14 % uppgav att de inte träffade en läkare efter att ha fått information från AI.

Oförutsedda risker

Tillsammans med deras växande popularitet kommer en mängd varningar om de oförutsägbara riskerna med felaktiga eller farliga råd från AI-chattrobotar. Många nya studier visar att AI-chattrobotar faktiskt kan ge felaktiga diagnoser eller potentiellt skadliga råd till användare, särskilt i komplexa medicinska situationer eller situationer där data saknas.

I en studie publicerad i JAMA Network Open av ett team av författare från Mass General Brighams hälsovårdssystem, bad forskare 21 AI-modeller att "spela läkarnas roll" för att hantera hypotetiska medicinska situationer. Resultaten visade att chattrobotar ofta drog hastiga slutsatser istället för att upprätthålla tvivlet och fortsätta analysera som riktiga läkare. Studien visade att dessa chattrobotar feldiagnostiserade 80 % av fallen.

Samtidigt visade resultaten från en annan studie som publicerades i BMJ Open, som testade fem AI-chattrobotar med 250 frågor relaterade till cancer, vacciner, näring och andra hälsoämnen som är mottagliga för felinformation, att andelen korrekta svar var drygt 50 %, medan cirka 20 % av de felaktiga svaren ansågs potentiellt skadliga om de följdes. Nicholas Tiller, medförfattare till studien, sa att det mest oroande är att AI:er ofta svarar med hög grad av säkerhet även när de har fel. "Om någon följer det rådet finns det en stor chans att de kommer att skadas", sa han.

Det mest oroande problemet är att många börjar se chattrobotar som riktiga läkare. Enligt en undersökning från King's College London sa cirka 20 % av de personer som har använt AI att chattrobotens svar fick dem att tro att de inte behövde träffa en läkare eller annan sjukvårdspersonal. Nästan en fjärdedel sa till och med att de bestämde sig för att inte träffa en läkare efter att ha läst AI:ns svar.

Dessa siffror har fått experter att oroa sig för att AI kan öka antalet behandlingsförseningar eller självbehandling utan vägledning från läkare.

Professor Victoria Tzortziou Brown, ordförande för Royal College of General Practitioners i Storbritannien, varnade för att det skulle vara "allvarligt oroande" om människor använde AI istället för personliga läkarundersökningar. Enligt henne kan AI ge snabba svar men kan inte ersätta fysiska undersökningar, bedömning av sjukdomshistoria, igenkänning av subtila tecken eller att fatta evidensbaserade kliniska beslut. "Informationen som AI ger kan vara felaktig, vilseledande eller sakna avgörande sammanhang", betonade hon.

Enligt experter är de flesta chatbotar idag byggda på Large Language Model (LLM), som främst är utformad för att skapa naturliga samtal och tenderar att "behaga" användare. Detta gör att AI:n tenderar att hålla med frågeställaren snarare än att argumentera eller ställa ytterligare frågor för att kontrollera noggrannheten. Utöver det kan det att ställa frågor också leda chatboten vilse.

I ett dokumenterat fall varnade chatboten initialt användaren för att utföra en medicinsk procedur hemma, men fortsatte sedan med att ge detaljerade steg-för-steg-instruktioner. Enligt Dr. Monica Agrawal, expert vid Duke University, skulle en riktig läkare ha avslutat samtalet omedelbart snarare än att fortsätta ge farliga instruktioner.

Enligt forskare har AI särskilt svårt i situationer med begränsad data eller flera möjliga diagnoser. Experter varnar också för att AI-chattrobotar är sårbara för felinformation på internet. I ett experiment från 2024 skapade forskare en falsk sjukdom som kallas "bixonimani" och publicerade sedan en serie fabricerade dokument online. Bara några veckor senare började många chattrobotar ange denna icke-existerande sjukdom som en riktig medicinsk diagnos.

Även om AI kan vara ett användbart verktyg för att få tillgång till grundläggande medicinsk kunskap, förklara facklitteratur eller fungera som en första referens inför ett läkarbesök, betonar experter att denna teknik endast bör vara ett stödjande verktyg och inte kan ersätta sjukvårdspersonal. Forskare efterlyser också ett tidigt inrättande av oberoende reglerings- och verifieringsmekanismer för att säkerställa användarsäkerhet.

    Källa: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994