AI ontwikkelt zich geleidelijk tot een "online dokter".

De snelle ontwikkeling van AI-chatbots zoals ChatGPT, Gemini en Claude verandert de manier waarop mensen toegang krijgen tot medische informatie. Met slechts een paar vragen kunnen gebruikers vrijwel direct antwoord krijgen op vragen over symptomen, medicijnen, ziekten of geestelijke gezondheid, zonder dat ze een afspraak hoeven te maken of in een ziekenhuis hoeven te wachten.

Uit een onderzoek van King's College London onder meer dan 2000 mensen in het Verenigd Koninkrijk bleek dat ruim 15% AI-chatbots had gebruikt om vragen over hun gezondheid te stellen, in plaats van een huisarts of het openbare gezondheidssysteem van de NHS te raadplegen.

Naast fysieke problemen wordt AI ook door velen gebruikt ter ondersteuning van de geestelijke gezondheid. Ongeveer 10% van de ondervraagden gaf aan chatbots te gebruiken voor hulp bij psychische problemen in plaats van getrainde professionals. Experts beschouwen dit als een zorgwekkend teken, aangezien AI steeds vaker het "eerste aanspreekpunt" wordt voor veel gezondheidsproblemen.

Met slechts een paar vragen kunnen gebruikers vrijwel direct antwoorden krijgen van AI-chatbots over symptomen, medicijnen, ziekten of geestelijke gezondheid. (Afbeelding: nationalhealthexecutive.com)

Volgens het onderzoek is gemak de meest voorkomende reden waarom mensen AI gebruiken. Bijna de helft van de deelnemers gaf aan dat chatbots hen helpen sneller en gemakkelijker toegang te krijgen tot informatie. Veel anderen gebruiken AI uit nieuwsgierigheid naar nieuwe technologie of omdat ze niet zeker weten of hun aandoening ernstig genoeg is om een ​​arts te raadplegen.

Professor Graham Lord, de hoofdauteur van de studie, merkte op dat de opkomst van chatbots een "AI-gezondheidszorgsysteem creëert dat niet parallel aan het publieke gezondheidszorgsysteem wordt gereguleerd". Volgens hem verandert AI in hoog tempo de manier waarop mensen toegang krijgen tot gezondheidszorg, maar dit brengt grote problemen met zich mee op het gebied van betrouwbaarheid, veiligheid en verantwoording.

Deze trend beperkt zich niet tot het Verenigd Koninkrijk; ze neemt ook in veel andere landen snel toe. In de VS bleek uit een onderzoek van het West Health-Gallup Center naar de gezondheidszorg onder ongeveer 5.600 volwassenen dat een kwart van de mensen chatbots gebruikt om gezondheidsinformatie of -advies te zoeken. Ongeveer 14% gaf aan geen arts te hebben bezocht na informatie van een AI te hebben ontvangen.

Onvoorziene risico's

Naarmate AI-chatbots populairder worden, komen er ook steeds meer waarschuwingen over de onvoorspelbare risico's van onjuist of gevaarlijk advies. Veel recente studies tonen aan dat AI-chatbots inderdaad onjuiste diagnoses kunnen stellen of potentieel schadelijk advies kunnen geven aan gebruikers, met name in complexe medische situaties of situaties waarin gegevens ontbreken.

In een onderzoek gepubliceerd in JAMA Network Open door een team van auteurs van het Mass General Brigham-gezondheidszorgsysteem, vroegen wetenschappers 21 AI-modellen om "de rol van arts te spelen" bij het afhandelen van hypothetische medische situaties. De resultaten toonden aan dat chatbots vaak te snel conclusies trokken in plaats van twijfel te behouden en de situatie verder te analyseren, zoals echte artsen zouden doen. Het onderzoek wees uit dat deze chatbots in 80% van de gevallen een verkeerde diagnose stelden.

Ondertussen bleek uit een ander onderzoek, gepubliceerd in BMJ Open, dat vijf AI-chatbots testte met 250 vragen over kanker, vaccins, voeding en andere gezondheidsonderwerpen die gevoelig zijn voor misinformatie, dat het percentage correcte antwoorden iets meer dan 50% bedroeg, terwijl ongeveer 20% van de onjuiste antwoorden als potentieel schadelijk werd beschouwd als ze werden opgevolgd. Nicholas Tiller, mede-auteur van de studie, zei dat het meest zorgwekkende is dat AI's vaak met een hoge mate van zelfvertrouwen antwoorden, zelfs als ze fout zitten. "Als iemand dat advies opvolgt, is de kans groot dat die persoon schade ondervindt", zei hij.

Het meest zorgwekkende is dat veel mensen chatbots beginnen te zien als echte artsen. Volgens een onderzoek van King's College London gaf ongeveer 20% van de mensen die AI hebben gebruikt aan dat het antwoord van de chatbot hen de indruk gaf dat ze geen arts of medisch specialist hoefden te raadplegen. Bijna een kwart zei zelfs dat ze na het lezen van het antwoord van de AI besloten om geen arts te bezoeken.

Deze cijfers hebben experts doen vrezen dat AI het aantal behandelingsvertragingen of zelfbehandelingen zonder begeleiding van artsen zou kunnen verhogen.

Professor Victoria Tzortziou Brown, voorzitter van het Royal College of General Practitioners in het Verenigd Koninkrijk, waarschuwde dat het "ernstig zorgwekkend" zou zijn als mensen AI zouden gebruiken in plaats van fysieke medische onderzoeken. Volgens haar kan AI snel antwoorden geven, maar kan het geen vervanging zijn voor lichamelijk onderzoek, het beoordelen van de medische geschiedenis, het herkennen van subtiele signalen of het nemen van op bewijs gebaseerde klinische beslissingen. "De informatie die AI levert, kan onnauwkeurig, misleidend of onvolledig zijn", benadrukte ze.

Volgens experts zijn de meeste chatbots tegenwoordig gebouwd op het Large Language Model (LLM), dat primair is ontworpen om natuurlijke gesprekken te creëren en gebruikers te behagen. Hierdoor neigt de AI ernaar om het met de vragensteller eens te zijn in plaats van tegenspraak te bieden of aanvullende vragen te stellen om de juistheid te controleren. Bovendien kan het stellen van vragen de chatbot op het verkeerde spoor zetten.

In één gedocumenteerd geval waarschuwde de chatbot de gebruiker aanvankelijk om een ​​medische ingreep niet thuis uit te voeren, maar gaf vervolgens wel gedetailleerde, stapsgewijze instructies. Volgens Dr. Monica Agrawal, een expert aan de Duke University, zou een echte arts het gesprek onmiddellijk hebben beëindigd in plaats van door te gaan met het geven van gevaarlijke instructies.

Volgens onderzoekers heeft AI met name moeite in situaties met beperkte data of meerdere mogelijke diagnoses. Experts waarschuwen ook dat AI-chatbots kwetsbaar zijn voor desinformatie op internet. In een experiment uit 2024 creëerden onderzoekers een nepziekte genaamd "bixonimania" en plaatsten vervolgens een reeks verzonnen documenten online. Slechts enkele weken later begonnen veel chatbots deze niet-bestaande ziekte als een echte medische diagnose aan te halen.

Hoewel AI een nuttig hulpmiddel kan zijn voor het verkrijgen van basiskennis over geneeskunde, het uitleggen van specialistische literatuur of als eerste naslagwerk vóór een doktersbezoek, benadrukken experts dat deze technologie slechts een ondersteunend hulpmiddel moet zijn en medische professionals niet kan vervangen. Onderzoekers pleiten ook voor de snelle invoering van onafhankelijke regelgevende en verificatiemechanismen om de veiligheid van gebruikers te waarborgen.

    Bron: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994