Pas op voor ‘AI-artsen’

*Patiënten moeten worden onderzocht en getest voordat ze een behandeling ondergaan. Illustratiefoto: PV*

Eerder, toen haar kind symptomen had zoals hoesten, een loopneus en een verstopte neus, beschreef mevrouw NTH deze aan ChatGPT en vroeg het platform om een behandelmethode voor te stellen. Enkele seconden later werden er "voorspellingen" gedaan over de gezondheidstoestand van het kind, samen met een reeks zorg- en behandeladviezen, inclusief een lijst met voorgestelde medicijnen. Deze omvatten medicijnen die corticoïden bevatten - een stof die zeer gevaarlijk is voor jonge kinderen.

Veel artsen gaven aan dat ze veel gevallen hebben gezien van patiënten met chronische ziekten van wie de toestand verslechterde na het volgen van de ChatGPT-behandeling. Een arts van de afdeling Cardiologie van het Quang Nam Algemeen Ziekenhuis vertelde dat hij onlangs twee jonge patiënten behandelde die "AI-artsen" mishandelden en de gevolgen ondervonden toen hun toestand verslechterde.

Dr. Nguyen Tam Thang, adjunct-directeur van het Quang Nam General Hospital, zei dat ChatGPT slechts beschouwd moet worden als een eerste hulpmiddel om mensen te ondersteunen bij het vinden van medische informatie, het herkennen van gevaarsignalen of het voorbereiden van vragen voordat ze naar de dokter gaan. Het misbruiken van AI voor het diagnosticeren en behandelen van ziekten is gevaarlijk.

"Om de toestand van de ziekte duidelijk vast te stellen en een behandelingsregime voor te schrijven, moet de arts de klinische symptomen, waaronder functionele en fysieke symptomen, zorgvuldig onderzoeken en basis- en paraklinische tests aanvragen om de functie van organen te beoordelen en de oorzaak van de ziekte en de bijbehorende aandoeningen te achterhalen. Bovendien moet de arts ook de medische voorgeschiedenis van de patiënt kennen voordat hij een definitieve diagnose stelt en de juiste medicatie voor elke patiënt voorschrijft", aldus Dr. Nguyen Tam Thang.

Onlangs stelden vertegenwoordigers van OpenAI dat ChatGPT niet gebruikt zou moeten worden voor belangrijke medische beslissingen zonder menselijke beoordeling. Gebruikers kunnen ChatGPT nog steeds vragen stellen over symptomen, medische concepten of medische procedures... maar stellen geen specifieke diagnoses of schrijven geen specifieke voorschriften voor. Dit helpt de grens te trekken tussen " medische informatie" (die gedeeld kan worden) en "medisch advies" (dat door een arts moet worden gegeven).

Momenteel werken AI-platforms met data die uit vele bronnen zijn verzameld en niet representatief zijn voor veel populaties. Wanneer de data niet volledig is, loopt AI het risico verkeerde conclusies te trekken. Vooral voor gepersonaliseerde informatievelden zoals medische geschiedenis en behandelregimes kan AI geen nauwkeurige voorspellingen doen of advies geven.

Bovendien heeft de door AI of chatbots voorgestelde lijst met medicijnen absoluut geen juridische waarde en kan deze geen geldig recept vervangen. De willekeurige aankoop van geneesmiddelen, waaronder antibiotica, maakt de situatie rond antibioticaresistentie alarmerend.

De Wereldgezondheidsorganisatie (WHO) meldde dat Vietnam tot de landen met de hoogste antibioticaresistentie in de regio Azië- Pacific behoort. De reden hiervoor is dat de meeste patiënten medicijnen kopen zonder doktersrecept.

Vanaf 1 oktober verplicht het Ministerie van Volksgezondheid alle medische onderzoeks- en behandelcentra die ziekenhuizen zijn, om elektronische voorschriften te implementeren. Voor andere medische onderzoeks- en behandelcentra wordt dit vanaf 1 januari 2026 geïmplementeerd. Dit is de routekaart van Circulaire 26/2025 van het Ministerie van Volksgezondheid, die het voorschrijven en voorschrijven van farmaceutische en biologische producten voor poliklinische behandeling in medische onderzoeks- en behandelcentra reguleert. Het Ministerie van Volksgezondheid is van mening dat wanneer alle voorschriften synchroon worden bijgewerkt, de verantwoordelijke instantie drugsmisbruik, voorschriften die niet voldoen aan de regelgeving of de verkoop van geneesmiddelen zonder recept snel kan detecteren en aanpakken.

Bron: https://baodanang.vn/canh-giac-voi-bac-si-ai-3309646.html