Künstliche Intelligenz entwickelt sich allmählich zu einem „Online-Arzt“.

Die rasante Entwicklung von KI-Chatbots wie ChatGPT, Gemini und Claude verändert den Zugang zu medizinischen Informationen. Mit nur wenigen Fragen erhalten Nutzer nahezu umgehend Antworten zu Symptomen, Medikamenten, Krankheiten oder psychischer Gesundheit, ohne Termine vereinbaren oder in Krankenhäusern warten zu müssen.

Eine Umfrage des King's College London unter mehr als 2.000 Personen in Großbritannien ergab, dass mehr als 15 % KI-Chatbots nutzten, um Fragen zu Gesundheitsproblemen zu stellen, anstatt einen Allgemeinmediziner oder das öffentliche Gesundheitssystem des NHS zu konsultieren.

Neben der Behandlung körperlicher Beschwerden wird KI auch von vielen zur Unterstützung der psychischen Gesundheit eingesetzt. Rund 10 % der Befragten gaben an, Chatbots anstelle von Fachkräften zu nutzen, um psychologische Hilfe zu erhalten. Experten sehen darin ein besorgniserregendes Zeichen, da KI zunehmend zur ersten Anlaufstelle bei vielen Gesundheitsproblemen wird.

Mit nur wenigen Fragen erhalten Nutzer nahezu umgehend Antworten von KI-Chatbots zu Symptomen, Medikamenten, Krankheiten oder psychischer Gesundheit. (Bild: nationalhealthexecutive.com)

Laut der Studie ist Bequemlichkeit der häufigste Grund für die Nutzung von KI. Fast die Hälfte der Befragten gab an, dass Chatbots ihnen helfen, schneller und einfacher an Informationen zu gelangen. Viele andere nutzen KI aus Neugierde auf neue Technologien oder weil sie sich unsicher sind, ob ihre Beschwerden schwerwiegend genug sind, um einen Arzt aufzusuchen.

Professor Graham Lord, der Hauptautor der Studie, merkte an, dass die zunehmende Verbreitung von Chatbots ein „KI-gestütztes Gesundheitssystem schafft, das nicht parallel zum öffentlichen Gesundheitssystem reguliert wird“. Laut Lord verändert KI rasant den Zugang der Menschen zur Gesundheitsversorgung, doch dies bringt erhebliche Probleme in Bezug auf Zuverlässigkeit, Sicherheit und Verantwortlichkeit mit sich.

Dieser Trend beschränkt sich nicht auf Großbritannien; er nimmt auch in vielen anderen Ländern rasant zu. In den USA ergab eine Umfrage des West Health-Gallup Centers zum Thema Gesundheitswesen unter rund 5.600 Erwachsenen, dass jeder Vierte Chatbots nutzt, um nach gesundheitsbezogenen Informationen oder Ratschlägen zu suchen. Etwa 14 % gaben an, nach Erhalt von Informationen durch KI keinen Arzt aufgesucht zu haben.

Unvorhergesehene Risiken

Mit ihrer wachsenden Beliebtheit gehen auch zahlreiche Warnungen vor den unvorhersehbaren Risiken fehlerhafter oder gefährlicher Ratschläge von KI-Chatbots einher. Viele aktuelle Studien zeigen, dass KI-Chatbots tatsächlich ungenaue Diagnosen stellen oder Nutzern potenziell schädliche Ratschläge geben können, insbesondere in komplexen medizinischen Situationen oder bei unzureichenden Daten.

In einer in JAMA Network Open veröffentlichten Studie eines Forscherteams des Mass General Brigham Healthcare Systems wurden 21 KI-Modelle gebeten, die Rolle von Ärzten zu übernehmen und hypothetische medizinische Fälle zu bearbeiten. Die Ergebnisse zeigten, dass Chatbots häufig voreilige Schlüsse zogen, anstatt wie echte Ärzte Zweifel zu hegen und weiter zu analysieren. Die Studie ergab, dass diese Chatbots in 80 % der Fälle Fehldiagnosen stellten.

Die Ergebnisse einer weiteren Studie, veröffentlicht in BMJ Open, in der fünf KI-Chatbots mit 250 Fragen zu Krebs, Impfungen, Ernährung und anderen gesundheitsrelevanten Themen, die anfällig für Fehlinformationen sind, getestet wurden, zeigten, dass die Trefferquote bei etwas über 50 % lag, während etwa 20 % der falschen Antworten als potenziell schädlich eingestuft wurden. Nicholas Tiller, Mitautor der Studie, sagte, das Besorgniserregendste sei, dass KIs oft mit großer Überzeugung antworten, selbst wenn sie falsch liegen. „Wenn jemand diesem Rat folgt, ist die Wahrscheinlichkeit hoch, dass er Schaden erleidet“, sagte er.

Das Besorgniserregendste ist, dass viele Menschen Chatbots zunehmend als echte Ärzte betrachten. Laut einer Umfrage des King's College London gaben rund 20 % der KI-Nutzer an, dass die Antwort des Chatbots sie zu dem Schluss gebracht habe, sie bräuchten keinen Arzt oder medizinischen Fachangestellten aufzusuchen. Fast ein Viertel entschied sich sogar nach der Antwort der KI gegen einen Arztbesuch.

Diese Zahlen haben Experten zu der Befürchtung veranlasst, dass KI die Rate von Behandlungsverzögerungen oder Selbstbehandlungen ohne ärztliche Anleitung erhöhen könnte.

Professorin Victoria Tzortziou Brown, Vorsitzende des Royal College of General Practitioners in Großbritannien, warnte davor, dass es „äußerst besorgniserregend“ wäre, wenn Menschen KI anstelle von persönlichen ärztlichen Untersuchungen einsetzen würden. Laut Brown kann KI zwar schnelle Antworten liefern, aber weder körperliche Untersuchungen, die Erhebung der Krankengeschichte, das Erkennen subtiler Anzeichen noch evidenzbasierte klinische Entscheidungen ersetzen. „Die von KI bereitgestellten Informationen können ungenau oder irreführend sein oder wichtige Kontextinformationen vermissen lassen“, betonte sie.

Experten zufolge basieren die meisten Chatbots heutzutage auf dem Large Language Model (LLM), das primär für natürliche Konversationen entwickelt wurde und darauf abzielt, Nutzern zu gefallen. Dies führt dazu, dass die KI eher dem Fragesteller zustimmt, anstatt zu widersprechen oder durch Nachfragen die Richtigkeit zu überprüfen. Darüber hinaus kann das Stellen von Fragen den Chatbot auch in die Irre führen.

In einem dokumentierten Fall warnte der Chatbot den Nutzer zunächst davor, einen medizinischen Eingriff zu Hause durchzuführen, gab dann aber detaillierte Schritt-für-Schritt-Anweisungen. Laut Dr. Monica Agrawal, Expertin an der Duke University, hätte ein Arzt das Gespräch sofort beendet, anstatt weiterhin gefährliche Anweisungen zu geben.

Laut Forschern stößt KI insbesondere bei begrenzten Daten oder mehreren möglichen Diagnosen an ihre Grenzen. Experten warnen zudem davor, dass KI-Chatbots anfällig für Fehlinformationen im Internet sind. In einem Experiment aus dem Jahr 2024 erfanden Forscher eine fiktive Krankheit namens „Bixonimanie“ und veröffentlichten anschließend eine Reihe gefälschter Dokumente im Internet. Nur wenige Wochen später begannen zahlreiche Chatbots, diese nicht existierende Krankheit als echte medizinische Diagnose anzugeben.

Künstliche Intelligenz kann zwar ein nützliches Werkzeug sein, um auf medizinisches Grundwissen zuzugreifen, Fachliteratur zu erklären oder als erste Orientierungshilfe vor dem Arztbesuch zu dienen, doch Experten betonen, dass diese Technologie lediglich ein unterstützendes Instrument sein und medizinische Fachkräfte nicht ersetzen sollte. Forscher fordern zudem die frühzeitige Einrichtung unabhängiger Regulierungs- und Prüfmechanismen, um die Sicherheit der Nutzer zu gewährleisten.

    Quelle: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994