KI macht Ärzte weniger verantwortungsbewusst

Seit Jahren preisen medizinische Experten und Unternehmen die potenziellen Vorteile der KI in der Medizin an, von der Verbesserung der Bildgebung bis hin zur besseren Diagnoseleistung von Ärzten.

Eine neue Studie hat jedoch ergeben, dass Ärzte, die regelmäßig KI einsetzen, bereits nach wenigen Monaten deutlich schlechtere Diagnoseergebnisse erzielen.

Dies ist die neueste Studie, die die Gefahren einer Abhängigkeit von dieser Technologie aufzeigt. Eine frühere Studie des Massachusetts Institute of Technology kam zu dem Ergebnis, dass ChatGPT die Fähigkeit zum kritischen Denken beeinträchtigt.

Mangelnde Motivation, mangelnde Konzentration und Verantwortungslosigkeit

Eine im Fachmagazin „Lancet Gastroenterology and Hepatology“ veröffentlichte Studie ergab, dass sich Ärzte innerhalb von sechs Monaten zu sehr auf KI-Empfehlungen verließen.

In ihrer Antwort auf die Umfrage gaben diese Ärzte zu, dass sie selbst weniger motiviert, weniger konzentriert und weniger verantwortungsbewusst seien, wenn sie ohne die Unterstützung durch KI kognitive Entscheidungen treffen müssten.

Um dies zu demonstrieren, führten Forscher mehrerer Institutionen in ganz Europa eine Beobachtungsstudie in vier Endoskopiezentren in Polen durch, die am Programm „AI in Colonoscopy for Cancer Prevention“ (ACCEPT) teilnehmen.

Im Rahmen der Studie verwenden diese Zentren seit Ende 2021 KI-Tools zur Erkennung von Polypen, Tumoren, die gutartig oder bösartig sein können.

Die Studie umfasste 1.443 nicht-KI-gestützte Koloskopien von insgesamt 2.177, die zwischen September 2021 und März 2022 durchgeführt wurden. Die Koloskopien wurden von 19 erfahrenen Endoskopikern durchgeführt.

Anschließend verglichen die Forscher die Qualität der Koloskopien, die drei Monate vor und nach der Implementierung der KI durchgeführt wurden. Die Koloskopien wurden nach dem Zufallsprinzip mit oder ohne KI-Unterstützung durchgeführt.

In nur sechs Monaten waren Kliniker zu sehr auf KI-Empfehlungen angewiesen. Fotoillustration: national_cancer_institute.

Infolgedessen wurden 795 der ohne KI-Unterstützung durchgeführten Operationen vor dem routinemäßigen Einsatz von KI durchgeführt. Nach dem Einsatz von KI-Tools wurden nur 648 Operationen durchgeführt.

Drei Monate vor Einführung der AI lag die Adenom-Erkennungsrate (ADR) bei etwa 28 %. Drei Monate nach Einführung der AI sank diese Rate auf nur noch 22 %. Die ADR ist ein gängiger Qualitätsindikator für die Koloskopie. Je höher die ADR, desto geringer das Risiko für Darmkrebs.

Letztendlich ergab die Studie, dass KI den Endoskopikern half, bessere Diagnosen zu stellen, wenn sie eingesetzt wurde. Sobald die Unterstützung durch diese Technologie jedoch wegfiel, verschlechterten sich die diagnostischen Fähigkeiten der Ärzte sofort.

Forscher sagen, dies liege an einer „natürlichen menschlichen Tendenz, sich zu sehr auf die Empfehlungen von Entscheidungsunterstützungssystemen wie KI zu verlassen“.

Marcin Romańczyk, Co-Autor der Studie, nennt dies den Google-Maps-Effekt. „Wir versuchen, irgendwohin zu gelangen, und können dafür keine normale Karte verwenden. Das ist dasselbe“, sagt Romańczyk.

Ein Wort der Warnung

Omer Ahmad, Gastroenterologe am University College London Hospital, glaubt, dass der Umgang mit KI die visuellen Suchgewohnheiten und Aufmerksamkeitsmuster der Ärzte beeinträchtigt haben könnte, die für die Erkennung von Polypen entscheidend sind.

„Im Wesentlichen kann das Vertrauen auf KI bei der Erkennung die menschliche Mustererkennung in den Schatten stellen“, sagte Ahmad und fügte hinzu, er befürchte, dass der häufige Einsatz von KI ohne KI-Unterstützung „die diagnostische Sicherheit untergraben“ könnte.

Andere Experten sind vorsichtiger, wenn es darum geht, aus einer einzelnen Studie Schlussfolgerungen zu ziehen. Venet Osmani, Professor für klinische KI und maschinelles Lernen an der Queen Mary University of London, sagte, die Gesamtzahl der Koloskopien sei im Laufe der Studie gestiegen, was zu einer Ermüdung der Ärzte und damit zu niedrigeren Erkennungsraten geführt haben könnte.

Unterdessen stellte Allan Tucker, Professor für künstliche Intelligenz an der Brunel University of London, fest, dass sich die Leistung von Klinikern mithilfe von KI im Allgemeinen verbessert habe.

Die Sorge, dass die Fähigkeiten der Ärzte durch die Automatisierung beeinträchtigt würden, „beschränken sich nicht nur auf KI-Systeme und stellen bei der Einführung jeder neuen Technologie ein Risiko dar“, sagte Tucker.

AlphaFold kann in nur wenigen Sekunden die Struktur aller Proteine im menschlichen Körper vorhersagen. Das bietet enorme Vorteile für die medizinische Behandlung. Foto: DeepMind.

Derzeit setzen weltweit etwa 52 % der Krankenhäuser KI-Technologie in unterschiedlichem Umfang ein. In den USA nutzen etwa 75 % der Krankenhäuser KI-basierte Lösungen, um die Betriebseffizienz und die Patientenversorgung zu verbessern.

Der globale Markt für KI im Gesundheitswesen wird voraussichtlich von 28 Milliarden US-Dollar im Jahr 2024 auf 188 Milliarden US-Dollar im Jahr 2030 wachsen.

Dieses Wachstum fällt in eine Zeit, die als Wendepunkt für die Gesundheitsbranche gilt, da der Trend zur alternden Bevölkerung starke Auswirkungen auf den Gesundheitsbedarf der Menschen hat.

Die Weltgesundheitsorganisation (WHO) schätzt, dass der Welt bis 2030 rund 10 Millionen Ärzte, Krankenschwestern und Gesundheitspersonal fehlen werden. Gleichzeitig wird die Nachfrage nach Gesundheitsdienstleistungen steigen.

Zu diesem Zeitpunkt wird KI die Lösung sein, die medizinischen Einrichtungen auf der ganzen Welt dabei hilft, Herausforderungen zu meistern und die Qualität und Effizienz medizinischer Untersuchungen und Behandlungen zu verbessern.

Quelle: https://znews.vn/ai-khien-bac-si-thieu-trach-nhiem-hon-post1576844.html