Ärzte können von KI getäuscht werden.

Neue Forschungsergebnisse zeigen, dass KI-generierte Röntgenbilder immer realistischer werden, wodurch sie sich nur noch schwer von realen Bildern unterscheiden lassen und ein erhebliches Risiko für die digitale Gesundheitsversorgung darstellen.

Gepaarte Röntgenbilder, bestehend aus realen Aufnahmen und von GPT-4o generierten Bildern an verschiedenen Körperstellen, demonstrieren, dass KI hochrealistische medizinische Bilder erzeugen kann. (Quelle: RSNA)

Am 24. März wurde eine Studie einer Gruppe von 18 Radiologen aus 12 medizinischen Einrichtungen in 6 Ländern (darunter die USA, Frankreich, Deutschland, die Türkei, Großbritannien und die Vereinigten Arabischen Emirate) unter der Leitung von Dr. Mickael Tordjman, einem Postdoktoranden an der Icahn School of Medicine, Mount Sinai (New York, USA), in der Fachzeitschrift Radiology der Radiological Society of North America (RSNA) veröffentlicht.

Untersuchungen zeigen, dass von künstlicher Intelligenz (KI) erzeugte Röntgenbilder mittlerweile so realistisch sind, dass nicht nur Menschen, sondern selbst hochentwickelte KI-Systeme Schwierigkeiten haben, sie zu identifizieren.

Von den 264 in der Studie verwendeten Röntgenbildern war die Hälfte echt, die andere Hälfte KI-generiert. Die teilnehmenden Ärzte beurteilten zwei separate Datensätze, darunter einen speziellen Datensatz mit Röntgenbildern verschiedener Körperregionen sowie einen Datensatz mit Thorax-Röntgenbildern, die mithilfe von KI-Modellen wie ChatGPT und RoentGen erstellt wurden.

Die Ergebnisse zeigten, dass Ärzte ohne vorherige Benachrichtigung über gefälschte Bilder nur 41 % der KI-generierten Bilder korrekt identifizierten. Nach der Benachrichtigung stieg diese Quote auf 75 %. Die Genauigkeit variierte jedoch deutlich zwischen den einzelnen Ärzten und lag zwischen 58 % und 92 %.

Nicht nur Menschen, sondern auch multimodale KI-Systeme stehen vor ähnlichen Schwierigkeiten. Die vier getesteten Modelle erreichten Genauigkeitsraten zwischen 57 % und 85 %. Bemerkenswerterweise konnte selbst das System, das die gefälschten Bilder erstellt hatte, seine eigenen Kreationen nicht vollständig identifizieren.

Ein weiteres bemerkenswertes Ergebnis ist, dass jahrelange Erfahrung die Fähigkeit, artefaktartige Bilder zu erkennen, nicht verbesserte. Orthopäden schnitten dabei jedoch besser ab als Fachärzte anderer Fachrichtungen.

Laut dem Forschungsteam weisen gefälschte Röntgenbilder oft subtile visuelle Merkmale auf, wie zum Beispiel eine übermäßig glatte Knochenstruktur, eine abnormal gerade Wirbelsäule, perfekt symmetrische Lungen, gleichmäßig verteilte Blutgefäße und Frakturen, die „zu schön“ erscheinen und oft nur auf einer Seite des Knochens auftreten.

Die Entdeckung weckt Bedenken, dass gefälschte Bilder in Gerichtsverfahren verwendet oder in Krankenhaussysteme eingeschleust werden könnten, um Diagnosen zu manipulieren, die klinische Praxis zu stören und das Vertrauen in digitale Patientenakten zu untergraben.

Um Risiken zu minimieren, schlagen Forscher die Implementierung von Sicherheitsmaßnahmen vor, wie beispielsweise das Einbetten unsichtbarer Wasserzeichen in Bilder und die Verwendung kryptografischer Signaturen, die mit dem Fotografen verknüpft sind, um die Datenherkunft zu verifizieren.

Laut Dr. Tordjman ist das bisher Beobachtete möglicherweise nur die Spitze des Eisbergs. Der nächste Schritt in dieser Technologie könnte die Erstellung dreidimensionaler medizinischer Bilder wie CT- oder MRT-Aufnahmen mithilfe von KI sein. In diesem Zusammenhang gilt die Entwicklung von Trainingsdatensätzen und Erkennungswerkzeugen als unerlässlich, um die Genauigkeit medizinischer Diagnosen zu gewährleisten.

Quelle: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html