Ärzte können von KI getäuscht werden.

Neue Forschungsergebnisse zeigen, dass KI-generierte Röntgenbilder immer realistischer werden, wodurch sie sich nur noch schwer von realen Bildern unterscheiden lassen und ein erhebliches Risiko für die digitale Gesundheitsversorgung darstellen.

Gepaarte Röntgenbilder, bestehend aus realen Aufnahmen und von GPT-4o generierten Bildern an verschiedenen Körperstellen, demonstrieren, dass KI hochrealistische medizinische Bilder erzeugen kann. (Quelle: RSNA)

Am 24. März wurde eine Studie einer Gruppe von 18 Radiologen aus 12 medizinischen Einrichtungen in 6 Ländern (darunter die USA, Frankreich, Deutschland , die Türkei, Großbritannien und die Vereinigten Arabischen Emirate) unter der Leitung von Dr. Mickael Tordjman, einem Postdoktoranden an der Icahn School of Medicine, Mount Sinai (New York, USA), in der Fachzeitschrift Radiology der Radiological Society of North America (RSNA) veröffentlicht.

Untersuchungen zeigen, dass von künstlicher Intelligenz (KI) erzeugte Röntgenbilder mittlerweile so realistisch sind, dass nicht nur Menschen, sondern selbst hochentwickelte KI-Systeme Schwierigkeiten haben, sie zu identifizieren.

Von den 264 in der Studie verwendeten Röntgenbildern war die Hälfte echt, die andere Hälfte KI-generiert. Die teilnehmenden Ärzte beurteilten zwei separate Datensätze, darunter einen speziellen Datensatz mit Röntgenbildern verschiedener Körperregionen sowie einen Datensatz mit Thorax-Röntgenbildern, die mithilfe von KI-Modellen wie ChatGPT und RoentGen erstellt wurden.

Die Ergebnisse zeigten, dass Ärzte ohne vorherige Benachrichtigung über gefälschte Bilder nur 41 % der KI-generierten Bilder korrekt identifizierten. Nach der Benachrichtigung stieg diese Quote auf 75 %. Die Genauigkeit variierte jedoch deutlich zwischen den einzelnen Ärzten und lag zwischen 58 % und 92 %.

Das könnte Sie interessieren

Ein Krankenhaus am nordwestlichen Stadtrand von Ho-Chi-Minh-Stadt wurde modernisiert und vermittelt den Patienten nun ein Gefühl der Sicherheit.SKĐS - Aus einer medizinischen Einrichtung, die aufgrund maroder Infrastruktur viele Jahre lang zu kämpfen hatte, tritt das regionale Allgemeinkrankenhaus Hoc Mon nun mit moderner Infrastruktur und fortschrittlichen Techniken in eine neue Entwicklungsphase ein.

6 Gerichte und Hausmittel, die zur Linderung von Hämorrhoidensymptomen beitragenSKĐS - Eine ausgewogene Ernährung spielt eine sehr wichtige Rolle bei der Linderung von Verstopfung, der Verringerung des Drucks auf Hämorrhoiden und der Unterstützung des Heilungsprozesses von Hämorrhoiden.

Erste formale Ausbildung in robotergestützter Chirurgie zur Krebsbehandlung.Das K-Krankenhaus hat soeben seinen ersten umfassenden Ausbildungskurs für robotergestützte laparoskopische Chirurgie zur Krebsbehandlung gestartet, an dem zahlreiche führende Experten aus dem In- und Ausland beteiligt sind.

Nicht nur Menschen, sondern auch multimodale KI-Systeme stehen vor ähnlichen Schwierigkeiten. Die vier getesteten Modelle erreichten Genauigkeitsraten zwischen 57 % und 85 %. Bemerkenswerterweise konnte selbst das System, das die gefälschten Bilder erstellt hatte, seine eigenen Kreationen nicht vollständig identifizieren.

Ein weiteres bemerkenswertes Ergebnis ist, dass jahrelange Erfahrung die Fähigkeit, artefaktartige Bilder zu erkennen, nicht verbesserte. Orthopäden schnitten dabei jedoch besser ab als Fachärzte anderer Fachrichtungen.

Laut dem Forschungsteam weisen gefälschte Röntgenbilder oft subtile visuelle Merkmale auf, wie zum Beispiel eine übermäßig glatte Knochenstruktur, eine abnormal gerade Wirbelsäule, perfekt symmetrische Lungen, gleichmäßig verteilte Blutgefäße und Frakturen, die „zu schön“ erscheinen und oft nur auf einer Seite des Knochens auftreten.

Die Entdeckung weckt Bedenken, dass gefälschte Bilder in Gerichtsverfahren verwendet oder in Krankenhaussysteme eingeschleust werden könnten, um Diagnosen zu manipulieren, die klinische Praxis zu stören und das Vertrauen in digitale Patientenakten zu untergraben.

Um Risiken zu minimieren, schlagen Forscher die Implementierung von Sicherheitsmaßnahmen vor, wie beispielsweise das Einbetten unsichtbarer Wasserzeichen in Bilder und die Verwendung kryptografischer Signaturen, die mit dem Fotografen verknüpft sind, um die Datenherkunft zu verifizieren.

Vereinigte Staaten - Vietnam: Nicht verpassen

Hochrangige Partei- und Staatsfunktionäre senden Briefe und Telegramme, in denen sie den Vereinigten Staaten zu ihrem Nationalfeiertag gratulieren.In Glückwunschschreiben und -botschaften zum US-amerikanischen Unabhängigkeitstag bekräftigten hochrangige Vertreter der vietnamesischen Partei und des Staates, dass Vietnam die Vereinigten Staaten als einen seiner strategisch wichtigen Partner betrachtet.

Hochrangige Vertreter der vietnamesischen Partei und des Staates senden Briefe und Telegramme, in denen sie den Vereinigten Staaten zum Nationalfeiertag gratulieren.In Glückwunschschreiben und -botschaften zum US-amerikanischen Unabhängigkeitstag bekräftigten hochrangige Vertreter der vietnamesischen Partei und des Staates, dass Vietnam die Vereinigten Staaten als einen seiner strategisch wichtigen Partner betrachtet.

Stärkung der Freundschaft zwischen Vietnam und den Vereinigten Staaten.Am 3. Juli stattete die Delegation der US Army Pacific unter der Leitung von Generalleutnant Joel Vowell, stellvertretender Kommandeur der US Army Pacific, im Rahmen des Programms „Pacific Partnership - Friends of the Pacific 2026“ dem Provinzmilitärkommando Quang Tri einen Höflichkeitsbesuch ab.

Laut Dr. Tordjman ist das bisher Beobachtete möglicherweise nur die Spitze des Eisbergs. Der nächste Schritt in dieser Technologie könnte die Erstellung dreidimensionaler medizinischer Bilder wie CT- oder MRT-Aufnahmen mithilfe von KI sein. In diesem Zusammenhang gilt die Entwicklung von Trainingsdatensätzen und Erkennungswerkzeugen als unerlässlich, um die Genauigkeit medizinischer Diagnosen zu gewährleisten.

Quelle: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html