Lékaři se mohou nechat oklamat umělou inteligencí.

Nový výzkum ukazuje, že rentgenové snímky generované umělou inteligencí se stávají stále realističtějšími, což ztěžuje jejich odlišení od skutečných snímků a představuje značné riziko pro digitální zdravotnictví.

Párové rentgenové snímky, sestávající ze skutečných obrazů a obrazů generovaných GPT-4o na různých místech na těle, ukazují, že umělá inteligence dokáže vytvářet vysoce realistické lékařské snímky. (Zdroj: RSNA)

Dne 24. března byla v časopise Radiology Radiological Society of North America (RSNA) publikována studie skupiny 18 radiologů z 12 zdravotnických zařízení v 6 zemích (včetně USA, Francie, Německa, Turecka, Velké Británie a Spojených arabských emirátů), vedené Dr. Mickaelem Tordjmanem, postdoktorandským výzkumníkem na Lékařské fakultě Icahn School of Medicine v Mount Sinai (New York, USA).

Výzkum ukazuje, že rentgenové snímky generované umělou inteligencí (AI) jsou nyní tak realistické, že nejen lidé, ale i pokročilé systémy AI mají potíže s jejich identifikací.

Z 264 rentgenových snímků použitých ve studii byla polovina skutečných a polovina generována umělou inteligencí. Zúčastnění lékaři vyhodnotili dva samostatné soubory dat, včetně dat z různých oblastí těla a specializovaného souboru dat z rentgenových snímků hrudníku, generovaného pomocí modelů umělé inteligence, jako jsou ChatGPT a RoentGen.

Výsledky ukázaly, že bez předchozího upozornění na existenci falešných obrázků lékaři správně identifikovali pouze 41 % obrázků generovaných umělou inteligencí. Po upozornění se tato míra zvýšila na 75 %. Přesnost se však u jednotlivých osob výrazně lišila a pohybovala se od 58 % do 92 %.

Nejen lidé, ale i multimodální systémy umělé inteligence čelí podobným problémům. Čtyři testované modely dosáhly míry přesnosti v rozmezí od 57 % do 85 %. Je pozoruhodné, že ani systém zapojený do vytváření falešných obrázků nedokázal plně identifikovat své vlastní výtvory.

Dalším pozoruhodným zjištěním je, že roky zkušeností nezlepšily schopnost detekovat obrazy podobné artefaktem. Ortopedičtí specialisté však dosahovali lepších výsledků než specialisté v jiných specializacích.

Podle výzkumného týmu mají falešné rentgenové snímky často jemné vizuální znaky, jako je příliš hladká kostní struktura, abnormálně rovná páteř, dokonale symetrické plíce, rovnoměrně rozložené cévy a zlomeniny, které vypadají „příliš krásně“ a často se objevují pouze na jedné straně kosti.

Objev vyvolává obavy, že falešné snímky by mohly být použity v soudních sporech nebo vloženy do nemocničních systémů k manipulaci s diagnózami, narušení klinické praxe a podkopání důvěry v digitální lékařské záznamy.

Pro zmírnění rizik vědci navrhují zavést bezpečnostní opatření, jako je vkládání neviditelných vodoznaků do obrázků a používání kryptografických podpisů propojených s fotografem k ověření původu dat.

Podle Dr. Tordjmana může být dosavadní pozorování pouze špičkou ledovce. Dalším krokem v této technologii by mohlo být vytváření 3D lékařských snímků, jako je CT nebo MRI, s využitím umělé inteligence. V této souvislosti je vytváření trénovacích datových sad a detekčních nástrojů nyní považováno za klíčový požadavek pro ochranu přesnosti lékařských diagnóz.

Zdroj: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html