Az orvosokat be lehet csapni a mesterséges intelligenciával.

Új kutatások szerint a mesterséges intelligencia által generált röntgenképek egyre realisztikusabbak, ami megnehezíti a megkülönböztetésüket a valós képektől, és jelentős kockázatot jelent a digitális egészségügyre nézve.

A valós képekből és a test különböző pontjain GPT-4o által generált képekből álló párosított röntgenfelvételek azt mutatják, hogy a mesterséges intelligencia rendkívül valósághű orvosi képeket képes előállítani. (Forrás: RSNA)

Március 24-én az Észak-amerikai Radiológiai Társaság (RSNA) Radiológia folyóiratában jelent meg egy tanulmány, amelyet 12 egészségügyi intézmény 18 radiológusából álló csoport végzett 6 országban (köztük az Egyesült Államokban, Franciaországban, Németországban, Törökországban, az Egyesült Királyságban és az Egyesült Arab Emírségekben). A tanulmányt Dr. Mickael Tordjman, az Icahn Orvostudományi Kar, Mount Sinai (New York, USA) posztdoktori kutatója vezette.

A kutatások azt mutatják, hogy a mesterséges intelligencia (MI) által generált röntgenfelvételek ma már annyira valósághűek, hogy nemcsak az emberek, de még a fejlett MI-rendszerek is nehezen tudják azonosítani őket.

A tanulmányban felhasznált 264 röntgenfelvétel fele valódi, másik fele pedig mesterséges intelligencia által generált volt. A résztvevő orvosok két különálló adatkészletet értékeltek, köztük több testrégiót és egy speciális mellkasröntgen-adatkészletet, amelyeket mesterséges intelligencia modellek, például a ChatGPT és a RoentGen segítségével generáltak.

Az eredmények azt mutatták, hogy a hamis képek létezéséről szóló előzetes értesítés nélkül az orvosok a mesterséges intelligencia által generált képeknek csak 41%-át azonosították helyesen. Riasztáskor ez az arány 75%-ra nőtt. A pontosság azonban az egyének között jelentősen eltért, 58% és 92% között mozgott.

Nemcsak az emberek, hanem a multimodális MI-rendszerek is hasonló nehézségekkel szembesülnek. A tesztelt négy modell 57% és 85% közötti pontossági arányt ért el. Figyelemre méltó, hogy még a hamis képek létrehozásában részt vevő rendszer sem tudta teljes mértékben azonosítani saját alkotásait.

Egy másik figyelemre méltó megállapítás, hogy a sokéves tapasztalat nem javította a műtermék-szerű képek felismerésének képességét. Az ortopéd szakorvosok azonban jobban teljesítettek, mint más szakterületeken dolgozók.

A kutatócsoport szerint a hamis röntgenfelvételek gyakran olyan finom vizuális jellemzőket mutatnak, mint a túlságosan sima csontszerkezet, a rendellenesen egyenes gerinc, a tökéletesen szimmetrikus tüdő, az egyenletesen elosztott erek és a "túl szépnek" tűnő törések, amelyek gyakran csak a csont egyik oldalán jelennek meg.

A felfedezés aggodalomra ad okot, hogy hamis képeket felhasználhatnak perekben, vagy beilleszthetnek kórházi rendszerekbe a diagnózisok manipulálására, a klinikai gyakorlat megzavarására és a digitális orvosi feljegyzésekbe vetett bizalom aláásására.

A kockázatok csökkentése érdekében a kutatók olyan biztonsági intézkedések bevezetését javasolják, mint például láthatatlan vízjelek beágyazása a képekbe, és a fotóshoz kapcsolódó kriptográfiai aláírások használata az adatok eredetének ellenőrzésére.

Dr. Tordjman szerint az eddigi megfigyelések csak a jéghegy csúcsát jelenthetik. A technológia következő lépése a 3D-s orvosi képek, például CT vagy MRI létrehozása lehet mesterséges intelligencia segítségével. Ebben az összefüggésben a betanító adatkészletek és az észlelő eszközök létrehozása ma már kritikus követelménynek számít az orvosi diagnózisok pontosságának védelme érdekében.

Forrás: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html