Læger kan blive narret af kunstig intelligens.

Ny forskning viser, at AI-genererede røntgenbilleder bliver mere og mere realistiske, hvilket gør dem vanskelige at skelne fra hinanden og udgør en betydelig risiko for digital sundhedspleje.

Parrede røntgenbilleder, bestående af virkelige billeder og billeder genereret af GPT-4o på forskellige steder på kroppen, viser, at AI kan producere meget realistiske medicinske billeder. (Kilde: RSNA)

Den 24. marts blev en undersøgelse foretaget af en gruppe på 18 radiologer fra 12 medicinske institutioner i 6 lande (herunder USA, Frankrig, Tyskland, Tyrkiet, Storbritannien og UAE), ledet af Dr. Mickael Tordjman, en postdoc-forsker ved Icahn School of Medicine, Mount Sinai (New York, USA), offentliggjort i tidsskriftet Radiology of the Radiological Society of North America (RSNA).

Forskning viser, at røntgenbilleder genereret af kunstig intelligens (AI) nu er så realistiske, at ikke kun mennesker, men selv avancerede AI-systemer har svært ved at identificere dem.

Ud af de 264 røntgenbilleder, der blev brugt i studiet, var halvdelen ægte, og halvdelen var AI-genererede. De deltagende læger evaluerede to separate datasæt, herunder flere kropsregioner og et specialiseret røntgendatasæt af brystkassen, genereret ved hjælp af AI-modeller som ChatGPT og RoentGen.

Resultaterne viste, at lægerne kun korrekt identificerede 41 % af de AI-genererede billeder uden forudgående underretning om eksistensen af ​​falske billeder. Denne andel steg til 75 %, da de blev advaret. Nøjagtigheden varierede dog betydeligt mellem individer og spændte fra 58 % til 92 %.

Du vil måske også synes om

Fødevaresikkerhedsmyndigheden advarer om tilbagekaldelse af produkter fra Nature's Own efter anbefalinger fra Australien.Fødevaresikkerhedsministeriet (Sundhedsministeriet) har netop udsendt en advarsel vedrørende Australiens hastetilbagekaldelse af to kosttilskudsprodukter under mærket Nature's Own på grund af risikoen for, at der kan forekomme glasfragmenter i flaskerne.

Ikke kun mennesker, men også multimodale AI-systemer står over for lignende vanskeligheder. De fire testede modeller opnåede nøjagtigheder fra 57 % til 85 %. Det er værd at bemærke, at selv det system, der var involveret i at skabe de falske billeder, ikke fuldt ud kunne identificere sine egne kreationer.

Et andet bemærkelsesværdigt fund er, at mange års erfaring ikke forbedrede evnen til at detektere artefaktlignende billeder. Ortopædspecialister klarede sig dog bedre end dem inden for andre specialer.

Ifølge forskerholdet har falske røntgenbilleder ofte subtile visuelle træk såsom en alt for glat knoglestruktur, en unormalt lige rygsøjle, perfekt symmetriske lunger, jævnt fordelte blodkar og brud, der ser "for smukke" ud og ofte kun optræder på den ene side af knoglen.

Opdagelsen rejser bekymring for, at falske billeder kan blive brugt i retssager eller indsat i hospitalssystemer til at manipulere diagnoser, forstyrre klinisk praksis og underminere tilliden til digitale patientjournaler.

For at afbøde risici foreslår forskere at implementere sikkerhedsforanstaltninger såsom at integrere usynlige vandmærker i billeder og bruge kryptografiske signaturer knyttet til fotografen for at verificere dataenes oprindelse.

Du vil måske også synes om

Kongressen for Hanoi Young Doctors' Association: Slip intellekt og entusiasme løs for samfundets sundhed.SKĐS - Den 5. kongres for Hanoi Young Doctors Association har valgt en ny bestyrelse på 45 medlemmer, hvilket indleder en ny periode med fokus på digital transformation, innovation og forbedring af effektiviteten af ​​sundhedsplejen for befolkningen.

Ifølge Dr. Tordjman er det, der indtil videre er observeret, muligvis kun toppen af ​​isbjerget. Det næste skridt i denne teknologi kunne være at skabe 3D-medicinske billeder som CT- eller MR-scanninger ved hjælp af kunstig intelligens. I den sammenhæng betragtes opbygning af træningsdatasæt og detektionsværktøjer nu som et kritisk krav for at beskytte nøjagtigheden af ​​medicinske diagnoser.

Kilde: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html