Medicii pot fi păcăliți de inteligența artificială.

Noi cercetări arată că imaginile cu raze X generate de inteligența artificială devin din ce în ce mai realiste, ceea ce le face dificil de distins de imaginile din viața reală și prezintă un risc semnificativ pentru asistența medicală digitală.

Imaginile radiografice pereche, constând din imagini reale și imagini generate de GPT-4o în diferite locații ale corpului, demonstrează că inteligența artificială poate produce imagini medicale extrem de realiste. (Sursa: RSNA)

Pe 24 martie, un studiu realizat de un grup de 18 radiologi din 12 instituții medicale din 6 țări (inclusiv SUA, Franța, Germania, Turcia, Marea Britanie și Emiratele Arabe Unite), condus de Dr. Mickael Tordjman, cercetător postdoctoral la Școala de Medicină Icahn, Mount Sinai (New York, SUA), a fost publicat în revista Radiology a Societății Radiologice din America de Nord (RSNA).

Cercetările arată că imaginile cu raze X generate de inteligența artificială (IA) sunt acum atât de realiste încât nu doar oamenii, ci chiar și sistemele avansate de IA întâmpină dificultăți în identificarea lor.

Dintre cele 264 de imagini cu raze X utilizate în studiu, jumătate au fost reale, iar cealaltă jumătate au fost generate de inteligența artificială. Medicii participanți au evaluat două seturi de date separate, inclusiv mai multe regiuni ale corpului și un set de date specializat de radiografie toracică, generate folosind modele de inteligență artificială precum ChatGPT și RoentGen.

Rezultatele au arătat că, fără o notificare prealabilă cu privire la existența imaginilor false, medicii au identificat corect doar 41% din imaginile generate de inteligența artificială. Atunci când au fost alertați, această rată a crescut la 75%. Cu toate acestea, acuratețea a variat semnificativ între indivizi, variind de la 58% la 92%.

Nu doar oamenii, ci și sistemele de inteligență artificială multimodală se confruntă cu dificultăți similare. Cele patru modele testate au atins rate de precizie cuprinse între 57% și 85%. În special, nici măcar sistemul implicat în crearea imaginilor false nu și-a putut identifica pe deplin propriile creații.

O altă constatare demnă de remarcat este că anii de experiență nu au îmbunătățit capacitatea de a detecta imagini asemănătoare artefactelor. Cu toate acestea, specialiștii ortopezi au avut performanțe mai bune decât cei din alte specialități.

Potrivit echipei de cercetare, imaginile radiografice false prezintă adesea caracteristici vizuale subtile, cum ar fi o structură osoasă excesiv de netedă, o coloană vertebrală anormal de dreaptă, plămâni perfect simetrici, vase de sânge distribuite uniform și fracturi care par „prea frumoase”, apărând adesea doar pe o singură parte a osului.

Descoperirea ridică îngrijorări că imaginile false ar putea fi folosite în procese sau introduse în sistemele spitalicești pentru a manipula diagnosticele, a perturba practica clinică și a submina încrederea în dosarele medicale digitale.

Pentru a atenua riscurile, cercetătorii sugerează implementarea unor măsuri de securitate, cum ar fi încorporarea unor filigrane invizibile în imagini și utilizarea semnăturilor criptografice legate de fotograf pentru a verifica originea datelor.

Potrivit Dr. Tordjman, ceea ce s-a observat până acum ar putea fi doar vârful aisbergului. Următorul pas în această tehnologie ar putea fi crearea de imagini medicale 3D, cum ar fi tomografia computerizată sau RMN-ul, folosind inteligența artificială. În acest context, construirea de seturi de date de antrenament și instrumente de detectare este considerată acum o cerință critică pentru a proteja acuratețea diagnosticelor medicale.

Sursă: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html