Doktor boleh tertipu oleh AI.

Kajian baharu menunjukkan bahawa imej sinar-X yang dijana AI menjadi semakin realistik, menjadikannya sukar untuk dibezakan daripada imej kehidupan sebenar dan menimbulkan risiko yang ketara kepada penjagaan kesihatan digital.

Imej sinar-X berpasangan, yang terdiri daripada imej sebenar dan imej yang dihasilkan oleh GPT-4o di lokasi berbeza pada badan, menunjukkan bahawa AI boleh menghasilkan imej perubatan yang sangat realistik. (Sumber: RSNA)

Pada 24 Mac, satu kajian oleh sekumpulan 18 ahli radiologi dari 12 institusi perubatan di 6 negara (termasuk AS, Perancis, Jerman, Turki, UK dan UAE), yang diketuai oleh Dr. Mickael Tordjman, seorang penyelidik pasca doktoral di Sekolah Perubatan Icahn, Mount Sinai (New York, Amerika Syarikat), telah diterbitkan dalam jurnal Radiologi Persatuan Radiologi Amerika Utara (RSNA).

Kajian menunjukkan bahawa imej sinar-X yang dihasilkan oleh kecerdasan buatan (AI) kini begitu realistik sehingga bukan sahaja manusia tetapi juga sistem AI canggih menghadapi kesukaran untuk mengenal pastinya.

Daripada 264 imej sinar-X yang digunakan dalam kajian ini, separuh adalah imej sebenar dan separuh lagi dijana oleh AI. Doktor yang mengambil bahagian menilai dua set data berasingan, termasuk pelbagai kawasan badan dan set data sinar-X dada khusus, yang dijana menggunakan model AI seperti ChatGPT dan RoentGen.

Keputusan menunjukkan bahawa, tanpa pemberitahuan terlebih dahulu tentang kewujudan imej palsu, doktor hanya mengenal pasti 41% imej yang dijana AI dengan betul. Apabila dimaklumkan, kadar ini meningkat kepada 75%. Walau bagaimanapun, ketepatannya berbeza-beza dengan ketara antara individu, antara 58% hingga 92%.

Bukan sahaja manusia, malah sistem AI multimodal juga menghadapi kesukaran yang sama. Empat model yang diuji mencapai kadar ketepatan antara 57% hingga 85%. Terutamanya, sistem yang terlibat dalam mencipta imej palsu pun tidak dapat mengenal pasti sepenuhnya ciptaannya sendiri.

Satu lagi penemuan penting ialah pengalaman bertahun-tahun tidak meningkatkan keupayaan untuk mengesan imej seperti artifak. Walau bagaimanapun, pakar ortopedik menunjukkan prestasi yang lebih baik berbanding pakar dalam bidang kepakaran lain.

Menurut pasukan penyelidikan, imej sinar-X palsu sering mempunyai ciri-ciri visual yang halus seperti struktur tulang yang terlalu licin, tulang belakang yang tidak normal, paru-paru yang simetri sempurna, saluran darah yang diagihkan secara sekata, dan patah tulang yang kelihatan "terlalu cantik", selalunya hanya muncul pada satu sisi tulang.

Penemuan itu menimbulkan kebimbangan bahawa imej palsu boleh digunakan dalam tuntutan mahkamah atau dimasukkan ke dalam sistem hospital untuk memanipulasi diagnosis, mengganggu amalan klinikal dan menjejaskan kepercayaan terhadap rekod perubatan digital.

Bagi mengurangkan risiko, para penyelidik mencadangkan agar langkah-langkah keselamatan dilaksanakan seperti membenamkan tanda air yang tidak kelihatan ke dalam imej dan menggunakan tandatangan kriptografi yang dipautkan kepada jurugambar untuk mengesahkan asal usul data.

Menurut Dr. Tordjman, apa yang diperhatikan setakat ini mungkin hanya puncak gunung ais. Langkah seterusnya dalam teknologi ini mungkin menghasilkan imej perubatan 3D seperti CT atau MRI menggunakan AI. Dalam konteks itu, membina set data latihan dan alat pengesanan kini dianggap sebagai keperluan kritikal untuk melindungi ketepatan diagnosis perubatan.

Sumber: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html