Dokter bisa tertipu oleh AI.

Penelitian terbaru menunjukkan bahwa gambar sinar-X yang dihasilkan oleh AI semakin realistis, sehingga sulit dibedakan dari gambar kehidupan nyata dan menimbulkan risiko signifikan bagi perawatan kesehatan digital.

Gambar sinar-X berpasangan, yang terdiri dari gambar asli dan gambar yang dihasilkan oleh GPT-4o di lokasi berbeda pada tubuh, menunjukkan bahwa AI dapat menghasilkan gambar medis yang sangat realistis. (Sumber: RSNA)

Pada tanggal 24 Maret, sebuah studi yang dilakukan oleh sekelompok 18 ahli radiologi dari 12 institusi medis di 6 negara (termasuk AS, Prancis, Jerman, Turki, Inggris, dan UEA), yang dipimpin oleh Dr. Mickael Tordjman, seorang peneliti pascadoktoral di Icahn School of Medicine, Mount Sinai (New York, AS), diterbitkan dalam jurnal Radiology dari Radiological Society of North America (RSNA).

Penelitian menunjukkan bahwa gambar sinar-X yang dihasilkan oleh kecerdasan buatan (AI) kini sangat realistis sehingga bukan hanya manusia, tetapi bahkan sistem AI canggih pun kesulitan mengidentifikasinya.

Dari 264 gambar sinar-X yang digunakan dalam penelitian ini, setengahnya adalah gambar asli dan setengahnya lagi dihasilkan oleh AI. Para dokter yang berpartisipasi mengevaluasi dua kumpulan data terpisah, termasuk beberapa bagian tubuh dan kumpulan data sinar-X dada khusus, yang dihasilkan menggunakan model AI seperti ChatGPT dan RoentGen.

Hasil penelitian menunjukkan bahwa, tanpa pemberitahuan sebelumnya tentang keberadaan gambar palsu, dokter hanya berhasil mengidentifikasi 41% gambar yang dihasilkan AI dengan benar. Setelah diberi peringatan, angka ini meningkat menjadi 75%. Namun, akurasi bervariasi secara signifikan antar individu, berkisar antara 58% hingga 92%.

Tidak hanya manusia, tetapi sistem AI multimodal juga menghadapi kesulitan serupa. Keempat model yang diuji mencapai tingkat akurasi mulai dari 57% hingga 85%. Yang perlu diperhatikan, bahkan sistem yang terlibat dalam pembuatan gambar palsu pun tidak dapat sepenuhnya mengidentifikasi hasil karyanya sendiri.

Temuan penting lainnya adalah bahwa pengalaman bertahun-tahun tidak meningkatkan kemampuan untuk mendeteksi gambar yang menyerupai artefak. Namun, spesialis ortopedi menunjukkan kinerja yang lebih baik daripada spesialis di bidang lain.

Menurut tim peneliti, citra sinar-X palsu seringkali memiliki ciri visual yang halus seperti struktur tulang yang terlalu halus, tulang belakang yang lurus secara tidak normal, paru-paru yang simetris sempurna, pembuluh darah yang terdistribusi merata, dan patah tulang yang tampak "terlalu indah," seringkali hanya muncul di satu sisi tulang.

Penemuan ini menimbulkan kekhawatiran bahwa gambar palsu dapat digunakan dalam tuntutan hukum atau dimasukkan ke dalam sistem rumah sakit untuk memanipulasi diagnosis, mengganggu praktik klinis, dan merusak kepercayaan pada rekam medis digital.

Untuk mengurangi risiko, para peneliti menyarankan penerapan langkah-langkah keamanan seperti menyematkan tanda air tak terlihat ke dalam gambar dan menggunakan tanda tangan kriptografi yang terkait dengan fotografer untuk memverifikasi asal data.

Menurut Dr. Tordjman, apa yang diamati sejauh ini mungkin hanya puncak gunung es. Langkah selanjutnya dalam teknologi ini bisa berupa pembuatan citra medis 3D seperti CT atau MRI menggunakan AI. Dalam konteks itu, membangun kumpulan data pelatihan dan alat deteksi sekarang dianggap sebagai persyaratan penting untuk melindungi keakuratan diagnosis medis.

Sumber: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html