Doktorlar yapay zekâ tarafından kandırılabilir.

Yeni araştırmalar, yapay zekâ tarafından oluşturulan röntgen görüntülerinin giderek daha gerçekçi hale geldiğini, bu durumun onları gerçek hayattaki görüntülerden ayırt etmeyi zorlaştırdığını ve dijital sağlık hizmetleri için önemli bir risk oluşturduğunu gösteriyor.

Vücudun farklı bölgelerinden alınan gerçek görüntüler ve GPT-4o tarafından oluşturulan görüntülerden oluşan eşleştirilmiş röntgen görüntüleri, yapay zekanın son derece gerçekçi tıbbi görüntüler üretebildiğini göstermektedir. (Kaynak: RSNA)

24 Mart'ta, ABD, Fransa, Almanya, Türkiye, İngiltere ve BAE dahil olmak üzere 6 ülkedeki 12 tıp kurumundan 18 radyologdan oluşan bir grubun, Icahn School of Medicine, Mount Sinai'de (New York, ABD) doktora sonrası araştırmacı olan Dr. Mickael Tordjman liderliğinde yaptığı bir çalışma, Kuzey Amerika Radyoloji Derneği'nin (RSNA) Radiology dergisinde yayınlandı.

Araştırmalar, yapay zekâ (YZ) tarafından üretilen röntgen görüntülerinin artık o kadar gerçekçi olduğunu gösteriyor ki, sadece insanlar değil, gelişmiş YZ sistemleri bile bunları tanımlamakta zorlanıyor.

Çalışmada kullanılan 264 röntgen görüntüsünün yarısı gerçek, yarısı ise yapay zeka tarafından oluşturulmuştu. Katılımcı hekimler, ChatGPT ve RoentGen gibi yapay zeka modelleri kullanılarak oluşturulan, birden fazla vücut bölgesini ve özel bir göğüs röntgeni veri setini içeren iki ayrı veri setini değerlendirdi.

Sonuçlar, sahte görüntülerin varlığı konusunda önceden bilgilendirilmedikleri takdirde doktorların yapay zeka tarafından oluşturulan görüntülerin yalnızca %41'ini doğru bir şekilde tanımlayabildiğini gösterdi. Uyarıldıklarında ise bu oran %75'e yükseldi. Bununla birlikte, doğruluk oranı bireyler arasında %58 ile %92 arasında önemli ölçüde farklılık gösterdi.

Sadece insanlar değil, çok modlu yapay zeka sistemleri de benzer zorluklarla karşılaşıyor. Test edilen dört modelin doğruluk oranları %57 ile %85 arasında değişti. Dikkat çekici bir şekilde, sahte görüntüleri oluşturan sistem bile kendi yarattığı görüntüleri tam olarak tanımlayamadı.

Dikkat çekici bir diğer bulgu ise, yılların getirdiği deneyimin, yapay görüntü benzeri kusurları tespit etme yeteneğini geliştirmediğidir. Bununla birlikte, ortopedi uzmanları diğer uzmanlık alanlarındakilerden daha iyi performans göstermiştir.

Araştırma ekibine göre, yanıltıcı röntgen görüntüleri genellikle aşırı düzgün kemik yapısı, anormal derecede düz omurga, mükemmel simetrik akciğerler, eşit dağılımlı kan damarları ve genellikle kemiğin sadece bir tarafında görünen "çok güzel" kırıklar gibi ince görsel özellikler içerir.

Bu keşif, sahte görüntülerin davalarda kullanılabileceği veya hastane sistemlerine yerleştirilerek teşhislerin manipüle edilebileceği, klinik uygulamaların aksatılabileceği ve dijital tıbbi kayıtlara olan güvenin zedelenebileceği endişelerini artırıyor.

Riskleri azaltmak için araştırmacılar, görüntülere görünmez filigranlar yerleştirmek ve verilerin kaynağını doğrulamak için fotoğrafçıyla bağlantılı kriptografik imzalar kullanmak gibi güvenlik önlemlerinin uygulanmasını öneriyor.

Dr. Tordjman'a göre, şu ana kadar gözlemlenenler buzdağının sadece görünen kısmı olabilir. Bu teknolojideki bir sonraki adım, yapay zeka kullanarak BT veya MR gibi 3 boyutlu tıbbi görüntüler oluşturmak olabilir. Bu bağlamda, tıbbi teşhislerin doğruluğunu korumak için eğitim veri kümeleri ve tespit araçları oluşturmak şu anda kritik bir gereklilik olarak kabul ediliyor.

Kaynak: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html