پزشکان را می‌توان با هوش مصنوعی فریب داد.

تحقیقات جدید نشان می‌دهد که تصاویر اشعه ایکس تولید شده توسط هوش مصنوعی به طور فزاینده‌ای واقع‌گرایانه‌تر می‌شوند و تشخیص آنها از تصاویر واقعی دشوار می‌شود و خطر قابل توجهی را برای مراقبت‌های بهداشتی دیجیتال ایجاد می‌کند.

تصاویر اشعه ایکس جفت‌شده، شامل تصاویر واقعی و تصاویر تولید شده توسط GPT-4o در نقاط مختلف بدن، نشان می‌دهند که هوش مصنوعی می‌تواند تصاویر پزشکی بسیار واقع‌گرایانه‌ای تولید کند. (منبع: RSNA)

در ۲۴ مارس، مطالعه‌ای توسط گروهی متشکل از ۱۸ رادیولوژیست از ۱۲ موسسه پزشکی در ۶ کشور (از جمله ایالات متحده، فرانسه، آلمان، ترکیه، انگلستان و امارات متحده عربی)، به رهبری دکتر میکائیل تورجمن، محقق فوق دکترا در دانشکده پزشکی ایکان، مونت سینای (نیویورک، ایالات متحده آمریکا)، در مجله رادیولوژی انجمن رادیولوژی آمریکای شمالی (RSNA) منتشر شد.

تحقیقات نشان می‌دهد که تصاویر اشعه ایکس تولید شده توسط هوش مصنوعی (AI) اکنون آنقدر واقعی هستند که نه تنها انسان‌ها، بلکه حتی سیستم‌های پیشرفته هوش مصنوعی نیز در شناسایی آنها با مشکل مواجه هستند.

از ۲۶۴ تصویر اشعه ایکس مورد استفاده در این مطالعه، نیمی واقعی و نیمی دیگر توسط هوش مصنوعی تولید شده بودند. پزشکان شرکت‌کننده دو مجموعه داده جداگانه، شامل چندین ناحیه بدن و یک مجموعه داده تخصصی اشعه ایکس قفسه سینه، که با استفاده از مدل‌های هوش مصنوعی مانند ChatGPT و RoentGen تولید شده بودند را ارزیابی کردند.

نتایج نشان داد که بدون اطلاع قبلی از وجود تصاویر جعلی، پزشکان تنها ۴۱٪ از تصاویر تولید شده توسط هوش مصنوعی را به درستی شناسایی کردند. هنگامی که هشدار داده شد، این میزان به ۷۵٪ افزایش یافت. با این حال، دقت در بین افراد به طور قابل توجهی متفاوت بود و از ۵۸٪ تا ۹۲٪ متغیر بود.

نه تنها انسان‌ها، بلکه سیستم‌های هوش مصنوعی چندوجهی نیز با مشکلات مشابهی روبرو هستند. چهار مدل آزمایش‌شده به میزان دقتی بین ۵۷٪ تا ۸۵٪ دست یافتند. نکته قابل توجه این است که حتی سیستمی که در ایجاد تصاویر جعلی دخیل بود، نتوانست تصاویر ساخته‌شده توسط خود را به‌طور کامل شناسایی کند.

یکی دیگر از یافته‌های قابل توجه این است که سال‌ها تجربه، توانایی تشخیص تصاویر شبه‌آرتیفکت را بهبود نبخشیده است. با این حال، متخصصان ارتوپدی عملکرد بهتری نسبت به متخصصان سایر تخصص‌ها داشتند.

به گفته تیم تحقیقاتی، تصاویر اشعه ایکس جعلی اغلب دارای ویژگی‌های بصری ظریفی مانند ساختار استخوانی بیش از حد صاف، ستون فقرات غیرطبیعی صاف، ریه‌های کاملاً متقارن، رگ‌های خونی با توزیع یکنواخت و شکستگی‌هایی هستند که "بیش از حد زیبا" به نظر می‌رسند و اغلب فقط در یک طرف استخوان ظاهر می‌شوند.

این کشف نگرانی‌هایی را ایجاد می‌کند مبنی بر اینکه تصاویر جعلی می‌توانند در دعاوی حقوقی استفاده شوند یا در سیستم‌های بیمارستانی برای دستکاری تشخیص‌ها، اختلال در عملکرد بالینی و تضعیف اعتماد به سوابق پزشکی دیجیتال وارد شوند.

برای کاهش خطرات، محققان پیشنهاد می‌کنند اقدامات امنیتی مانند جاسازی واترمارک‌های نامرئی در تصاویر و استفاده از امضاهای رمزنگاری مرتبط با عکاس برای تأیید منشأ داده‌ها، اجرا شود.

به گفته دکتر تورجمان، آنچه تاکنون مشاهده شده است، ممکن است تنها نوک کوه یخ باشد. گام بعدی در این فناوری می‌تواند ایجاد تصاویر پزشکی سه‌بعدی مانند سی‌تی‌اسکن یا ام‌آر‌آی با استفاده از هوش مصنوعی باشد. در این زمینه، ساخت مجموعه داده‌های آموزشی و ابزارهای تشخیص، اکنون یک نیاز حیاتی برای محافظت از دقت تشخیص‌های پزشکی محسوب می‌شود.

منبع: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html