רופאים יכולים להיות שולל על ידי בינה מלאכותית.

מחקר חדש מראה שתמונות רנטגן שנוצרו על ידי בינה מלאכותית הופכות לריאליסטיות יותר ויותר, מה שמקשה על ההבחנה ביניהן מתמונות אמיתיות ומהווה סיכון משמעותי לשירותי הבריאות הדיגיטליים.

תמונות רנטגן מזווגות, המורכבות מתמונות אמיתיות ותמונות שנוצרו על ידי GPT-4o במיקומים שונים בגוף, מדגימות שבינה מלאכותית יכולה לייצר תמונות רפואיות ריאליסטיות ביותר. (מקור: RSNA)

ב-24 במרץ, פורסם בכתב העת Radiology של האגודה הרדיולוגית של צפון אמריקה (RSNA) מחקר של קבוצה של 18 רדיולוגים מ-12 מוסדות רפואיים ב-6 מדינות (כולל ארה"ב, צרפת, גרמניה, טורקיה, בריטניה ואיחוד האמירויות הערביות), בראשות ד"ר מיקאל טורדג'מן, חוקר פוסט - דוקטורט בבית הספר לרפואה אייקן, הר סיני (ניו יורק, ארה"ב).

מחקרים מראים שתמונות רנטגן שנוצרות על ידי בינה מלאכותית (AI) הן כיום כה מציאותיות, עד שלא רק בני אדם אלא אפילו מערכות בינה מלאכותית מתקדמות מתקשות לזהות אותן.

מתוך 264 תמונות רנטגן ששימשו במחקר, מחציתן היו אמיתיות ומחציתן נוצרו על ידי בינה מלאכותית. הרופאים המשתתפים העריכו שני מערכי נתונים נפרדים, כולל אזורים מרובים בגוף ומערך נתונים מיוחד של צילומי רנטגן של חזה, שנוצר באמצעות מודלים של בינה מלאכותית כגון ChatGPT ו-RoentGen.

התוצאות הראו כי ללא הודעה מוקדמת על קיומן של תמונות מזויפות, רופאים זיהו נכון רק 41% מהתמונות שנוצרו על ידי בינה מלאכותית. כאשר ניתנה התראה, שיעור זה עלה ל-75%. עם זאת, הדיוק השתנה באופן משמעותי בין אנשים, ונע בין 58% ל-92%.

לא רק בני אדם, אלא גם מערכות בינה מלאכותית רב-מודאליות מתמודדות עם קשיים דומים. ארבעת המודלים שנבדקו השיגו שיעורי דיוק שנעו בין 57% ל-85%. ראוי לציין שאפילו המערכת המעורבת ביצירת התמונות המזויפות לא יכלה לזהות במלואן את יצירותיה שלה.

ממצא ראוי לציון נוסף הוא ששנים של ניסיון לא שיפרו את היכולת לזהות תמונות דמויות ממצאים. עם זאת, מומחים אורתופדיים הציגו ביצועים טובים יותר מאשר אלו בתחומי התמחויות אחרים.

על פי צוות המחקר, תמונות רנטגן מזויפות לעיתים קרובות מציגות מאפיינים חזותיים עדינים כגון מבנה עצם חלק מדי, עמוד שדרה ישר באופן חריג, ריאות סימטריות לחלוטין, כלי דם המפוזרים באופן שווה ושברים שנראים "יפים מדי", ולעתים קרובות מופיעים רק בצד אחד של העצם.

התגלית מעלה חששות כי תמונות מזויפות עלולות לשמש בתביעות משפטיות או להחדיר למערכות בתי חולים כדי לתמרן אבחנות, לשבש את הפרקטיקה הקלינית ולערער את האמון ברשומות רפואיות דיגיטליות.

כדי למתן סיכונים, חוקרים מציעים ליישם אמצעי אבטחה כגון הטמעת סימני מים בלתי נראים בתמונות ושימוש בחתימות קריפטוגרפיות המקושרות לצלם כדי לאמת את מקור הנתונים.

לדברי ד"ר טורדג'מן, מה שנצפה עד כה עשוי להיות רק קצה הקרחון. השלב הבא בטכנולוגיה זו יכול להיות יצירת תמונות רפואיות תלת-ממדיות כמו CT או MRI באמצעות בינה מלאכותית. בהקשר זה, בניית מערכי נתונים לאימון וכלי זיהוי נחשבת כעת לדרישה קריטית להגנה על דיוק האבחונים הרפואיים.

מקור: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html