Штучний інтелект може обдурити лікарів.

Нове дослідження показує, що рентгенівські зображення, згенеровані штучним інтелектом, стають дедалі реалістичнішими, що ускладнює їх відмінність від реальних зображень та створює значний ризик для цифрової охорони здоров'я.

Парні рентгенівські знімки, що складаються з реальних зображень та зображень, згенерованих GPT-4o в різних місцях на тілі, демонструють, що штучний інтелект може створювати дуже реалістичні медичні зображення. (Джерело: RSNA)

24 березня в журналі «Радіологія» Радіологічного товариства Північної Америки (RSNA) було опубліковано дослідження групи з 18 радіологів з 12 медичних установ у 6 країнах (включаючи США, Францію, Німеччину, Туреччину, Велику Британію та ОАЕ) під керівництвом доктора Мікаеля Торджмана, постдокторанта Медичної школи Ікана, Маунт-Синай (Нью-Йорк, США).

Дослідження показують, що рентгенівські зображення, згенеровані штучним інтелектом (ШІ), тепер настільки реалістичні, що не лише люди, а й навіть передові системи ШІ мають труднощі з їх ідентифікацією.

З 264 рентгенівських знімків, використаних у дослідженні, половина були реальними, а половина – згенерованими за допомогою штучного інтелекту. Лікарі-учасники оцінювали два окремі набори даних, включаючи дані кількох областей тіла та спеціалізований набір даних рентгенівських знімків грудної клітки, згенерований за допомогою моделей штучного інтелекту, таких як ChatGPT та RoentGen.

Результати показали, що без попереднього повідомлення про існування підроблених зображень лікарі правильно ідентифікували лише 41% зображень, згенерованих штучним інтелектом. Після отримання попередження цей показник зростав до 75%. Однак точність значно варіювалася серед окремих людей, коливаючись від 58% до 92%.

Не лише люди, а й мультимодальні системи штучного інтелекту стикаються з подібними труднощами. Чотири протестовані моделі досягли рівня точності від 57% до 85%. Примітно, що навіть система, що брала участь у створенні підроблених зображень, не могла повністю ідентифікувати власні творіння.

Ще одним вартим уваги висновком є ​​те, що багаторічний досвід не покращив здатність виявляти артефактноподібні зображення. Однак, фахівці-ортопеди показали кращі результати, ніж фахівці інших спеціальностей.

За словами дослідницької групи, хибні рентгенівські знімки часто мають ледь помітні візуальні особливості, такі як надмірно гладка структура кісток, аномально прямий хребет, ідеально симетричні легені, рівномірно розподілені кровоносні судини та переломи, які виглядають «занадто красивими», часто з'являються лише з одного боку кістки.

Це відкриття викликає занепокоєння, що підроблені зображення можуть бути використані в судових позовах або вставлені в лікарняні системи для маніпуляції діагнозами, порушення клінічної практики та підриву довіри до цифрових медичних записів.

Щоб зменшити ризики, дослідники пропонують впроваджувати заходи безпеки, такі як вбудовування невидимих ​​водяних знаків у зображення та використання криптографічних підписів, пов'язаних з фотографом, для перевірки походження даних.

За словами доктора Торджмана, те, що спостерігається досі, може бути лише верхівкою айсберга. Наступним кроком у цій технології може бути створення 3D-медичних зображень, таких як КТ або МРТ, за допомогою штучного інтелекту. У цьому контексті створення навчальних наборів даних та інструментів виявлення зараз вважається критично важливою вимогою для захисту точності медичних діагнозів.

Джерело: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html