Врачи могут быть обмануты искусственным интеллектом.

Новые исследования показывают, что рентгеновские снимки, созданные с помощью ИИ, становятся все более реалистичными, что затрудняет их отличие от реальных изображений и представляет значительный риск для цифрового здравоохранения.

Парные рентгеновские снимки, состоящие из реальных изображений и изображений, полученных с помощью GPT-4o в разных местах тела, демонстрируют, что ИИ способен создавать высокореалистичные медицинские изображения. (Источник: RSNA)

24 марта в журнале Radiology Североамериканского радиологического общества (RSNA) было опубликовано исследование, проведенное группой из 18 радиологов из 12 медицинских учреждений в 6 странах (включая США, Францию, Германию, Турцию, Великобританию и ОАЭ) под руководством доктора Микаэля Торджмана, научного сотрудника постдокторантуры Медицинской школы Икана при больнице Маунт-Синай (Нью-Йорк, США).

Исследования показывают, что рентгеновские изображения, созданные искусственным интеллектом (ИИ), теперь настолько реалистичны, что не только люди, но даже продвинутые системы ИИ испытывают трудности с их распознаванием.

Из 264 рентгеновских снимков, использованных в исследовании, половина были реальными, а половина — сгенерированными с помощью ИИ. Врачи-участники оценили два отдельных набора данных, включающих снимки различных областей тела и специализированный набор данных рентгеновских снимков грудной клетки, сгенерированных с использованием моделей ИИ, таких как ChatGPT и RoentGen.

Результаты показали, что без предварительного уведомления о наличии поддельных изображений врачи правильно идентифицировали только 41% изображений, сгенерированных ИИ. При получении предупреждения этот показатель увеличился до 75%. Однако точность значительно варьировалась в зависимости от конкретного человека, составляя от 58% до 92%.

С подобными трудностями сталкиваются не только люди, но и многомодальные системы искусственного интеллекта. Четыре протестированные модели показали точность от 57% до 85%. Примечательно, что даже система, создавшая поддельные изображения, не смогла полностью идентифицировать собственные творения.

Ещё один примечательный вывод заключается в том, что многолетний опыт не улучшил способность обнаруживать изображения, похожие на артефакты. Однако специалисты-ортопеды показали лучшие результаты, чем специалисты других областей.

По данным исследовательской группы, на ложных рентгеновских снимках часто обнаруживаются едва заметные визуальные особенности, такие как чрезмерно гладкая структура костей, аномально прямой позвоночник, идеально симметричные легкие, равномерно распределенные кровеносные сосуды и переломы, которые выглядят «слишком красивыми», часто появляясь только с одной стороны кости.

Это открытие вызывает опасения, что поддельные изображения могут быть использованы в судебных процессах или внедрены в больничные системы для манипулирования диагнозами, нарушения клинической практики и подрыва доверия к цифровым медицинским картам.

Для снижения рисков исследователи предлагают внедрять меры безопасности, такие как встраивание невидимых водяных знаков в изображения и использование криптографических подписей, связанных с фотографом, для проверки происхождения данных.

По словам доктора Торджмана, то, что наблюдается до сих пор, может быть лишь верхушкой айсберга. Следующим шагом в развитии этой технологии может стать создание трехмерных медицинских изображений, таких как КТ или МРТ, с использованием искусственного интеллекта. В этом контексте создание обучающих наборов данных и инструментов обнаружения сейчас считается критически важным для обеспечения точности медицинских диагнозов.

Источник: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html