Lekarze mogą dać się oszukać sztucznej inteligencji.

Nowe badania pokazują, że generowane przez sztuczną inteligencję zdjęcia rentgenowskie stają się coraz bardziej realistyczne, co utrudnia ich odróżnienie od zdjęć wykonywanych w rzeczywistości i stwarza poważne zagrożenie dla cyfrowej opieki zdrowotnej.

Sparowane zdjęcia rentgenowskie, składające się z obrazów rzeczywistych i obrazów generowanych przez GPT-4o w różnych miejscach ciała, dowodzą, że sztuczna inteligencja może generować niezwykle realistyczne obrazy medyczne. (Źródło: RSNA)

24 marca w czasopiśmie Radiology wydawanym przez Radiological Society of North America (RSNA) opublikowano badanie przeprowadzone przez grupę 18 radiologów z 12 placówek medycznych w 6 krajach (w tym w USA, Francji, Niemczech, Turcji, Wielkiej Brytanii i Zjednoczonych Emiratach Arabskich) pod kierownictwem dr. Mickaela Tordjmana, badacza podoktorskiego w Icahn School of Medicine w Mount Sinai (Nowy Jork, USA).

Badania pokazują, że zdjęcia rentgenowskie generowane przez sztuczną inteligencję (AI) są obecnie tak realistyczne, że nie tylko ludzie, ale nawet zaawansowane systemy AI mają trudności z ich identyfikacją.

Spośród 264 zdjęć rentgenowskich wykorzystanych w badaniu, połowa była prawdziwa, a połowa wygenerowana przez sztuczną inteligencję. Lekarze biorący udział w badaniu przeanalizowali dwa oddzielne zbiory danych, obejmujące wiele obszarów ciała oraz specjalistyczny zbiór danych rentgenowskich klatki piersiowej, wygenerowany za pomocą modeli AI, takich jak ChatGPT i RoentGen.

Wyniki pokazały, że bez wcześniejszego powiadomienia o istnieniu fałszywych obrazów, lekarze prawidłowo zidentyfikowali tylko 41% obrazów generowanych przez sztuczną inteligencję. Po otrzymaniu powiadomienia, wskaźnik ten wzrósł do 75%. Jednak dokładność ta różniła się znacząco między poszczególnymi osobami, wahając się od 58% do 92%.

Nie tylko ludzie, ale także multimodalne systemy sztucznej inteligencji również borykają się z podobnymi trudnościami. Cztery testowane modele osiągnęły wskaźniki dokładności od 57% do 85%. Co ciekawe, nawet system odpowiedzialny za tworzenie fałszywych obrazów nie był w stanie w pełni zidentyfikować swoich własnych dzieł.

Kolejnym godnym uwagi odkryciem jest to, że lata doświadczenia nie poprawiły zdolności wykrywania obrazów przypominających artefakty. Jednak specjaliści ortopedzi radzili sobie lepiej niż specjaliści innych specjalności.

Zespół badawczy uważa, że ​​fałszywe zdjęcia rentgenowskie często wykazują subtelne cechy wizualne, takie jak nadmiernie gładka struktura kości, nienaturalnie prosty kręgosłup, idealnie symetryczne płuca, równomiernie rozmieszczone naczynia krwionośne i złamania, które wydają się „zbyt piękne”, często widoczne tylko po jednej stronie kości.

Odkrycie to budzi obawy, że fałszywe obrazy mogą być wykorzystywane w procesach sądowych lub wprowadzane do systemów szpitalnych w celu manipulowania diagnozami, zakłócania praktyki klinicznej i podważania zaufania do cyfrowej dokumentacji medycznej.

Aby ograniczyć ryzyko, badacze sugerują wdrożenie środków bezpieczeństwa, takich jak umieszczanie niewidocznych znaków wodnych na obrazach i korzystanie z kryptograficznych podpisów powiązanych z fotografem w celu weryfikacji pochodzenia danych.

Według dr. Tordjmana, to, co obserwujemy do tej pory, może być jedynie wierzchołkiem góry lodowej. Kolejnym krokiem w rozwoju tej technologii może być tworzenie trójwymiarowych obrazów medycznych, takich jak tomografia komputerowa czy rezonans magnetyczny, z wykorzystaniem sztucznej inteligencji. W tym kontekście budowanie zestawów danych szkoleniowych i narzędzi detekcyjnych jest obecnie uważane za kluczowy wymóg dla zapewnienia dokładności diagnoz medycznych.

Źródło: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html