의사들도 인공지능에 속을 수 있다.

새로운 연구에 따르면 인공지능이 생성한 엑스레이 이미지가 점점 더 현실적으로 변하고 있어 실제 이미지와 구별하기 어려워지고 있으며, 이는 디지털 의료 서비스에 상당한 위험을 초래할 수 있다고 합니다.

실제 이미지와 GPT-4o가 신체의 서로 다른 위치에서 생성한 이미지로 구성된 쌍을 이루는 X선 이미지는 AI가 매우 사실적인 의료 이미지를 생성할 수 있음을 보여줍니다. (출처: RSNA)

3월 24일, 미국 뉴욕 마운트 시나이 아이칸 의과대학의 박사후 연구원인 미카엘 토르드즈만 박사가 이끄는 연구팀이 미국, 프랑스, ​​독일, 터키, 영국, 아랍에미리트 등 6개국 12개 의료기관 의 영상의학과 전문의 18명과 함께 진행한 연구 결과가 북미방사선학회(RSNA)의 방사선학 저널에 게재되었습니다.

연구에 따르면 인공지능(AI)이 생성한 엑스레이 이미지가 이제는 너무나 현실적이어서 인간뿐만 아니라 최첨단 AI 시스템조차도 이를 식별하는 데 어려움을 겪고 있다고 합니다.

연구에 사용된 264개의 X선 이미지 중 절반은 실제 이미지이고 나머지 절반은 AI가 생성한 이미지였습니다. 참여 의사들은 ChatGPT 및 RoentGen과 같은 AI 모델을 사용하여 생성된 여러 신체 부위 X선 데이터 세트와 흉부 X선 데이터 세트를 각각 평가했습니다.

연구 결과에 따르면, 가짜 이미지의 존재에 대한 사전 고지가 없는 경우 의사들은 AI가 생성한 이미지 중 41%만 정확하게 식별했습니다. 고지가 있다는 사실을 알려준 후에는 이 정확도가 75%로 증가했습니다. 그러나 개인별 정확도는 58%에서 92%까지 크게 차이가 났습니다.

인간뿐만 아니라 멀티모달 AI 시스템도 비슷한 어려움에 직면합니다. 테스트에 사용된 네 가지 모델은 57%에서 85% 사이의 정확도를 보였습니다. 특히, 가짜 이미지를 생성하는 데 관여한 시스템조차도 자신이 만든 이미지를 완벽하게 식별하지 못했습니다.

또 하나 주목할 만한 점은 오랜 경험이 인공물과 유사한 이미지를 감지하는 능력을 향상시키지 못했다는 것입니다. 하지만 정형외과 전문의들은 다른 전문의들보다 더 나은 수행 능력을 보였습니다.

연구팀에 따르면, 가짜 엑스레이 이미지는 종종 지나치게 매끄러운 뼈 구조, 비정상적으로 곧은 척추, 완벽하게 대칭인 폐, 고르게 분포된 혈관, 그리고 "너무 아름다워 보이는" 골절(종종 뼈의 한쪽 면에만 나타남)과 같은 미묘한 시각적 특징을 보인다.

이번 발견은 가짜 이미지가 소송에 이용되거나 병원 시스템에 삽입되어 진단을 조작하고, 임상 진료를 방해하며, 디지털 의료 기록에 대한 신뢰를 훼손할 수 있다는 우려를 불러일으킵니다.

위험을 완화하기 위해 연구원들은 이미지에 보이지 않는 워터마크를 삽입하거나 사진 작가와 연결된 암호화 서명을 사용하여 데이터 출처를 확인하는 등의 보안 조치를 시행할 것을 제안합니다.

토르드즈만 박사에 따르면, 지금까지 관찰된 것은 빙산의 일각에 불과할 수 있습니다. 이 기술의 다음 단계는 인공지능을 활용하여 CT나 MRI와 같은 3D 의료 영상을 생성하는 것일 수 있습니다. 따라서 의료 진단의 정확성을 확보하기 위해서는 지금 바로 학습 데이터셋과 탐지 도구를 구축하는 것이 매우 중요합니다.

출처: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html