사진 속 진실 '우리 넷은 90살이다'

AI가 생성한 이미지/비디오는 소셜 네트워크에서 수만 건의 상호작용을 불러일으키며, 많은 사람들이 이를 실제라고 착각합니다.

AI가 생성한 이미지는 Facebook에서 수천 건의 상호작용을 이끌어냅니다.

"우리는 네 자매입니다. 오늘 90번째 생일을 맞았습니다. 여러분의 축하를 기다리고 있습니다."라는 캡션과 함께 네 명의 어린 소녀가 위에, 네 명의 노부인이 아래에 있는 콜라주 사진이 쓰여졌는데, 모두 얼굴에 밝은 미소를 띠고 있었고, 45,000개가 넘는 좋아요와 거의 9,000개의 댓글, 500개가 넘는 공유를 기록했습니다.

아래에는 네 명의 "노인"의 건강을 축하하고 그들의 아름다움을 칭찬하는 게시물이 많이 있습니다. 하지만 이는 AI가 그린 그림입니다. 이 그림을 공유한 계정은 직접 만든 것이 아니라 외국 출처에서 가져온 것입니다.

Copilot, Midjourney, DALL-E와 같은 AI 도구의 개발 덕분에 사용자는 단 하나의 명령만으로 매우 사실적인 이미지를 만들 수 있습니다.

소셜 네트워크에서 AI가 생성한 이미지를 찾는 것은 어렵지 않습니다. 이러한 이미지는 종종 가족과 삶을 주제로 하며, 많은 상호작용을 유도하기 위해 감정을 자극합니다.

AI가 생성한 이미지가 널리 퍼져 있음에도 불구하고, 모든 사람이 AI가 생성한 이미지와 일반 이미지를 구분하기는 쉽지 않습니다. 이러한 콘텐츠는 단순한 "좋아요 유도" 외에도 사칭 및 가짜 뉴스 유포와 같은 악의적인 목적으로 악용될 수 있습니다.

소셜 네트워크의 "낚시처럼" 도구

페이스북, 인스타그램, 또는 X에서 사용자들은 AI가 만든 이미지/ 동영상을 쉽게 접할 수 있습니다. "우리는 네 자매입니다" 또는 "이 소녀가 돌아가신 아버지의 초상화를 그렸지만 아무도 그녀를 지지하지 않았습니다"와 같은 콘텐츠는 수만 건의 상호작용과 수천 개의 댓글을 불러옵니다.

이미지는 주로 가족, 사랑, 슬픔과 관련이 있습니다. 대부분의 댓글은 해당 게시물에 대한 동정을 표했지만, 대부분은 해당 이미지가 AI가 생성한 것이라는 사실을 인지하지 못했습니다. 게시물을 올린 많은 계정에서도 이를 명확하게 언급하지 않았습니다.

일부 AI가 생성한 이미지가 Facebook에서 실제 사진으로 오해되는 경우가 있습니다.

전문가 리뷰어 Le Cong Minh Khoi에 따르면, AI 콘텐츠가 페이스북에 점점 더 많이 등장하고 있습니다. 많은 게시물이 플랫폼에서 높은 참여도를 보이며 추천되지만, 대부분은 AI가 제작했다는 명확한 표시가 없습니다.

"기술에 익숙하지 않은 사람들은 그 차이를 거의 알아차리지 못할 겁니다. 게시물에는 '정말 감동적이네요'와 같은 공감하는 댓글이 수천 개 달렸죠.

AI는 손이나 치아처럼 흔한 오류를 교정할 수 있는 새로운 모델까지 발전했습니다. 저도 직접 이미지를 다시 확인해야 합니다. AI 알림 라벨이 없었다면 사용자들은 이미지를 거의 알아볼 수 없었을 겁니다."라고 코이 씨는 말했습니다.

2024년 3월 캐나다 워털루 대학에서 발표한 설문 조사에 따르면, 설문 참여자 260명 중 AI가 생성한 사람 사진과 실제 사람 사진을 구별할 수 있는 사람은 61%에 불과했습니다. 이는 연구자들이 예상한 비율(85%)보다 낮습니다.

AI가 생성한 일부 콘텐츠는 수만 건의 상호작용을 유도합니다.

소셜 네트워크에서 정기적으로 작업하는 사람으로서, 코이 씨는 AI 이미지/비디오가 조회수 증가, 상호작용 증가 또는 심지어 사기를 저지르는 데 악용되고 있다고 언급했습니다.

코이 씨는 "AI 콘텐츠는 시청자가 심리적으로 조종당하거나, 사실이 아닌 것을 믿게 만들거나, 심지어 저품질 제품을 사거나, 편집된 광고나 음모론을 믿게 만들 수도 있다"고 덧붙였다.

실제로 2024년 5월 구글과 듀크 대학교(미국)가 발표한 연구에 따르면, 잘못된 정보를 퍼뜨리는 형태 중 AI 이미지의 인기는 텍스트와 일반 편집 사진의 인기와 거의 비슷한 것으로 나타났습니다.

AI가 생성한 이미지를 구별하는 방법은?

AI가 생성한 이미지의 품질이 점점 좋아지면서 실제 사진과 구분하기 어려워지고 있습니다. 하지만 자세히 살펴보면 여전히 일부 세부 정보를 확인할 수 있습니다.

AI는 종종 다른 이미지의 데이터를 기반으로 이미지를 생성하므로 도구가 덜 훈련된 세부 정보를 처리하는 데 어려움을 겪을 수 있습니다.

보안 전문가 응오 민 히에우에 따르면, AI가 손을 재현하는 데 어려움을 겪는 경우가 많아 손가락이 추가되거나 변형된 이미지가 생성되기 때문에 손과 손가락이 주목할 만한 디테일이라고 합니다.

AI가 생성한 배우 라이언 레이놀즈의 이미지. 사진: @joinrealmai/X .

라이언 레이놀즈의 이 사진을 보세요. 대부분 사실적이지만, 레이놀즈의 오른손 손가락은 부자연스럽습니다. 재킷에 적힌 글씨도 전혀 의미가 없습니다. 이는 이 이미지가 AI가 제작했음을 분명히 보여주는 증거입니다. AI는 아직 정확한 글씨나 로고를 만들지 못했기 때문입니다.

다음으로, 이미지의 조명 및 그림자 효과를 추적할 수 있습니다. 조명이나 그림자 각도가 특이하다면, 해당 이미지는 AI가 생성했을 가능성이 높습니다.

동일한 맥락을 공유하는 콘텐츠의 경우, AI가 완전히 다른 요소를 생성하는 데 어려움을 겪는 경우가 많으므로 사용자는 중복된 세부 정보를 확인해야 합니다.

BBC 에 따르면, 이는 "너무 완벽함"의 한 예입니다. 아래 가수 아리아나 그란데의 사진은 매우 사실적으로 보이지만, 자세히 보면 그녀의 얼굴이 너무 매끈해서 사진이 매우 선명하게 보입니다. 배경의 플라밍고 배치도 좋지 않습니다.

가수 아리아나 그란데의 AI 생성 이미지. 사진: @agswaffle/인스타그램 .

콘텐츠가 비디오 형식인 경우 확인해야 할 세부 정보에는 말과 일치하지 않는 입술 움직임, 눈 깜박임이 적거나 부자연스러움, 피부 질감이 흐릿한 경우 등이 있습니다.

마지막으로, 얼굴, 손, 조명 등에 대해 여전히 확신이 없다면 Google이나 비슷한 도구에서 역방향 검색을 해서 출처를 확인하세요.

히에우 씨는 "이미지의 진위 여부에 의심이 들면 역방향 검색 엔진을 사용해 해당 이미지가 이전에 다른 곳에 게재되었는지 확인할 수 있습니다."라고 덧붙였습니다.