인공지능이 이란 전쟁에 혼란을 야기하고 있다.

미국, 이스라엘, 이란 간의 갈등과 관련된 인공지능(AI) 생성 영상과 이미지가 전례 없는 속도로 소셜 미디어에 쏟아지면서 새로운 전쟁 도구로 변모하고 있다.

미국과 이스라엘이 이란과 갈등을 겪는 모습을 묘사한 가짜 영상들이 수백만 번 공유되었다. 사진: CNN.

이란 전쟁 초기 몇 주 동안 인공지능이 생성한 가짜 영상과 이미지가 소셜 미디어를 휩쓸었습니다. 대규모 폭발, 폐허가 된 도시, 전쟁에 항의하는 군인들의 모습 등을 담은 이 영상들은 실제로는 존재하지도 않는 전쟁을 묘사하며 온라인상의 혼란과 혼동을 더욱 가중시켰습니다.

뉴욕 타임스는 파일에서 쉽게 식별할 수 있는 서명, 즉 워터마크를 확인하는 방법을 사용하고 여러 출처의 데이터를 종합했습니다. 그 결과, 지난 2주 동안 중동 분쟁과 관련된 인공지능 생성 이미지와 동영상이 110개 이상 발견되었습니다.

전례 없는 수준

조작된 이 영상들은 공포에 질린 이스라엘인들의 비명 소리부터 미사일과 어뢰 공격을 받는 미군 함선까지 분쟁의 거의 모든 측면을 다루었습니다. 이 영상들은 X, 틱톡, 페이스북과 같은 플랫폼에서 수백만 번 조회되었고 개인 메시지를 통해 공유되었습니다.

이와 유사한 내용이 다른 분쟁에서도 유포되었습니다. 그러나 전문가들은 미국과 이스라엘, 그리고 이란 간의 분쟁은 여러 방면에서 발생하기 때문에 가짜 콘텐츠가 폭발적으로 증가한다고 말합니다.

인공지능이 만든 가짜 영상 시리즈. 사진: 뉴욕타임스.

카타르 노스웨스턴 대학교의 미디어 분석 부교수인 마크 오웬 존스는 우크라이나 분쟁 당시와 지금은 상황이 매우 다르다고 말했습니다. 그는 "아마도 이전 어느 때보다 인공지능 관련 콘텐츠를 더 많이 접하고 있을 것"이라고 덧붙였습니다.

이러한 콘텐츠는 테헤란이 전쟁에 대한 대중의 수용도를 높이기 위한 효과적인 정보 무기가 되었습니다. 소셜 미디어 데이터 분석 회사인 시아브라(Cyabra)의 연구에 따르면, 전쟁에 관한 AI 영상의 대다수는 친이란적이며, 이란 군사력의 강점과 정교함을 과장하는 경향이 있습니다.

마크 오웬 존스는 이란의 미디어 전략에서 걸프 지역의 인공지능(AI) 이미지 활용이 점점 더 중요해지고 있다고 주장합니다. 그는 "이러한 이미지는 전쟁이 실제보다 더 잔혹하고 미국의 동맹국에 더 큰 피해를 줄 수 있다는 인상을 심어주기 때문"이라고 설명했습니다.

텔아비브의 한 아파트 발코니에서 촬영된 이 가짜 영상은 도시의 스카이라인이 미사일 공격을 받는 모습을 보여주며, 전경에는 이스라엘 국기가 펄럭이는 것을 담고 있어 온라인에서 가장 널리 퍼졌습니다. 이 영상은 수백만 건의 조회수를 기록했고, 많은 인플루언서와 뉴스 사이트에서 공유되었습니다.

이스라엘 국기가 전경에 등장하는 영상은 대부분 가짜입니다. 사진: 뉴욕타임스.

전문가들에 따르면, 전경에 이스라엘 국기가 등장하는 것은 AI가 생성한 영상의 일반적인 특징입니다. AI 도구는 사용자가 미사일 공격에 대한 설명을 입력하면 자동으로 세부 정보를 추가하는 경우가 많습니다. 반면, 실제 전쟁 영상은 대개 이보다 덜 극적입니다. 미사일은 대개 멀리 있는 밝은 점이나 연기 기둥으로만 나타납니다.

예방 조치가 마련되어 있지 않습니다.

한 사례에서, AI가 생성한 가짜 콘텐츠는 허위 정보 확산에 중요한 역할을 했습니다. 3월 1일, 이란 해군은 미국 항공모함 CVN-72를 성공적으로 공격했다고 주장했고, 이는 AI가 생성한 가짜 이미지들이 대량으로 유포되는 계기가 되었습니다.

많은 이란 사용자들은 해당 영상을 온라인에 공유하고 환호하며, 이란의 반격이 동맹을 흔들고 있다는 증거로 여겼습니다. 그러나 미국은 이후 공격이 실패했고 함선은 손상되지 않았다고 주장했습니다.

수많은 가짜 영상들이 전쟁의 사건들을 묘사하고 있다. 사진: 뉴욕타임스.

수십 개의 다른 AI 생성 이미지와 동영상은 인공성을 숨기려는 시도조차 하지 않고 새로운 형태의 디지털 선전으로 기능합니다. 어떤 콘텐츠는 세계 지도자들을 미화하는 반면, 다른 콘텐츠는 반대파 지도자들을 비인간적으로 묘사합니다.

뉴욕타임스 에 따르면 , 소셜 미디어 기업들은 수많은 새로운 도구를 출시했음에도 불구하고 작년에 자사 플랫폼을 휩쓴 AI 생성 가짜 동영상의 확산에 대처하기 위한 노력을 거의 기울이지 않았다. 일반적으로 사용자는 가짜 콘텐츠를 나타내는 워터마크를 쉽게 가리거나 제거할 수 있다.

지난주, 플랫폼 X는 명확한 라벨링 없이 "무장 충돌"에 대한 AI 생성 콘텐츠를 게시하는 계정에 대해 90일 동안 수익 분배를 일시적으로 중단한다고 발표했습니다. 그러나 Cyabra는 이란과 연관된 많은 계정이 허위 정보를 퍼뜨리는 데에만 관심이 있다는 사실을 발견했습니다.

브루킹스 연구소에서 외교 정책과 인공지능을 전문으로 연구하는 발레리 위르츠샤프터 연구원은 "본질적으로 소셜 미디어와 인공지능은 전쟁 도구가 되었다"고 말했다.

출처: https://znews.vn/ai-lam-loan-cuoc-chien-iran-post1635050.html