AI 영상으로 궁궐 홍수 조작, 한국에서 딥페이크 우려 불러일으켜

유튜브 채널 "골파닥"에 게시된 이 영상은 노란색 우비를 입은 한 남성이 경복궁 앞에 서서 "비가 너무 많이 와요... 경복궁이 완전히 물에 잠겼어요."라고 말하는 장면으로 시작합니다. 이어서 사람들이 양동이로 물을 퍼올리는 장면과... 물개가 궁궐 안을 미끄러지듯 지나가는 장면이 이어집니다. 다소 황당한 내용이지만, 서울에 기록적인 폭우가 쏟아지는 시기에 촬영된 영상이라는 점에서 많은 사람들이 여전히 이 영상이 사실이라고 믿고 있습니다.

이 영상은 구글의 최신 고급 AI 영상 제작 도구인 Veo 3를 통해 제작된 것으로 확인되었습니다. Veo 3는 생생한 이미지와 사실적인 대화를 가능하게 합니다. 많은 사람들이 이 영상에 분노하며, 제작자가 고의로 허위 정보를 유포한 것에 대해 처벌받아야 한다고 주장했습니다.

홍수를 묘사한 비슷한 가짜 영상이 수십 개 유튜브에 등장하면서 언론과 전문가들의 거센 반발이 일고 있다. 이들은 세부 정보가 터무니없을지라도 AI가 생성한 콘텐츠에 대중이 속고 있다고 경고한다.

특히 서울 도심을 흐르는 용암을 모의한 가짜 영상이 시청자들에게 혼란을 야기했습니다. 이 영상을 제작한 유튜버 "딸각"은 인터넷 사용자들이 온라인 콘텐츠를 쉽게 이용하는 모습을 풍자하기 위한 의도였다고 밝혔습니다. 그는 또한 일론 머스크의 딥페이크 관련 사기 사건에서 영감을 받아 Veo 3를 사용하여 영상을 제작했다고 시인했습니다.

AI는 한국 사회 곳곳에 깊숙이 자리 잡고 있습니다. (출처: Shutterstock)

딥페이크 열풍이 거세지자 한국은 2026년 1월부터 시행될 'AI 기본법'을 제정했습니다. 이 법은 모든 AI 영상에 시청자가 쉽게 식별할 수 있도록 워터마크를 삽입하도록 규정하고 있습니다. 그러나 전문가들은 워터마크가 쉽게 삭제되거나 편집될 수 있어 이 조치가 효과적인 억제책이 될 수 없다고 우려합니다.

고려대 AI연구소 최병호 전문가는 " AI 기업들이 가짜 콘텐츠를 판별하는 기술을 개발하면 사회적 비용을 줄이고 행정 조치보다 효과적일 것"이라고 말했다.

딥페이크는 오락을 넘어 모욕적이고 동의 없는 콘텐츠 제작부터 금융 사기, 정치 조작에 이르기까지 다양한 범죄의 도구로 활용되고 있습니다. 작년 국회의원 선거에서 중앙선거관리위원회는 120건 이상의 가짜 AI 이미지와 영상을 적발하고 처리했습니다. 이로 인해 선거 콘텐츠에 AI를 사용할 경우 명확한 정보 공개 의무가 부과되었습니다.

민 호안

출처: https://vtcnews.vn/video-ai-gia-canh-lu-lut-tai-cung-dien-gay-lo-ngai-ve-deepfake-o-han-quoc-ar956031.html