AI 콘텐츠 통제의 시급성

지난 몇 년 동안 인공지능(AI)은 눈부신 속도로 발전하고 지속적으로 향상되어 여러 분야에서 심층적인 지원 도구로 자리 잡았습니다. 최근 구글 딥마인드가 개발한 AI 기반 영상 제작 기술인 Veo3는 생생한 영상을 제작할 수 있습니다. 하지만 이 도구는 사용자를 지원하는 유틸리티 외에도 악의적인 공격자에게 사기 목적으로 악용될 위험이라는 과제를 안고 있습니다.

진짜와 가짜를 구별하기 어렵다

기술 업계에 따르면, Veo3는 기존 어떤 도구보다 뛰어난 사실감을 자랑하는 AI 영상 제작 기능으로 전 세계적으로 "큰 반향"을 일으켰습니다. 이미지만 돋보이고 사운드는 제한적인 OpenAI의 Sora와 달리, Veo3는 이미지, 주변 소리, 대화를 완벽하게 동기화합니다. 발소리, 바람 소리, 사람 목소리, 주변 효과까지 모든 것이 매끄럽게 어우러져 생동감 넘치는 영상을 구현하여 사용자가 실제 영상과 AI가 제작한 영상을 구분하기 어렵게 만듭니다.

베트남에서 Veo3는 TikTok, Facebook, YouTube Shorts 등 소셜 네트워크에서 빠르게 인기를 얻었습니다. 해시태그 #veo3가 달린 일련의 영상들이 눈 깜짝할 새에 공유되어 수백만 건의 조회수와 수십만 건의 상호작용을 이끌어냈습니다. AI가 제작한 많은 영상들은 믿을 수 없을 만큼 진솔한 영상으로 온라인 커뮤니티를 놀라게 했습니다. 예를 들어, 간단한 대사가 담긴 8초 분량의 영상은 조회수 500만 건과 좋아요 30만 8천 건 이상을 기록했습니다. 전적으로 AI가 제작한 노년 여성이 계란 프라이를 하는 영상 역시 조회수 260만 건과 좋아요 10만 4천 건 이상을 기록했습니다.

호찌민시 1군의 사무직 근로자인 쩐 빈 캉 씨는 진위 여부가 너무 높아 진짜와 가짜를 구분하기 어려웠다고 말했습니다. "시장에서 생선 장수가 손님들과 대화하는 영상을 봤는데, 영상이 너무 선명해서 진짜인 줄 알았어요. 손을 흔들고, 눈썹을 치켜올리고, 햇살이 얼굴을 비추는 모습까지 모든 것이 너무 자연스러워서 AI가 만들었다는 게 믿기지 않았어요."라고 캉 씨는 말했습니다.

Cấp bách kiểm soát nội dung AI - Ảnh 1. — Veo3가 만든 영화 속 이미지는 사용자들이 진짜와 가짜를 구별하기 어렵다고 느낀다.

호치민시에 거주하는 응우옌 마이 안 씨는 감명을 받았다고 인정했지만, 정보 보안에 대한 우려를 표명했습니다. "Veo3가 제작한 영상은 너무 사실적이어서 불안감을 느낍니다. 악당들이 이 기술을 이용해 비방, 명예훼손, 증거 위조 영상을 제작한다면 그 결과는 매우 심각할 것입니다."라고 안 씨는 말했습니다.

많은 베트남 사용자들이 Veo3에 접속하고 사용하는 방법에 특히 관심을 가지고 있습니다. 하지만 Veo3는 구글이 미국 시장에만 공식적으로 배포했으며, 월 249.99달러의 Google AI Ultra 구독 패키지를 통해서만 제공됩니다. 이러한 제약에 직면한 베트남 온라인 커뮤니티는 Veo3를 경험할 수 있는 "장벽 극복" 방법을 찾아냈습니다. 많은 사람들이 VPN을 사용하여 IP를 미국으로 변경하고, 지원되는 지역의 Google 계정을 등록하여 Veo3를 로컬 사용자로 활성화하고 사용하는 방법을 공유합니다. 보안 전문가들은 이 허점을 악용하여 악의적인 행위를 저지를 수 있다고 경고합니다.

AI에 필요한 법적 틀

OneAds Digital Company Limited의 설립자인 Le Hong Duc 씨는 비디오, 이미지, 음성 등 AI가 생성한 제품이 놀라운 수준의 사실성에 도달하고 있으며, 심지어 직접 제작 및 상용화될 수도 있다고 말했습니다. 이러한 폭발적인 성장은 비용과 시간 측면에서 분명한 이점을 제공하지만, 허위 정보를 유포하거나 대중의 혼란을 야기하는 데 악용될 수도 있습니다. 점점 더 복잡해지는 AI 모델 속에서 콘텐츠 관리는 시급하며, 특히 기술이 현행 법률 개정 속도를 크게 앞지르고 있는 상황에서 더욱 그렇습니다.

따라서 득 씨는 AI 콘텐츠를 제작하고 공유하는 자의 책임을 명확히 규정하는 AI 전문법 제정이 시급하다고 제안했습니다. 허위 및 유해 콘텐츠 유포 행위는 엄격하게 제재하고 처리해야 합니다. 동시에, 관계 당국은 사용자가 AI를 이용하여 제작할 수 있는 콘텐츠를 제한하는 기준을 마련하고 명확한 기준을 제시해야 합니다. 제대로 시행되지 않을 경우, 사용자는 법적 책임을 지고 발생하는 모든 피해를 배상해야 합니다. 득 씨는 "급속하게 발전하는 이 기술을 통제하고, 건강한 디지털 환경을 유지하며, 사기, 윤리 위반, 타인 모욕 행위와 같은 결과를 예방하기 위해서는 AI에 대한 별도의 법적 체계를 마련하는 것이 매우 시급합니다."라고 강조했습니다.

한 정보 보안 전문가는 Veo3의 뛰어난 개발이 법적 문제 외에도 콘텐츠 제작자들에게 우려를 불러일으킨다고 지적했습니다. 특히 영화, TV, 애니메이션 등 AI 기술로 점차 대체될 위기에 처한 분야의 콘텐츠 제작자들은 이러한 우려를 더욱 심각하게 받아들이고 있으며, 이는 창작 산업의 경력과 저작권 보호에 큰 어려움을 야기할 수 있습니다. "AI가 이제 매우 사실적인 작품을 제작할 수 있게 되었기 때문에 AI 제작 콘텐츠에 대한 지적재산권 규정을 조속히 보완해야 합니다. 그렇지 않으면 시장에 쏟아지는 가상 작품의 홍수로 인해 창작자들이 일자리를 잃을 위험에 직면하게 될 것입니다."라고 전문가는 말했습니다.

가짜 서비스에 주의하세요

Veo3가 폭발적으로 성장한 이후, 소셜 미디어 플랫폼에는 자신을 "AI 전문가"라고 주장하는 많은 계정들이 데모 영상, Veo3 사용 방법 안내, 20만~30만 동(VND)에 달하는 가격에 계정 및 지원 서비스를 판매하기 시작했습니다. 일부 사용자는 Veo3에 접속하여 사용해 봤지만, 모두가 체험할 수 있는 것은 아니라고 말했습니다. 레 홍 득(Le Hong Duc) 씨는 사용자들에게 가짜 또는 비공식 서비스에 주의할 것을 경고하며, 금융 사기, 데이터 유출, 또는 구글 계정 도용을 방지하기 위해 구글이 베트남 시장에 Veo3를 공식 출시할 때까지 기다릴 것을 권고했습니다.

출처: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm