지난 몇 년 동안 인공지능(AI)은 눈부신 속도로 발전하고 지속적으로 향상되어 여러 분야를 지원하는 강력한 도구로 자리 잡았습니다. 구글 딥마인드가 최근 개발한 AI 기반 비디오 제작 기술인 Veo3는 놀랍도록 실감 나는 영상을 제작할 수 있습니다. 그러나 이러한 사용자에게 제공하는 이점과 더불어, 악의적인 행위자들이 사기 목적으로 악용할 위험성 또한 존재합니다.
진짜와 가짜를 구별하기는 어렵습니다.
기술 전문가들에 따르면, Veo3는 기존 도구들을 훨씬 뛰어넘는 수준의 사실감을 자랑하는 AI 기반 영상 제작 기능으로 전 세계적인 센세이션을 일으켰습니다. 시각적인 면에서는 탁월하지만 음향적인 면에서 한계가 있는 OpenAI의 Sora와 달리, Veo3는 이미지, 주변 소리, 대화를 완벽하게 동기화합니다. 발소리, 바람 소리부터 음성, 주변 효과음까지 모든 것이 자연스럽게 어우러져 실제와 같은 사실감을 구현하며, 사용자는 실제 영상과 AI가 만든 영상을 구분하기 어려워집니다.
베트남에서 Veo3는 틱톡, 페이스북, 유튜브 쇼츠와 같은 소셜 미디어 플랫폼에서 빠르게 센세이션을 일으켰습니다. #veo3 해시태그가 달린 수많은 영상이 폭발적인 속도로 공유되며 수백만 건의 조회수와 수십만 건의 반응을 얻었습니다. AI가 생성한 많은 영상들은 믿기 어려울 정도로 사실적인 모습으로 온라인 커뮤니티를 놀라게 했습니다. 예를 들어, 간단한 대사 한 줄이 담긴 8초짜리 영상은 500만 회의 조회수와 30만 8천 개 이상의 좋아요를 받았습니다. AI가 완전히 제작한, 노부인이 계란을 프라이하는 영상 역시 260만 회 이상의 조회수와 10만 4천 개 이상의 좋아요를 기록했습니다.
호치민시 1군에 거주하는 사무직 직원인 쩐 빈 캉 씨는 영상의 극도로 사실적인 묘사 때문에 진짜와 가짜를 구분하기 어렵다고 말했습니다. "시장에서 생선 장수가 손님과 이야기하는 영상을 봤는데, 화면이 너무 선명해서 진짜인 줄 알았어요. 손을 흔드는 모습, 눈썹을 치켜올리는 모습, 얼굴에 비치는 햇빛까지 모든 게 너무 자연스러워서 인공지능이 만든 영상이라고는 상상도 못 했죠."라고 캉 씨는 말했습니다.
Veo3가 제작한 영상 속 이미지는 사용자가 실제와 가짜를 구분하기 어렵습니다.
호치민시에 거주하는 응우옌 마이 안 씨는 감탄을 표하면서도 정보 보안에 대한 우려를 나타냈습니다. "Veo3가 제작한 영상은 너무나 현실적이어서 불안감을 느낍니다. 악의적인 사람들이 이 기술을 이용해 명예훼손 영상을 만들거나, 비방하거나, 증거를 조작한다면 그 결과는 매우 심각할 것입니다."라고 안 씨는 말했습니다.
많은 베트남 사용자들이 Veo3에 접속하고 사용하는 방법에 특히 관심을 갖고 있습니다. 하지만 Veo3는 현재 구글이 미국 시장에서만 월 249.99달러의 구글 AI 울트라 구독 패키지를 통해 공식적으로 출시한 서비스입니다. 이러한 제약 때문에 베트남 온라인 커뮤니티에서는 Veo3를 사용해 볼 수 있는 다양한 방법을 모색해 왔습니다. 많은 사람들이 VPN을 사용하여 IP 주소를 미국으로 변경한 후, 지원되는 지역의 구글 계정에 가입하여 Veo3를 현지 사용자처럼 활성화하고 사용하는 방법을 공유하고 있습니다. 보안 전문가들은 이러한 방식이 악의적인 공격자들이 악용할 수 있는 취약점이라고 지적합니다.
인공지능을 위한 법적 틀이 필요하다.
원애즈 디지털(OneAds Digital Co., Ltd.)의 설립자 레훙덕(Le Hong Duc) 씨는 AI로 생성된 영상, 이미지, 음성 등의 콘텐츠가 놀라울 정도로 사실적인 수준에 도달하고 있으며, 이제는 직접 생산 및 상용화 단계에까지 이를 수 있다고 밝혔습니다. 이러한 기술 발전은 비용과 시간을 절감하는 분명한 이점을 제공하지만, 허위 정보를 유포하거나 대중에게 공포감을 조성하는 데 악용될 가능성도 있습니다. 점점 더 복잡해지는 AI 모델 속에서 콘텐츠 관리는 매우 중요해지고 있으며, 특히 기술 발전 속도가 법률 개정 속도를 훨씬 앞지르고 있는 상황에서는 더욱 그러합니다.
따라서 덕 의원은 인공지능(AI) 콘텐츠 제작 및 공유자의 책임을 명확히 규정하는 AI 전문법 제정이 시급하다고 제안했습니다. 허위, 유해 또는 악성 콘텐츠를 유포하는 행위는 엄중히 처벌해야 합니다. 동시에 당국은 사용자가 AI를 이용해 제작할 수 있는 콘텐츠의 범위를 제한하는 기준을 마련하고 명확한 라벨링을 의무화해야 합니다. 이를 준수하지 않을 경우 법적 책임과 손해배상 책임을 져야 합니다. 덕 의원은 "급속도로 발전하는 AI 기술을 효과적으로 관리하고 건전한 디지털 환경을 유지하며 사기, 윤리 위반, 공격적 행위와 같은 부정적인 결과를 예방하기 위해서는 AI에 대한 별도의 법적 틀을 마련하는 것이 매우 시급하다"고 강조했습니다.
법적 문제 외에도, 정보 보안 전문가는 Veo3의 급속한 발전이 콘텐츠 제작자, 특히 영화, TV, 애니메이션 분야 종사자들에게 우려를 불러일으키고 있다고 지적했습니다. 이러한 분야들은 AI 기술로 인해 점차 AI 기반 콘텐츠 제작 일자리가 대체될 위험에 처해 있으며, 이는 창작 산업 종사자들의 직업과 저작권 보호에 중대한 도전 과제를 제기하고 있습니다. 전문가는 "AI가 이제 매우 사실적인 결과물을 만들어낼 수 있기 때문에 AI 생성 콘텐츠에 대한 지적 재산권 규제를 조속히 마련해야 합니다. 그렇지 않으면, 가상 콘텐츠가 시장에 쏟아져 들어오는 가운데 창작자들은 일자리를 잃을 위험에 직면하게 될 것입니다."라고 강조했습니다.
사기성 서비스를 조심하세요.
Veo3 출시 이후, 소셜 미디어 플랫폼에서 자신을 "AI 전문가"라고 칭하는 계정들이 Veo3 접속 방법 데모 영상이나 튜토리얼을 공유하거나, 20만~30만 VND에 계정 및 지원 서비스를 판매하는 사례가 늘고 있습니다. 일부 사용자는 Veo3에 접속하여 사용해봤다고 보고했지만, 모든 사용자가 제대로 경험할 수 있었던 것은 아닙니다. 레 홍 득 씨는 사기성 서비스나 비공식 서비스에 주의할 것을 당부하며, 금전적 사기, 데이터 도용, 구글 계정 무단 접근 등의 피해를 예방하기 위해 구글이 베트남 시장에 Veo3를 공식 출시할 때까지 기다릴 것을 권고했습니다.
출처: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm
댓글 (0)