당신이 원하는 것을 원한다
커피숍에 앉아 인터넷을 서핑하던 로안 씨는 화면에 노인이 "노래하는 바"에 들어와 다리가 긴 다섯 명의 소녀들을 동시에 부르고 자유롭게 춤을 추는 모습이 떠올라 깜짝 놀랐습니다. "저 노인분 얼굴이 저희 아버지와 비슷하시네요. 상상도 못 할 광경이에요. 집 아이들이 이 모습을 보면 뭐라고 할까요… 문제가 될 거예요." 로안 씨는 말했습니다.
소셜 미디어에는 현재 소리부터 이미지까지 저속한 내용을 담은 AI 비디오가 많이 있습니다.
또 다른 이미지에서는, 시원한 옷을 입은 세 명의 어린 소녀를 오토바이에 태운 노인이 거리를 질주하는 모습이 보입니다. 운전자는 "내 등에 붙어 있어, 나사 두 개가 내 등에 박혀 있어. 어떻게 참을 수 있겠어…"라고 소리칩니다. 또는 비키니 차림의 여성이 시장 한가운데를 걷고 있는 모습, 노인에게 여성을 험담하는 내용으로 인터뷰를 하는 모습, 전 애인에 대해 저속한 답변으로 인터뷰하는 모습…
"현재 소셜 미디어 플랫폼에는 AI 도구가 제작한 수백, 심지어 수천 개의 동영상이 있습니다. 옷을 거의 입지 않은 여성, 생리학, 성(性)과 관련된 음란한 대화, 그리고 문화적 가치를 훼손하는 동영상들이 스마트 알고리즘을 통해 모바일 사용자에게 접근하고 있습니다. 어떤 종류의 동영상이든 만들고 싶은 사람은 누구나 다 만들 수 있습니다." 은행 직원인 탄 호아이 씨는 걱정했습니다.
오늘날 HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video 등 AI 영상 제작 도구는 더 이상 생소한 개념이 아닙니다. 각 도구는 기능, 화질, 아바타 개인화, 다국어 지원, AI 음성 및 특수 효과 통합 등 각기 다른 강점을 가지고 있습니다. 앞서 언급했듯이 "사실적인" 화질을 제공하면서도 "과도한" 이미지와 사운드를 생성하고 네트워크 환경에 빽빽하게 나타나는 AI 영상은 대부분 AI Google Veo 3에서 생성됩니다. 이는 프롬프트에서 영상을 제작하고, 등장인물 간의 대화나 동물 소리와 같은 생생한 사운드를 통합할 수 있는 AI 모델로, "음소거" 영상이나 단순한 배경음악만 있는 영상만 제작하는 다른 AI 모델보다 훨씬 발전된 것으로 평가됩니다.
AI 비디오, 특히 호기심을 자극하고 저속한 영상은 모바일 사용자의 "눈과 귀"를 사로잡고 있습니다. 많은 사람들이 AI 도구 제공업체의 서비스 패키지에 월 수십 달러에서 수백 달러까지 가입할 수 있기 때문입니다. 동시에 많은 업체들이 짧은 영상, 일반 이미지 등 기본 패키지부터 고화질 영상과 다양한 효과를 제공하는 고급 패키지, 창의적인 영상과 고급 기능을 갖춘 전문가 패키지까지 AI 비디오 제작 서비스를 풀 패키지로 제공하고 있습니다. 가격은 길이, 복잡성, 더빙, 다국어 자막, SEO 최적화 등 추가 기능에 따라 달라집니다. 소셜 네트워크 콘텐츠 제작 전문가인 트롱 호아는 "원하는 모든 유형의 AI 비디오를 제작할 수 있습니다. 불쾌하고 재미있는 콘텐츠, 붐비는 장소에서의 멋진 이미지, "고통스러운" 대사 등 무엇이든 가능합니다. 저희는 모든 것을 해낼 수 있습니다."라고 단언했습니다.
예측할 수 없는 많은 결과
Google은 Veo 3에서 생성된 모든 콘텐츠에 SynthID 워터마크가 표시된다고 밝혔습니다. SynthID는 DeepMind의 기술로 AI 생성 콘텐츠를 추적하고 식별하는 데 사용됩니다. 또한 Google은 사용자가 책임감 있게 AI 콘텐츠를 제작하고 식별할 수 있도록 돕는다는 목표를 강조하는 안전 가이드를 제공합니다.
하지만 AI 비디오 전반, 특히 Veo 3 도구의 등장으로 AI 윤리 문제가 특정 관점에서 제기되고 있습니다. AI는 문화적 정체성을 왜곡합니다. AI는 국가 문화의 "혼합" 버전을 만들어낼 수 있기 때문에 기원에 대한 혼란을 야기하고 문화적 정체성의 본질을 상실하게 하며, 궁극적으로는 공동체가 본래의 가치와 변형된 가치를 구분하기 어렵게 만듭니다. 문화적 소유권 침해: AI는 인정이나 저작권 보호 없이 문화적 요소를 쉽게 수집, 복제, 복제하여 전통적인 가치가 널리 사용되도록 만듭니다. 사회심리적 영향: 가짜 콘텐츠에 자주 노출되면 사용자는 혼란스러워하고 모든 정보의 진위 여부에 대해 의심하게 되어 사회적 신뢰와 공통된 문화적 가치에 영향을 미칩니다.
GenZ Company의 이사인 판 푸옥 꾸옥(Phan Phuoc Quoc) 씨는 "이 기술의 급속한 발전으로 인해 법적 규제, 저작권 보호 조치, 진위 판별이 따라가지 못해 전통 문화적 가치를 보존하고 증진하는 데 많은 어려움이 발생했습니다. Veo 3는 단순한 엔터테인먼트 도구가 아니라 커뮤니케이션, 교육 , 마케팅, 심지어 영화 분야에도 획기적인 변화를 가져올 것으로 예상됩니다. 하지만 이러한 기회와 함께 기술 남용 위험, 창조 산업에서 인간 대체, 그리고 이에 수반되는 윤리적 문제 등 심각한 과제도 존재합니다. 따라서 Veo 3와 같은 AI가 책임감 있게 개발되고 활용될 수 있도록 지역 사회를 위한 정책, 윤리 기준, 그리고 디지털 기술 교육 의 역할이 매우 중요합니다."라고 말했습니다.
반면, AI 도구가 발전함에 따라 사이버 공격의 위험도 증가합니다. 영상을 제작하는 AI 도구가 더욱 정교해질수록 딥페이크를 이용한 사이버 공격의 위험은 더욱 새롭고 위험한 형태로 변할 것입니다. 세계 최대 규모의 백신 소프트웨어 회사 중 하나인 카스퍼스키에 따르면, 평균적으로 딥페이크 공격은 5분마다 한 건씩 발생하며, 2026년까지 온라인 콘텐츠의 최대 90%가 AI를 사용하여 제작될 것으로 예측됩니다. 딥페이크 공격의 주요 대상은 여전히 개인 정보, 은행 계좌, 결제 정보를 보유한 일반 사용자입니다.
"딥페이크 기술을 이용한 허위 콘텐츠 및 가짜 콘텐츠 유포 위험은 많은 사람들의 우려를 불러일으키고 있습니다. Veo 3와 같은 AI 도구는 가짜 콘텐츠를 제작하는 데 악용될 수 있으며, 개인과 조직의 평판에 악영향을 미치거나 사회적 정보 혼란을 야기할 수 있습니다."라고 국가사이버보안협회(NCA)의 연구, 컨설팅, 기술개발 및 국제협력부 책임자인 부 응옥 손 씨는 말했습니다.
바탄
출처: https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
댓글 (0)