ByteDance의 새로운 딥페이크 AI 도구에 대한 우려가 제기됨

TechSpot 에 따르면, TikTok을 만든 중국 기술 기업 ByteDance가 놀라울 정도로 사실적으로 인간 이미지를 재현할 수 있는 딥페이크 시스템인 OmniHuman-1을 발표했습니다. OmniHuman-1이 제작한 비디오는 일반 시청자를 속여 디지털 콘텐츠에서 진짜와 가짜의 경계를 모호하게 만듭니다.

OmniHuman-1이 제작한 많은 영상에는 알베르트 아인슈타인, 젠슨 황 등 많은 사람들이 등장하며, 이는 딥페이크가 얼마나 놀라울 정도로 사실적인지를 보여줍니다.

사진: OMNIHUMAN-1 스크린샷

이전의 딥페이크 모델과는 달리 OmniHuman-1은 사진과 오디오 클립만 있으면 완전한 비디오를 만들 수 있습니다. 사용자는 기존 비디오의 종횡비, 신체 구성을 조정하거나 심지어 움직임을 편집할 수도 있습니다. 이 AI(인공지능)는 손의 움직임과 제스처를 매우 정밀하게 바꿔 제품이 더욱 자연스럽게 보이도록 할 수 있습니다. 하지만 와인잔을 든 부자연스러운 자세나 알베르트 아인슈타인의 강의를 시뮬레이션한 영상 속 이상하게 뒤틀린 손 등 일부 세부 사항은 아직 완벽하지 않습니다.

이 모델은 텍스트, 오디오, 신체 움직임을 포함한 다양한 데이터 소스로부터 학습하기 위해 "전방 조건" 접근 방식을 사용하여 18,700시간 분량의 비디오를 통해 훈련되었습니다.

기술의 발전에도 불구하고 딥페이크 기술은 심각한 위험을 초래합니다. 최근 몇 년 동안 딥페이크는 정보 조작, 금융 사기, 개인 명예 훼손 등에 악용되고 있습니다. 2024년 선거에서는 유권자들을 오도하기 위해 많은 딥페이크 영상이 사용되었습니다. 작년에는 딥페이크와 관련된 금융 사기로 인해 수십억 달러가 도난당했는데, 그 중 한 사례에서는 사기꾼이 배우 브래드 피트를 사칭해 여성을 속여 85만 달러를 빼돌린 적도 있습니다.

이러한 위험에 대해 우려하는 많은 AI 윤리 전문가들은 딥페이크를 통제하기 위한 규정을 요구해 왔습니다. 미국의 몇몇 주에서는 유해한 딥페이크를 금지하는 법률을 제정했지만, 아직 포괄적인 연방 법률 체계는 없습니다. 캘리포니아주는 법원이 딥페이크 영상을 강제로 삭제하고 이를 배포하는 사람을 처벌할 수 있도록 하는 법안을 제안했지만, 입법 과정은 많은 장애물에 직면했습니다.

현재 ByteDance는 OmniHuman-1을 출시할 계획을 발표하지 않았지만, 이 모델에 대한 연구 논문이 발표되었는데, 이는 성장하는 딥페이크 기술의 잠재력과 위험을 보여줍니다.

출처: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm