TechSpot 에 따르면, TikTok을 만든 중국 기술 기업 ByteDance가 놀라운 사실감으로 사람 이미지를 재현할 수 있는 딥페이크 시스템인 OmniHuman-1을 발표했습니다. OmniHuman-1이 제작한 영상은 일반 시청자를 속여 디지털 콘텐츠의 진짜와 가짜의 경계를 모호하게 만듭니다.
OmniHuman-1이 제작한 많은 영상에는 알베르트 아인슈타인, 젠슨 황 등 많은 사람들이 등장하며, 이는 딥페이크가 얼마나 놀라울 정도로 사실적인지를 보여줍니다.
사진: OMNIHUMAN-1 스크린샷
기존 딥페이크 모델과 달리 OmniHuman-1은 사진과 사운드 클립만으로 완벽한 영상을 제작할 수 있습니다. 사용자는 기존 영상의 화면 비율, 체형을 조정하거나 움직임을 편집할 수 있습니다. 이 AI는 손동작과 제스처를 정밀하게 조정하여 더욱 자연스럽게 보이도록 합니다. 하지만 와인잔을 들고 있는 부자연스러운 자세나 알베르트 아인슈타인의 강의를 모사한 영상에서 보이는 이상한 손동작 등 일부 세부적인 부분은 아직 완벽하지 않습니다.
이 모델은 텍스트, 오디오, 신체 움직임을 포함한 다양한 데이터 소스로부터 학습하기 위해 "전방 조건" 접근 방식을 사용하여 18,700시간 분량의 비디오를 통해 훈련되었습니다.
기술적 진보에도 불구하고, 딥페이크 기술은 심각한 위험을 초래합니다. 최근 몇 년 동안 딥페이크는 정보 조작, 금융 사기, 그리고 개인 명예 훼손에 악용되어 왔습니다. 2024년 선거에서는 유권자들을 현혹하는 데 많은 딥페이크 영상이 사용되었습니다. 작년에는 딥페이크를 이용한 금융 사기로 수십억 달러의 피해가 발생했는데, 한 사기꾼이 배우 브래드 피트를 사칭하여 여성을 속여 85만 달러를 송금한 사건도 있었습니다.
이러한 위험에 대해 우려하는 많은 AI 윤리 전문가들은 딥페이크 규제를 촉구해 왔습니다. 미국의 여러 주에서는 유해한 딥페이크를 금지하는 법률을 제정했지만, 포괄적인 연방 차원의 체계는 마련되어 있지 않습니다. 캘리포니아주는 법원이 딥페이크를 강제로 삭제하고 배포자를 처벌할 수 있도록 하는 법안을 발의했지만, 입법 과정은 많은 난관에 부딪혔습니다.
현재 ByteDance는 OmniHuman-1을 출시할 계획을 발표하지 않았지만, 이 모델에 대한 연구 논문이 발표되었는데, 이는 성장하는 딥페이크 기술의 잠재력과 위험을 보여줍니다.
[광고_2]
출처: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm
댓글 (0)