유튜브, 딥페이크로부터 이미지·음성 보호하는 '유사성 감지' 도구 출시

딥페이크 영상 의 확산으로 현실과 허구의 경계가 모호해지고 있습니다. 유명인부터 콘텐츠 제작자까지 누구든 이 기술의 희생양이 될 수 있습니다.

이러한 현실에 직면하여 유튜브를 비롯한 많은 온라인 플랫폼들은 창작의 자유와 디지털 정체성에 대한 통제 사이에서 균형을 찾으려 노력하고 있습니다.

유튜브는 인공지능 기반의 계정 사칭 탐지 도구를 테스트 중입니다.

유튜브는 '유사성 감지'라는 새로운 기능을 도입했습니다. 이 기능은 얼굴 특징이나 목소리의 유사성을 식별하는 것입니다. 크리에이터는 자신의 얼굴이나 목소리를 사칭하는 영상이 발견되면 이 기능을 통해 직접 인증 요청을 제출할 수 있습니다.

해당 시스템은 인공지능 모델을 사용하여 얼굴 및 음성 데이터를 요청자의 원래 프로필과 비교합니다. 일치도가 높으면 해당 영상은 추가 검토를 위해 유튜브 검토팀으로 전송됩니다.

이는 정상적인 콘텐츠가 실수로 삭제되는 것을 줄이고 딥페이크 탐지의 정확도를 높이는 데 도움이 됩니다.

기존의 저작권 침해 또는 침해 콘텐츠 신고 도구와 달리, 새로운 인식 기능은 개인 식별에 중점을 둡니다. 사칭 피해를 입은 사람은 이미지나 콘텐츠의 소유권을 증명할 필요 없이, 자신의 얼굴이나 목소리가 무단으로 사용되었다는 사실만 확인하면 됩니다.

유튜브에 따르면, 이 도구의 목표는 영상 및 음성 합성 기술을 사용하는 영상이 증가하면서 시청자가 실제와 가짜를 구분하기 어려워지는 상황에서 크리에이터에게 다시 통제권을 되돌려주는 것입니다. 이 도구는 미국에서 점진적으로 출시된 후 내년에 다른 지역으로 확대될 예정입니다.

딥페이크 확산에 맞서기 위한 조치들.

딥페이크 기술은 더 이상 오락 영상이나 풍자 콘텐츠에만 국한되지 않습니다. 불과 몇 년 만에 이 기술은 사기, 정치적 목적 , 정보 조작에 악용되고 있습니다. 유명인들의 얼굴이나 목소리가 광고나 민감한 콘텐츠에서 변조되는 사례가 잇따르면서 온라인 정보의 신뢰성에 대한 우려가 커지고 있습니다.

이러한 급증세에 대응하여 소셜 미디어 플랫폼들은 공동으로 대응 방안을 모색하고 있습니다. 메타는 인공지능으로 제작된 영상에 "AI 생성"이라는 라벨을 붙일 계획이라고 발표했고, 틱톡은 위반 신고 기능에 "AI 생성" 옵션을 추가하여 사용자들이 가짜 영상을 더 쉽게 신고할 수 있도록 했습니다. 유튜브의 경우, 이는 만연하고 통제하기 어려운 딥페이크 확산에 선제적으로 대응하기 위한 조치입니다.

이 기능의 도입은 유튜브가 AI 시대에 콘텐츠 검열 기준을 재정립하려는 시도를 보여줍니다. 유튜브는 저작권 침해 영상을 처리할 뿐만 아니라 크리에이터들이 자신의 디지털 신원을 보호하는 데 목소리를 낼 수 있도록 하는 메커니즘도 구축하고 있습니다.

일부 미디어 전문가들은 이를 기술 기업들이 "인공지능에 적응하는 것"에서 "인공지능의 영향을 통제하는 것"으로 전환하기 시작했다는 신호로 보고 있습니다.

하지만 딥페이크 탐지 도구를 전 세계적으로 적용하는 것은 간단한 일이 아닙니다. 국가별 데이터 보호법의 차이와 유해한 가짜 콘텐츠를 식별하는 복잡성은 유튜브가 구현 과정에서 직면하게 될 과제입니다.

창의성과 검열 사이의 경계

딥페이크와의 싸움은 콘텐츠 제작의 한계에 대한 의문을 제기합니다. 많은 영상 제작자들은 자동 탐지 도구가 단편 영화나 일러스트 영상과 같은 합법적인 AI 기반 콘텐츠에도 영향을 미칠 수 있다고 우려합니다. 창의성과 위조 사이의 경계가 모호해짐에 따라 플랫폼은 창작의 자유를 침해하지 않으면서 사용자를 보호할 방법을 찾아야 합니다.

유튜브는 자사의 식별 도구가 창의성을 제한하려는 것이 아니라 개인이 자신의 이미지를 스스로 통제할 권리를 보호하기 위한 것이라고 주장합니다. 그러나 전문가들은 어떤 영상이 유해하고 어떤 영상이 합법적인 창작물인지를 판단하는 것이 여전히 큰 과제로 남을 것이라고 보고 있습니다.

가짜 콘텐츠를 만드는 기술과 이를 탐지하는 기술 간의 경쟁은 앞으로도 계속될 가능성이 높으며, 유튜브의 새로운 도구는 점점 더 가상화되는 시대에 진정성을 유지하기 위한 노력의 작은 한 걸음일 뿐입니다.

탄투

출처: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm