유튜브, 딥페이크로부터 이미지·음성 보호하는 '유사성 감지' 도구 출시

딥페이크 영상 의 확산으로 진짜와 가짜의 경계가 모호해지고 있습니다. 유명인부터 콘텐츠 제작자까지, 누구나 이 기술의 희생자가 될 수 있습니다.

이러한 현실에 직면하여 YouTube와 다른 많은 온라인 플랫폼은 창작의 자유와 디지털 정체성에 대한 통제 사이의 균형을 찾으려고 노력하고 있습니다.

유튜브, AI 사칭 인식 도구 테스트

유튜브는 '유사성 감지'라는 새로운 기능을 도입했습니다. 이는 얼굴과 음성의 유사성을 인식하는 기능입니다. 크리에이터는 가짜로 보이는 동영상을 발견하면 이 도구를 통해 직접 확인 요청을 제출할 수 있습니다.

이 시스템은 인공지능 모델을 사용하여 얼굴 및 음성 데이터를 요청자의 원본 프로필과 비교합니다. 결과 일치도가 높으면 해당 영상은 추가 검토를 위해 YouTube 관리 부서로 전송됩니다.

이를 통해 유효한 콘텐츠를 실수로 삭제할 가능성을 줄이는 동시에 딥페이크 감지의 정확도를 높일 수 있습니다.

저작권 또는 침해 콘텐츠를 신고하는 기존 도구와 달리, 새로운 인식 기능은 개인 신원에 중점을 둡니다. 사칭을 당하는 사람은 이미지나 콘텐츠의 소유권을 증명할 필요가 없으며, 얼굴이나 음성의 무단 사용 사실만 확인하면 됩니다.

유튜브는 이 도구의 목적은 크리에이터에게 통제권을 돌려주는 것이라고 밝혔습니다. 점점 더 많은 동영상에 이미지 및 음성 합성 기술이 사용되어 시청자가 진짜와 가짜를 구분하기 어려워지고 있기 때문입니다. 이 도구는 미국에서 점진적으로 출시된 후 내년에 다른 지역으로 확대될 예정입니다.

딥페이크 열풍에 대처하기 위한 단계

딥페이크는 더 이상 엔터테인먼트 영상이나 풍자 영상에만 국한되지 않습니다. 불과 몇 년 만에 이 기술은 사기, 정치적 목적, 그리고 정보 조작에도 악용되고 있습니다. 유명인의 얼굴이 잘리거나 심지어 음성까지 변조된 광고나 민감한 콘텐츠 속의 많은 사례는 온라인에서 접하는 정보의 신뢰성에 대한 우려를 불러일으켰습니다.

이러한 흐름에 직면하여 소셜 미디어 플랫폼들은 동시에 대응 방안을 모색해 왔습니다. 메타(Meta)는 인공지능(AI)이 제작한 동영상에 "AI 생성"이라는 라벨을 붙일 계획을 발표했고, 틱톡(TikTok)은 위반 신고 섹션에 "AI 생성" 섹션을 추가하여 사용자가 가짜 동영상을 발견했을 때 더욱 쉽게 대응할 수 있도록 했습니다. 유튜브의 경우, 이는 만연하고 통제 불가능한 딥페이크 물결에 대처하기 위한 유튜브의 적극적인 노력을 보여주는 조치입니다.

이 기능의 출시는 유튜브가 AI 시대에 맞춰 콘텐츠 관리 기준을 재정립하고자 노력하고 있음을 보여줍니다. 유튜브 플랫폼은 저작권 침해 동영상을 처리할 뿐만 아니라, 크리에이터에게 디지털 신원을 보호하는 데 있어 목소리를 낼 수 있는 메커니즘을 구축합니다.

일부 미디어 전문가들은 이를 기술 기업들이 'AI에 적응하는' 단계에서 'AI의 영향을 통제하는' 단계로 옮겨가기 시작했다는 신호로 보고 있습니다.

하지만 전 세계적으로 딥페이크 감지 도구를 구현하는 것은 간단한 일이 아닙니다. 국가 간 데이터 보호법의 차이와 유해한 가짜 콘텐츠의 기준을 판단하는 과정의 복잡성은 YouTube가 구현 과정에서 해결해야 할 과제입니다.

창의성과 검열 사이의 경계

딥페이크 근절은 콘텐츠 제작의 한계에 대한 의문을 제기합니다. 많은 영상 제작자는 자동 인식 도구가 단편 영화나 시연 영상과 같은 합법적인 AI 기반 콘텐츠에 영향을 미칠 수 있다고 우려합니다. 창의성과 허위의 경계가 점점 모호해짐에 따라, 플랫폼은 창작의 자유를 침해하지 않으면서 사용자를 보호할 방법을 찾아야 합니다.

유튜브는 이 인식 도구가 창의성을 제한하기 위한 것이 아니라 개인의 이미지를 통제할 권리를 보호하기 위한 것이라고 주장합니다. 그러나 전문가들은 무엇이 유해하고 무엇이 합법적인 창작물인지 판단하는 것이 여전히 큰 과제로 남을 것이라고 말합니다.

가짜 창작물과 가짜 감지 기술 간의 경쟁은 계속될 가능성이 높으며, YouTube의 새로운 도구는 점점 가상화되는 시대에 진짜를 유지하려는 노력의 작은 단계일 뿐입니다.

탄 투

출처: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm