최근 국제언론인센터(ICFJ)가 주최한 '진실을 강화하는' 국제 컨퍼런스에서 전문가들은 딥페이크 및 기타 악성 AI 도구 퇴치에 집중했습니다.
언론인들이 딥페이크 기술이 제기할 수 있는 위협을 더 잘 이해하고 이에 대처하기 위한 방안에 대한 조언이 제공되었습니다.
사진: IJN
기술과 그 위협
빠르게 발전하는 기술 덕분에 사용자들은 얼굴 특징을 편집하고, 애니메이션 초상화를 만들고, 움직임을 추가하고, 목소리를 복제할 수 있게 되었습니다.
이러한 생태계의 일부로서, 딥페이크는 사용자가 사람의 얼굴, 목소리, 행동을 사실적으로 모방한 영상을 만들 수 있도록 하는 시청각 조작 기술의 한 유형입니다.
인공지능 덕분에 딥페이크는 이전보다 훨씬 쉽게, 그리고 아주 간단하게 제작되고 있습니다.
유명 인사를 사칭한 가짜 영상이 점점 더 흔해지고 있으며, 조작된 음성까지 함께 사용되는 경우가 많습니다. 딥페이크는 언론인과 검열관에게 영상의 진위 여부를 검증해야 하는 추가적인 부담을 지우고 있습니다.
WITNESS의 미디어 기술 전문가인 시린 안렌에 따르면, 딥페이크는 조작된 미디어 형태 중 가장 널리 논의되는 유형입니다. 그는 "딥페이크는 뉴스에서 점점 더 많이 접하게 되는 현상 중 하나"라고 말했습니다.
딥페이크 영상이 점점 흔해지고 있지만, 제대로 제작하려면 상당한 기술과 지식이 필요하기 때문에 일반인이 만들기는 어렵습니다. 따라서 조작된 영상 중 상당수는 진정한 딥페이크 수준에 미치지 못합니다.
예를 들어, 사람의 머리카락 색깔, 눈 색깔 또는 목소리를 바꾸는 필터는 우리가 특히 소셜 미디어에서 매일 접하는 조작 사례입니다. 인공지능이 생성한 대화나 유명 인사의 조작된 인용문 또한 또 다른 예입니다.
"딥페이크는 실제로 대규모로 사용되고 있지 않습니다."라고 앤런은 말했다. "현재 유포되는 허위 정보의 대부분은 맥락을 교묘하게 변형한 저품질 가짜 정보입니다."
감지하는 방법
모든 신기술에는 결함이 있기 마련이며, 딥페이크도 예외는 아닙니다. 예를 들어, 사용자는 영상이 끊기거나 입 모양과 음성이 일치하지 않는 등의 오류를 발견할 수 있습니다.
하지만 기술 또한 매우 빠르게 변화하고 있습니다. 소셜 미디어에 정보가 넘쳐나는 시대에는 시의적절한 탐지와 대응이 극히 어렵습니다.
"초기 딥페이크는 눈 움직임을 통해 쉽게 감지할 수 있었습니다. 하지만 최신 세대는 눈을 깜빡이는 등 더욱 정교해졌습니다. 이 기술은 끊임없이 발전하고 있으며 앞으로 감지하기가 점점 더 어려워질 것입니다."라고 안렌은 말했다.
솔루션
딥페이크를 탐지하는 방법으로는 영상 콘텐츠의 오류 및 왜곡 여부를 검토하고, 기존의 검증 및 포렌식 기법을 적용하며, 가능한 경우 인공지능 기반 딥페이크 탐지 방법을 활용하는 것 등이 있습니다.
미디어 활용 능력 향상 도구를 강화하고 언론 조작에 대한 언론인 대상 추가 교육을 제공하는 것 또한 필수적입니다.
"우리는 지금부터 준비해야 합니다."라고 안렌은 말했다. "기술을 진정으로 형성하고, 그것이 어떻게 구축될지 결정하기 위해서는 맥락을 이해해야 합니다... 그래야 새로운 기술에 수동적으로 영향을 받지 않을 수 있습니다."
호앙 톤 (IJN에 따르면)
[광고_2]
원천
