딥페이크를 이용해 TikTok에서 유명인 영상 만들기

음란물이나 사기는 아니지만, 최근 유명인들이 소셜 네트워크 틱톡(TikTok)의 교육용 영상 에 자신의 모습이 등장하면서 새로운 트렌드에 "애착"을 갖게 되었습니다. 가수 테일러 스위프트, 래퍼 드레이크, 아이스 스파이스, 유명 연예인 킴 카다시안, 억만장자 일론 머스크, 심지어 고(故) 엘리자베스 2세 여왕까지 포함됩니다.

테일러 스위프트의 이미지를 딥페이크로 재현해 소셜 미디어에서 수학적 분석을 시도했다.

유튜브 스크린샷

이에 따라 일부 TikTok 계정에서는 AI(인공지능)와 딥페이크 도구를 사용하여 유명인이 학생들을 위해 수학, 물리, 공학 등의 지식을 분석하는 영상을 "온라인으로 접속"하는 영상을 제작했습니다. 이 영상들은 순식간에 수천만 조회수와 수많은 댓글을 기록했습니다.

포르노나 사기에 쓰이는 가짜 이미지와 달리, 교육용 영상 아래에 콘텐츠 제작자는 항상 등장하는 캐릭터가 AI가 만든 것이라는 점을 명시하고, 동시에 관련 면책 조항을 명시합니다.

"이 영상은 드레이크의 실제 목소리나 영상이 아닙니다. 모든 이미지와 음성은 시청자들이 수학, 물리, 공학에 대해 배우는 데 도움을 주기 위해 컴퓨터로 생성되었습니다."라고 한 영상의 캡션에 명확하게 적혀 있습니다.

이러한 조치는 대다수 시청자의 지지를 받는데, 이들은 문제를 파악하는 데 몇 분만 걸리면 지식을 습득하기 쉽고 내용이 간결하다고 믿기 때문입니다. 일반적으로 강사가 전달하는 데 1~2회의 수업 시간이 걸립니다.

하지만 틱톡이나 다른 플랫폼과 같은 소셜 네트워크에서 유명인 이미지를 "가르치는" 데 사용하는 것 역시 우려를 불러일으킵니다. 심리학자들은 영상에 제시된 지식이 정확하다는 보장이 없으며, 아이들이 인공지능이 만든 캐릭터를 완전히 신뢰하거나 관계를 맺을 위험이 있다고 지적합니다.

소스 링크: https://thanhnien.vn/su-dung-deepfake-de-tao-video-nguoi-noi-tieng-tren-tiktok-185240408095703642.htm