유튜브는 인공지능을 과도하게 사용한다.

유튜브는 크리에이터들의 영상을 편집하는 데 인공지능을 조용히 활용하고 있다. 사진: 세레니티 스트럴 .

논란이 되고 있는 행보로, 유튜브는 사용자들에게 알리거나 허락을 구하지 않고 인공지능(AI)을 이용해 동영상을 몰래 편집해왔습니다. 이러한 은밀한 콘텐츠 수정은 특히 AI가 인간의 삶을 점점 더 지배하는 상황에서 우려를 불러일으키고 있습니다.

이 이야기는 500만 명이 넘는 구독자를 보유한 인기 유튜버 릭 베아토가 최근 영상에서 이상한 점을 발견하면서 시작되었습니다. "제 머리가 이상해 보여요."라고 그는 말했습니다. "자세히 보니 얼굴도 화장을 한 것처럼 보였고요." 약 2,000개의 영상을 제작한 그는 "내가 착각하는 건가?"라고 생각했습니다.

AI 테스트

유튜브는 플랫폼, 특히 유튜브 쇼츠의 영상 품질을 향상시키기 위해 인공지능(AI)을 조용히 사용해 왔습니다. 이 문제는 릭 베아토와 레트 슐을 포함한 몇몇 유명 유튜버들이 자신의 콘텐츠에서 AI가 생성한 이상한 디테일을 발견하면서 비로소 세상에 알려지게 되었습니다.

처음에 릭 베아토는 영상 속 자신의 모습이 뭔가 이상하다고 느꼈습니다. 머리 모양도 다르고 피부도 평소와 다르게 매끄러워 마치 화장을 한 것 같았습니다. 그는 자신이 착각하는 건가 싶었는데, 그의 친구이자 또 다른 유튜버인 레트 슐도 비슷한 문제를 겪고 있다는 사실을 알게 되었습니다.

슐은 이러한 원치 않는 변화에 대해 불만을 표하며 "이런 날카로운 효과를 원했다면 내가 직접 했을 것"이라고 말했다. 그는 AI가 생성한 외모가 자신의 이미지를 "왜곡"하고 관객의 감상 경험에 부정적인 영향을 미칠 수 있다고 우려했다.

릭 베아토는 인공지능이 음악 산업에 미치는 영향에 대한 주제로 많은 영상을 제작했습니다. 사진: 릭 베아토/유튜브.

이러한 수정 사항에 대한 불만은 6월부터 소셜 미디어 사용자들이 회사의 의도에 의문을 제기하면서 불거지기 시작했습니다. 수개월간의 추측 끝에 유튜브는 마침내 변경 사항을 확인하는 성명을 발표했습니다.

유튜브의 편집 및 크리에이터 관계 책임자인 르네 리치는 X에 "유튜브 쇼츠 영상 중 일부를 대상으로 기존 머신러닝 기술을 활용해 영상의 선명도를 높이고 노이즈를 줄이며 화질을 개선하는 실험을 진행 중"이라고 게시했습니다.

하지만 미국 피츠버그 대학교의 허위 정보 전문가인 사무엘 울리에 따르면 이러한 비교는 정확하지 않습니다. 그는 사용자들이 휴대전화에서 유사한 기능을 켜거나 끌 권리가 있는 반면, 유튜브는 "유명 크리에이터들의 동의 없이 콘텐츠를 조작한다"고 강조합니다.

울리 씨는 또한 유튜브가 "머신 러닝"이라는 용어를 사용하는 것은 인공지능 개입 수준을 축소하고 대중의 우려를 완화하려는 의도라고 주장했습니다.

믿음의 상실

유튜브 스캔들은 인공지능이 인간의 삶에 점점 더 은밀하게 개입하고 있다는 우려스러운 추세를 부각시킵니다. 전문가들에 따르면 이러한 미묘한 변화는 우리가 현실 세계 를 인식하는 방식을 무너뜨릴 수 있습니다.

이러한 현상은 새로운 것이 아닙니다. 수십 년 전 포토샵이 등장했을 때에도 비슷한 우려가 제기되었고, 이후 모델 사진 편집이나 소셜 미디어의 뷰티 필터 사용에 대한 논쟁이 이어졌습니다. 그러나 울리는 인공지능이 이러한 추세를 새로운 차원으로 끌어올려 사진 편집을 훨씬 더 흔하게 만들고 감지하기 어렵게 만들었다고 주장합니다.

"인공지능은 점점 더 우리의 삶과 현실을 형성하는 수단이 되고 있습니다."라고 전문가는 말했다.

이번 사건은 대형 기술 기업들이 사용자들이 매일 보는 콘텐츠를 얼마나 쉽게 통제하고 조작할 수 있는지를 보여줍니다. 사진: Decrypt.

과거 여러 스캔들이 이러한 추세를 부각시켰습니다. 2023년에는 삼성에서 자사 신제품에 AI를 이용해 달 사진을 조작한 사실이 드러났습니다. 최근에는 구글 픽셀이 AI를 활용해 여러 장의 사진에서 가장 잘 나온 얼굴들을 합성해 완벽한 단체 사진을 만들어내는 "베스트 테이크" 기능을 선보였습니다. 픽셀 10은 AI 기반 줌 기능을 통해 카메라의 물리적 한계를 뛰어넘는 100배 줌까지 구현했습니다.

이러한 기능들이 더욱 보편화됨에 따라 현실과 가상 세계의 경계가 모호해지고 있습니다. 이에 대응하여 일부 기업들은 AI로 편집된 이미지에 디지털 워터마크를 추가하는 등 새로운 콘텐츠 인증 방식을 도입하여 사용자들이 조작된 콘텐츠를 식별할 수 있도록 돕고 있습니다. 그러나 근본적인 문제는 여전히 신뢰의 붕괴입니다.

울리는 유튜브의 이번 조치가 인공지능이 삶과 현실을 형성하는 도구로 변모하고 있음을 보여준다고 경고했습니다. 더 나아가, 이는 기술 기업들이 자신들의 목적을 위해 우리가 시청하는 콘텐츠를 얼마나 쉽게 조작하고 은밀하게 변경할 수 있는지에 대한 선례를 만들고 있다고 지적했습니다.

"만약 기업들이 제작자에게 알리지도 않고 임의로 콘텐츠를 편집하고 있다는 사실이 대중에게 알려진다면 어떻게 될까요?" 전문가가 질문했다.

릭 베아토처럼 "유튜브가 내 삶을 바꿔놓았다"며 크게 개의치 않는다고 말하는 사람들도 있지만, 우려는 여전히 남아 있습니다. 이러한 미묘한 변화들이 크리에이터와 시청자 사이의 이미 취약한 신뢰를 무너뜨릴 수도 있기 때문입니다.

출처: https://znews.vn/hanh-dong-gay-tranh-cai-cua-youtube-post1579994.html