유튜브, AI 과도하게 활용

YouTube는 조용히 AI를 활용해 크리에이터들의 영상을 편집하고 있습니다. 사진: 세레니티 스트럴

논란의 여지가 있는 행보 속에서 유튜브는 사전 고지나 허가 없이 사용자 동영상을 은밀하게 AI를 이용해 편집해 왔습니다. 이러한 은밀한 콘텐츠 "미화"는 특히 AI가 인간의 삶을 점점 더 지배하는 상황에서 많은 우려를 불러일으켰습니다.

모든 것은 500만 명이 넘는 구독자를 보유한 인기 유튜버 릭 비토가 최근 영상에서 특이한 점을 발견하면서 시작되었습니다. "제 머리가 이상해 보였어요."라고 그는 말했습니다. "자세히 보니 제 얼굴이 화장한 것처럼 보였어요." 거의 2,000개의 영상을 제작한 이 콘텐츠 크리에이터는 스스로에게 이렇게 질문해야 했습니다. "내가 상상하는 걸까?"

AI 테스트

YouTube는 특히 YouTube Shorts를 비롯한 플랫폼의 동영상 품질을 개선하기 위해 인공지능(AI)을 조용히 활용해 왔습니다. 이 사건은 Rick Beato와 Rhett Shull을 비롯한 여러 유명 유튜버가 자신의 콘텐츠에서 AI가 생성한 이상한 세부 정보를 발견하면서 알려지게 되었습니다.

처음에 릭 비토는 영상 속 자신의 모습에 뭔가 문제가 있다고 느꼈습니다. 머리카락이 달라 보이고 얼굴이 마치 화장을 한 것처럼 유난히 매끈해진 것을 알아챘습니다. 그는 자신이 착각하는 건가 싶었는데, 친구이자 또 다른 유튜버인 레트 슐이 비슷한 문제를 경험했습니다.

슐은 이러한 원치 않는 변화에 불편함을 표하며 "이런 선명한 효과를 원했다면 제가 직접 했을 겁니다."라고 말했습니다. 그는 AI가 생성한 모습이 자신의 이미지를 "잘못 표현"하여 관객 경험에 영향을 미칠까 봐 우려합니다.

릭 비토는 AI가 음악 산업에 미치는 영향을 주제로 여러 영상을 제작했습니다. 사진: 릭 비토/YouTube

6월부터 소셜 미디어 사용자들이 회사의 의도에 의문을 제기하면서 수정 사항에 대한 불만이 제기되기 시작했습니다. 몇 달간의 추측 끝에 유튜브는 마침내 수정 사항을 공식 발표했습니다.

YouTube의 편집 및 크리에이터 커뮤니케이션 책임자인 레네 리치는 X에 회사가 "기존 머신 러닝을 사용하여 영상의 선명도를 높이고, 노이즈를 줄이고, 선명도를 개선하는 실험을 일부 YouTube Shorts 영상에서 진행하고 있다"고 게시했습니다.

그러나 미국 피츠버그 대학교의 허위 정보 전문가 사무엘 울리(Samuel Woolley) 씨는 이러한 비교가 부정확하다고 주장합니다. 그는 사용자들은 휴대폰에서 유사한 기능을 켜고 끌 권리가 있는 반면, 유튜브는 "유명 크리에이터들의 콘텐츠를 동의 없이 조작한다"고 강조했습니다.

울리 씨는 유튜브가 "머신 러닝"이라는 용어를 사용하는 것은 대중의 우려를 완화하기 위해 AI 개입 수준을 축소하려는 방법이라고 말했습니다.

믿음의 상실

유튜브 스캔들은 우려스러운 추세를 보여줍니다. AI가 눈에 보이지 않는 방식으로 사람들의 삶에 점점 더 침투하고 있다는 것입니다. 전문가들은 이러한 미묘한 변화가 현실 세계 에 대한 우리의 인식을 침식할 수 있다고 경고합니다.

이러한 현상은 새로운 것이 아닙니다. 수십 년 전 포토샵이 등장하면서 비슷한 우려가 제기되었고, 이후 모델 사진 조작이나 소셜 미디어에서의 뷰티 필터 사용에 대한 논쟁이 이어졌습니다. 그러나 울리 씨는 AI가 이러한 추세를 한 단계 더 발전시켜, 사진 편집이 훨씬 더 흔해지고 감지하기가 더 어려워졌다고 주장합니다.

전문가는 "AI는 우리의 삶과 현실에 점점 더 많은 영향을 미치고 있다"고 말했다.

이 사건은 대형 기술 기업들이 사용자들이 매일 보는 콘텐츠를 얼마나 쉽게 통제하고 조작할 수 있는지 보여줍니다. 사진: Decrypt.

과거 다른 스캔들에서도 이러한 경향이 드러났습니다. 2023년, 삼성은 AI를 사용하여 새 기기에서 달 사진을 "가짜"로 촬영한 사실이 적발되었습니다. 최근 구글 픽셀은 AI를 사용하여 여러 장의 사진에서 가장 잘 나온 얼굴을 하나의 완벽한 단체 사진으로 합성하는 "베스트 테이크" 기능을 선보였습니다. 이는 세상에 없던 순간을 만들어냅니다. 픽셀 10은 생성 AI를 사용하여 카메라의 물리적 한계를 훨씬 뛰어넘는 100배 줌을 구현합니다.

이러한 기능들이 더욱 보편화됨에 따라 현실과 가상 세계의 경계가 점점 모호해지고 있습니다. 이를 해결하기 위해 일부 기업들은 AI가 편집한 이미지에 디지털 워터마크를 삽입하는 등 새로운 콘텐츠 인증 수단을 도입하여 사용자가 변조된 콘텐츠를 식별할 수 있도록 돕고 있습니다. 하지만 핵심 문제는 여전히 신뢰의 약화입니다.

울리 씨는 유튜브의 행보는 AI가 우리의 삶과 현실을 형성하는 도구가 되고 있음을 보여준다고 경고했습니다. 이는 기술 기업들이 우리가 몰래 시청하는 콘텐츠를 자신들의 목적에 맞게 쉽게 조작하고 바꿀 수 있다는 전제이기도 합니다.

"기업이 콘텐츠 제작자에게 직접 알리지 않고도 콘텐츠를 편집한다는 사실을 대중이 알게 된다면 어떨까요?" 전문가가 질문했습니다.

릭 비토처럼 "유튜브가 내 인생을 바꿔 놓았다"며 크게 걱정하지 않는 사람들도 있지만, 우려는 여전히 남아 있습니다. 이러한 조용한 변화는 이미 취약해진 크리에이터와 시청자 사이의 신뢰를 무너뜨릴 수 있습니다.

출처: https://znews.vn/hanh-dong-gay-tranh-cai-cua-youtube-post1579994.html