AI로 만든 공격적 오디오 스토리: 스팸 콘텐츠가 수백만 뷰를 끌어모으다

(댄트리) - AI를 활용해 콘텐츠와 이미지가 담긴 영상을 만드는 것이 간단해질수록, 더 많은 '인터넷 쓰레기'가 생성됩니다.

책을 "읽는" 편리한 형태인 오디오 스토리는 조회수를 늘리기 위해 AI 기술을 이용해 선정적이고 폭력적인 콘텐츠를 제작하는 YouTube 채널에서 활발하게 이용되고 있으며, 이로 인해 우려스러운 결과가 발생하고 있습니다.

YouTube에서 오디오 스토리는 새로운 개념이 아니며, 읽는 데 시간을 들이지 않고도 콘텐츠에 액세스하고자 하는 많은 바쁜 사용자를 끌어들이고 있습니다.

실제 인간의 목소리나 AI의 지원을 받아 문학 작품, 로맨스, 탐정 소설, 공포 소설 등이 다양한 길이의 영상 으로 변환됩니다.

하지만 AI 기술의 급속한 발전은 많은 유튜브 채널에 의해 악용되고 있습니다. 이들은 선정적이고 폭력적인 내용의 스토리텔링 영상을 연재하여 시청자의 호기심을 자극하고 상호작용과 조회수를 유도합니다.

역겹고 소름 돋는 오디오 스토리, 수백만 조회수 기록

다양한 AI 소프트웨어와 웹사이트 덕분에 콘텐츠와 이미지 제작이 그 어느 때보다 쉬워졌습니다. 몇 가지 간단한 명령만으로 사용자는 원하는 대로 콘텐츠와 이미지를 제작할 수 있습니다.

이를 활용해 많은 유튜브 채널에서는 콘텐츠, 이미지, 음성이 모두 AI가 만든 오디오 스토리를 게시했습니다.

고정된 댓글 채널은 폭력적인 콘텐츠의 허구적 성격을 확인하지만, "긍정적인 메시지 전달"이라는 캡션을 추가한 이유는 불분명합니다(스크린샷).

"부자 여성 오디오 스토리"라는 문구를 검색하면 AI가 생성한 유사한 내용과 이미지를 담은 일련의 비디오가 표시됩니다.

길이는 다르지만, 이 영상들은 모두 AI가 만들어내고 읽어내는 감각적이고 폭력적인 줄거리를 공유하고 있습니다.

흥미로운 내용과 탐정의 목소리가 담긴 이러한 영상은 빠르게 수천, 수백만 건의 조회수와 상호작용을 끌어냅니다.

이러한 채널은 매일 2~3개의 영상을 게시하여 많은 시청자와 구독자를 확보하고 있습니다.

가상 콘텐츠, 실제적 영향

채널 자체에서 "사실이 아니며" "모든 세부 사항은 허구"라고 인정했음에도 불구하고 많은 터무니없는 이야기가 여전히 시청자를 끌어들이고 있다는 점은 언급할 가치가 있습니다.

사실, 많은 사람들, 특히 노인이나 기술에 대한 지식이 부족한 사람들은 이런 이야기가 사실이라고 믿습니다.

사용자들은 Threads에 게시된 AI가 생성한 오디오 스토리 영상에 대해 우려를 표명했는데, 이 영상은 부모와 노인들 사이에서 오해를 불러일으켰습니다(사진: 스크린샷).

콘텐츠, 특히 AI가 생성한 이미지는 점점 더 사실적으로 변해 진짜와 가짜를 구분하기 어렵게 만들고 있습니다. 트렌드와 최신 뉴스를 활용하여 많은 YouTube 채널은 조회수를 늘리기 위해 이벤트를 "추적"하는 동영상을 제작하기도 합니다.

AI는 많은 이점을 가져다주지만, 폭력적이고 불쾌한 내용이 담긴 가상 비디오가 급증하면서 심각한 문제가 발생하고 있습니다.

이러한 오디오 스토리 영상은 여전히 수천 건의 조회수를 기록하고 있으며, 콘텐츠가 충격적이고 폭력적일수록 상호 작용이 커집니다.

많은 채널이 자신들의 콘텐츠가 허구이며 "책임을 부인한다"고 주장하지만, 그렇다고 해서 시청자의 인식이나 행동에 영향을 미치지 않는다는 뜻은 아닙니다. 면책 조항은 채널이 스스로 만들어낸 쓰레기로부터 "정리"하는 데에 필요한 수단일 뿐입니다.

문제는 시청자가 가짜 뉴스와 진짜 뉴스를 구분하지 못한다면 어떻게 될 것인가, 아니면 아이들이 우연히 폭력적인 요소가 많은 콘텐츠를 시청할 경우 어떤 영향을 받을 것인가입니다.

베트남 국립 하노이 공과대학 정보기술학부 강사인 응우옌 반 손 박사는 "AI는 지역 사회에 많은 실질적인 기여를 할 수 있지만, 잘못된 목적으로 악용될 경우 심각한 결과를 초래할 수 있다"고 강조했습니다.

응우옌 반 손 박사에 따르면, 사용자는 AI에 접근하고 적용할 때 인식과 책임감을 높여야 합니다(사진: 캐릭터 제공).

손 박사는 사용자, 특히 젊은 세대에게 AI에 접근하고 적용할 때 인식과 책임감을 높여 사이버 공간에 만연한 쓰레기와 공격적인 제품을 퍼뜨리는 대신, 고품질의 문명화된 제품을 만드는 것을 목표로 삼을 것을 촉구했습니다.

오디오 스토리를 듣는 습관 자체는 나쁘지 않지만, 의도치 않게 사람들이 이 습관과 기술의 발전을 이용해 폭력적이고 불쾌한 제품을 만들도록 돕는 것은 온라인 환경을 오염시키고 있습니다.

사용자는 대중의 혼란을 야기하는 허위 정보에 현혹되지 않기 위해 정보를 검증하고 "필터"를 갖춰야 합니다.

출처: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm