인터넷상의 AI 관련 쓰레기를 제거합니다.

VTV.vn - "AI 쓰레기"는 저렴하고 반복적이며 중독성 있는 콘텐츠가 디지털 플랫폼의 알고리즘에 의해 증폭되면서 어린이들에게 새로운 문제를 야기하고 있습니다.

로봇 그림과 "AI Slop(인공지능 오용)"이라는 문구가 적힌 경고 표지판. (사진: 로이터)

자녀들이 컴퓨터 화면 앞에 몇 시간이고 앉아 있으면서도 공부에는 집중하지 못한다고 불평하는 부모들이 많은데, 이는 단순히 오락 습관의 변화만을 의미하는 것은 아닙니다. 짧고 빠르게 진행되는 영상 , 생생한 색감, 끊임없이 자극적인 소리 뒤에는 시청자의 몰입을 최대한 오래 유지하도록 설계된 디지털 생태계가 존재합니다. 의료 및 공중 보건 기관들도 이제 이 문제를 같은 관점에서 바라봅니다. 더 이상 "화면 앞에서 몇 시간을 보내는가"가 아니라 콘텐츠의 질, 사용 맥락, 그리고 플랫폼의 몰입 유지 메커니즘이 핵심이라는 것입니다.

이러한 맥락에서 국제적인 논쟁에 "AI 슬롭(AI slop)"이라는 새로운 용어가 점점 더 많이 등장하고 있는데, 이는 대략 "AI 쓰레기"로 번역될 수 있습니다. 이 용어는 인공지능 도구를 사용하여 대량 생산되는 콘텐츠를 가리키는데, 이러한 콘텐츠는 저비용, 고속 생산 방식을 특징으로 하며 교육적 가치나 일관성보다는 양, 시청자 참여, 광고 수익을 우선시합니다. 중요한 것은 현재 논쟁의 핵심이 AI를 창의적인 도구로 인정하지 않으려는 것이 아니라, 매우 구체적인 문제에 초점을 맞추고 있다는 점입니다. 즉, 저렴하고 반복적이며 피상적인 콘텐츠가 알고리즘에 의해 확산될 때, 가장 취약한 사용자 집단에 미치는 영향에 대해 누가 책임을 져야 하는가 하는 것입니다.

이 문제는 2026년 4월, 200개가 넘는 단체와 전문가들이 구글과 유튜브에 아동 보호를 위한 더욱 단호한 조치를 촉구하는 서한을 보내면서 더욱 심화되었습니다. 요구 사항은 명확했습니다. 모든 AI 콘텐츠에 라벨을 부착하고, 유튜브 키즈에서 AI 콘텐츠를 금지하며, 18세 미만 사용자에게는 AI 콘텐츠 추천을 차단하고, AI 콘텐츠를 차단하는 자녀 보호 버튼을 추가하고, 아동용 AI 영상 제작에 대한 투자를 중단하라는 것이었습니다. 이 공개 서한에서 페어플레이는 어린이를 대상으로 하는 주요 AI 채널들이 연간 425만 달러 이상의 수익을 올리고 있다고 주장했습니다. 이러한 수치 이면에는 플랫폼 시대의 익숙한 비즈니스 논리가 숨어 있습니다. 즉, 저렴하고 빠르게 제작할 수 있으며 시청자의 관심을 오랫동안 유지하는 콘텐츠는 쉽게 확산된다는 것입니다.

2025년 7월 2일, 터키 앙카라에서 휴대전화 화면에 구글 로고가 표시되고, 그 뒤 컴퓨터 화면에는 유튜브 로고가 보인다. (AFP 사진)

부모들이 걱정하는 것은 콘텐츠의 양만이 아닙니다. 문제는 이를 피하기 어렵다는 점입니다. Fairplay는 국제 언론 조사 결과를 인용하여, 코코멜론과 같은 인기 유아 프로그램을 시청한 후 유튜브에서 다음에 추천되는 영상의 약 40%에 AI 요소가 포함되어 있다고 밝혔습니다. 또 다른 언론 보도에 따르면, 신규 사용자 계정에 추천되는 Shorts 영상의 약 21%가 AI 콘텐츠이며, AI로만 생성된 278개의 채널이 약 630억 회의 조회수, 2억 2천1백만 명의 구독자, 그리고 연간 약 1억 1천7백만 달러의 수익을 올리고 있다고 합니다. 콘텐츠 비즈니스 관점에서 볼 때, 이는 더 이상 "틈새 시장"이 아니라 진정으로 수익성 있는 생산 라인이 되었습니다.

그렇다면 전문가들이 왜 특별히 어린이들에게 주목하는 걸까요? 첫째, 기존 연구 결과에 따르면 어린이들이 공개 플랫폼에서 시청하는 영상의 대다수는 질 높은 교육 콘텐츠가 아닙니다. 커먼 센스 미디어(Common Sense Media)에 따르면 8세 이하 어린이가 시청하는 영상 중 교육적 가치가 높은 영상은 약 5%에 불과하고, 75%는 교육적 가치가 거의 없거나 전혀 없습니다. 또한 이 보고서는 영상의 30%에 최소한 경미한 신체적 폭력이 포함되어 있고, 20%에는 놀림, 괴롭힘, 조종 행위와 같은 대인 폭력이 포함되어 있다고 지적합니다. 이는 'AI 물결' 이전에도 공개 플랫폼의 어린이 영상 환경에 대한 더욱 철저한 감시가 필요했음을 의미합니다. AI는 이러한 유형의 콘텐츠 제작을 더욱 저렴하고, 빠르고, 광범위하게 만들 뿐입니다.

2025년 6월 7일, 폴란드 크라쿠프에서 한 휴대전화 화면에 유튜브 키즈 앱이 표시되어 있다. (사진: NurPhoto, AFP)

현재 유튜브의 대응은 관찰자들을 완전히 안심시키지는 못하고 있습니다. 유튜브는 실제처럼 보이는 편집 또는 합성 콘텐츠에 대해서는 제작 사실을 공개하도록 요구하지만, 어린이용 애니메이션 영상 중 상당수는 이 요건에서 제외됩니다. WIRED는 어린이를 대상으로 하는 애니메이션 영상이 "비현실적"이라는 이유로 딥페이크 표시 규정을 피해갈 수 있다고 지적했습니다. 이는 바로 이러한 유형의 콘텐츠가 어린이들의 경험에 깊숙이 스며들고 있다는 점을 강조하는 것입니다. 또한, 이러한 이유로 단순히 표시만으로는 불충분하며, 특히 어린아이들은 설명을 이해할 만큼 글을 읽을 줄 모른다는 점에서 더욱 그렇습니다. 하지만 유튜브는 AI 관련 문제 해결을 2026년까지 최우선 과제로 삼고 있으며, 가족들을 위한 모니터링 도구도 추가할 예정이라고 공개적으로 밝혔습니다.

더 넓은 관점에서 보면, "AI 기반 유해 콘텐츠 제거"는 단순히 아이들만을 위한 것이 아닙니다. 온라인 세상은 디지털상의 유해 행위가 현실 세계로 직결될 수 있다는 새로운 현실을 보여주고 있습니다. 세계보건기구(WHO) 유럽 지부는 10대 청소년의 약 6분의 1이 온라인 괴롭힘을 경험했다고 보고했으며, 유니세프는 30개국 청소년의 3분의 1 이상이 사이버 괴롭힘의 피해자라고 밝혔습니다. 여성과 소녀의 경우, 유엔여성기구는 사이버 괴롭힘 발생률이 16%에서 58%에 이른다고 보고했고, 국제 연구에 따르면 소녀와 젊은 여성의 58%가 온라인 괴롭힘을 경험하는 것으로 나타났습니다. AI가 가짜 이미지, 동영상, 명예훼손성 콘텐츠를 더 저렴하고 빠르게 제작할 수 있도록 만들어줌에 따라 이러한 위험은 더욱 증가하고 있습니다.

2026년 1월 3일, 프랑스에서 한 십대 소년이 휴대전화로 영상을 보고 있다. (사진: 로이터)

그렇다면 "AI 기반 정화"는 어떻게 이해해야 할까요? 단순히 문제가 되는 영상 몇 개를 삭제하는 것으로 이해한다면, 증상만 해결하는 셈입니다. 실제로는 사용자에게 유해한 콘텐츠를 전달하는 전체 "파이프라인"을 정화해야 합니다. 즉, 명확한 라벨링 규칙, 어린이를 위한 안전한 기본 설정, 시청 시간 최적화 알고리즘에 대한 의존도 감소, 독립적인 연구를 위한 공개 데이터 제공, 그리고 플랫폼이 유해 콘텐츠에 더 신속하게 대응하도록 강제하는 것이 필요합니다. 유럽 디지털 서비스법(EDSA)은 이러한 방향을 따라 주요 플랫폼에 미성년자에게 미치는 위험을 줄이고, 사용자가 개인 맞춤형 피드를 선택하지 않도록 하며, 어린이를 대상으로 한 타겟 광고를 금지하도록 요구하고 있습니다. 가족 친화적인 측면에서 유튜브는 부모가 관리하는 계정에 쇼츠 시청 시간 제한, 휴식 시간 알림, 취침 시간 알림 기능을 추가했습니다. 어린 자녀의 계정에서는 부모가 콘텐츠를 선택하거나 수동으로 영상을 찾아볼 수 있습니다.

베트남의 경우, 이 문제는 공황 상태에 빠지기보다는 보다 신중한 시각으로 접근해야 합니다. 모든 AI 기반 콘텐츠가 "유해한" 것은 아닙니다. 하지만 플랫폼이 장기적인 가치보다 즉각적인 만족을 우선시하고, 아동에게 경고 표시가 명확하지 않으며, 부모가 모든 영상을 일일이 추적해야 하는 상황이라면, 이는 더 이상 개인의 능력 부족만의 문제가 아닙니다. 플랫폼의 기준, 학교에서의 디지털 안전 교육, 기술 기업의 책임, 나아가 공공 규제 체계까지 아우르는 문제입니다.

점점 더 콘텐츠가 넘쳐나는 온라인 환경에서 AI를 활용한 콘텐츠 정리 작업은 단순히 몇몇 불량 제품을 제거하는 것 이상의 의미를 지닙니다. 더욱 근본적으로, 이는 사람들의, 특히 아이들의 관심을 과도하게 착취하는 메커니즘 자체를 정화하려는 노력입니다.

출처: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm