소셜 미디어, AI 및 증폭 알고리즘: 세상을 뒤집는 "원자" 조합

증오 선동 알고리즘

소셜 미디어 알고리즘은 더 이상 단순히 재미있는 콘텐츠를 추천하는 데 그치지 않고 증오 표현과 극단주의 이념을 증폭시키고 있습니다. 안토니오 구테흐스 유엔 사무총장은 일부 소셜 미디어 플랫폼이 증오 표현과 허위 정보로 가득 찬 "유해한 쓰레기장"이 되어 극단주의 확산을 부추기고 있다고 경고했습니다.

실제 연구에 따르면 추천 알고리즘은 단 며칠 만에 문제를 악화시킬 수 있습니다. 예를 들어, 영국의 한 연구에 따르면 TikTok의 알고리즘은 단 5일 만에 여성혐오 콘텐츠 추천을 13%에서 56%로 네 배나 늘렸습니다.

연구진은 이 알고리즘이 사용자의 취약점(외로움, 통제력 상실, 증오 등)을 자동으로 공략해 시청자를 끌어들이는 매력적인 "오락"으로 극단주의 콘텐츠를 전환한다고 설명했습니다.

이제 소셜 미디어에서는 사소한 정보나 근거 없는 루머조차도 쉽게 폭력의 방아쇠가 될 수 있습니다. 대표적인 사례가 2024년 영국 폭동입니다. 사우스포트 테러 이후, 용의자가 무슬림이거나 난민이라는 거짓 소문이 소셜 미디어에 빠르게 퍼졌고, 반무슬림 및 반이민자적 언사도 함께 퍼졌습니다. 미국 회계감사원(GAO)의 2024년 보고서에 따르면, 인터넷 사용자의 약 3분의 1이 온라인에서 증오 표현에 노출된 것으로 나타났습니다.
특히, 최근 아시아, 아프리카, 라틴 아메리카 등 여러 나라의 Z세대나 학생들이 주도한 일련의 심각한 시위와 폭동은 모두 소셜 미디어 플랫폼에서 시작되고 선동되었으며, 거의 동일한 시나리오로, 문제를 이용해 사회 전체를 선동하는 것입니다.

그는 정복했다 — AI 소프트웨어와 증폭 알고리즘은 가상 세계와 현실 세계를 모두 조작하고 있습니다. 그림: 나페츠

세계 대부분은 "환상"에 잠겨 있습니다.

AI의 폭발적인 성장으로 상황은 통제 불능 상태에 이르고 있습니다. AI 덕분에 거의 누구나 전례 없는 규모와 속도로 "가짜 뉴스 공장"을 만들 수 있게 되었습니다. GPT, Claude, LLaMA와 같은 AI 모델은 순식간에 일련의 왜곡된 기사, 이미지, 비디오를 자동으로 생성할 수 있습니다. AI 봇 시스템은 수천 개의 게시물이나 댓글을 동시에 생성하고 공유하여 가짜 뉴스와 악성 뉴스를 온라인 "트렌드"로 탈바꿈시킬 수 있습니다.

미국 RIT 대학의 한 연구는 "AI는 온갖 종류의 잘못된 정보를 매우 빠르게 확산시켰습니다. AI 봇은 이런 내용을 인터넷에 퍼뜨릴 수 있는데, 이를 위해서는 사람이 직접 만들 필요가 없기 때문입니다."라고 주장했습니다.

오늘날, AI 도구에 한 달에 수십 달러만 투자하면 개인은 음성, 사진, 동영상 등 무엇이든 수천 개의 가짜 이미지와 동영상을 만들 수 있습니다. 그 정교함과 확산 수준이 너무나 높아서 오늘날 우리 모두는 이런 생각을 합니다. 소셜 미디어에서 보는 것들이 과연 AI가 만든 것일까?

하지만 아이러니한 것은 대부분의 사람들이 매일 몇 시간씩 그 "가상" 세계에 빠져 있고, 심지어 "중독"처럼 즐기고 있다는 것입니다. 디지털 2025 보고서에 따르면, 약 52억에서 56억 명이 소셜 네트워크를 사용하고 있으며, 이는 전 세계 인구의 64%에 해당합니다. 그리고 1인당 소셜 네트워크 사용 시간은 하루 평균 2시간 20분 정도입니다.

"원자" 폭탄을 통제해야 한다

가짜 뉴스와 허위 정보가 점점 더 저렴하고 위험한 속도로 생산되면서 인터넷 콘텐츠 통제는 거의 인간의 통제를 벗어나고 있습니다. 영국 킹스 칼리지 런던의 기술 전문가 루카스 올레이닉은 "매달 [가짜 뉴스] 공장들은 더 저렴해지고, 더 날카로워지며, 감지하기 더 어려워지고 있습니다."라고 말했습니다.

한편, 2024년 RAND 연구에서는 AI가 가짜 소셜 미디어 계정으로 "인터넷을 채울" 가능성이 명확하고 별다른 반전 없이 거의 불가피하다고 지적했습니다.

핵 기술은 한때 인류의 위대한 발명품이었고, 소셜 미디어 역시 마찬가지였습니다. 하지만 방치하면 재앙을 초래할 수 있습니다. 마찬가지로, 소셜 미디어, AI, 그리고 증폭 알고리즘이 제멋대로 작동하게 내버려 두면 사이버 공간에서 "원자폭탄"을 터뜨릴 수 있으며, 현실 세계를 파괴할 만큼 강력해질 수도 있습니다.

출처: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html