AI도 틱톡을 너무 많이 스크롤하면 '뇌 손상'

텍사스 대학교 오스틴 캠퍼스, 텍사스 A&M 대학교, 퍼듀 대학교의 새로운 연구에 따르면, 인공 지능도 품질이 낮은 소셜 미디어 콘텐츠를 접하면 인간과 마찬가지로 "두뇌가 썩어버릴" 수 있다고 합니다.

"AI 두뇌 부패"로 알려진 이 현상은 대규모 언어 모델이 바이러스성, 선정적, 얕은 콘텐츠를 너무 많이 흡수하면 점차 논리적 사고, 기억 능력을 상실하고 심지어 도덕적으로 타락하게 된다는 것을 시사합니다.

인간뿐만 아니라 AI도 쓸모없는 짧은 영상을 너무 많이 검색하면 뇌가 퇴화됩니다.

싱가포르 국립대학교의 신임 강사인 준위안 홍이 이끄는 연구팀은 Meta의 Llama와 Alibaba의 Qwen이라는 두 가지 오픈소스 언어 모델을 대상으로 실험을 수행했습니다.

그들은 모델에 다양한 유형의 데이터를 제공했습니다. 중립적인 정보 콘텐츠도 있고, "와", "봐", "오늘 한정"과 같은 흔한 단어가 포함된 중독성 강한 소셜 미디어 게시물도 있었습니다. 목표는 AI가 실제 가치를 제공하기보다는 조회수를 끌어들이도록 설계된 콘텐츠로 훈련되었을 때 어떤 일이 일어나는지 확인하는 것이었습니다.

연구 결과에 따르면, 온라인에서 무의미한 정보를 "먹은" 모델은 인지 기능 저하의 뚜렷한 징후를 보이기 시작했습니다. 추론 능력이 약해지고, 단기 기억력이 감소했으며, 더욱 우려스러운 것은 행동 평가 척도에서 "비윤리적"으로 변했습니다.

일부 측정 결과는 사람들이 유해한 콘텐츠에 장기간 노출된 후 경험하는 심리적 반응을 모방한 "심리적 왜곡"을 보여주기도 하는데, 이는 부정적인 뉴스를 온라인에서 끊임없이 스크롤하는 "둠스크롤링"이 점차적으로 뇌를 침식시킬 수 있다는 이전의 인간 연구 결과와 유사한 현상입니다.

"두뇌 부패"라는 문구는 옥스포드 사전에서 2024년의 단어로 선정되기도 했는데, 이는 디지털 생활에서 이 현상이 널리 퍼져 있음을 반영합니다.

홍 씨는 "이번 발견은 많은 기업이 여전히 소셜 미디어 데이터를 풍부한 교육 리소스로 믿고 있는 AI 산업에 심각한 경고가 될 것"이라고 말했습니다.

"바이럴 콘텐츠로 학습하면 데이터 규모를 늘리는 데 도움이 될 수 있지만, 모델의 추론 능력, 윤리, 그리고 주의력을 조용히 약화시킵니다."라고 그는 말했습니다. 더욱 우려스러운 것은, 이러한 저품질 데이터로 인해 영향을 받은 모델은 "더 깨끗한" 데이터로 재학습하더라도 완전히 회복할 수 없다는 것입니다.

AI 자체가 소셜 네트워크에서 점점 더 많은 콘텐츠를 생산하고 있다는 점에서 이는 큰 문제를 야기합니다. AI가 생성한 게시물, 이미지, 댓글이 점점 더 널리 퍼짐에 따라, 이러한 게시물, 이미지, 댓글은 차세대 AI의 학습 자료로 전락하여 데이터 품질 저하를 초래하는 악순환을 초래합니다.

"AI가 생성한 쓰레기 콘텐츠가 확산됨에 따라 미래 모델이 학습할 바로 그 데이터가 오염됩니다."라고 홍 박사는 경고했습니다. "이러한 '두뇌 부패'가 일단 시작되면, 깨끗한 데이터로 재학습하더라도 완전히 치료할 수 없습니다."

이 연구는 AI 개발자들에게 경각심을 일깨워줍니다. 세상이 데이터 규모를 확대하기 위해 서두르는 동안, 더욱 우려되는 것은 우리가 천천히 썩어가는 "인공 두뇌"를 키우고 있을지도 모른다는 것입니다. 정보 부족 때문이 아니라 무의미한 것들이 너무 많아서 그렇습니다.