미국 경찰, AI가 노숙자를 웃음거리로 만든다고 경고

AI 기술은 사람들이 몇 번의 클릭만으로 이미지, 음성, 디지털 콘텐츠를 제작할 수 있는 전례 없는 창의성의 시대를 열어가고 있습니다. 그러나 이러한 편리함은 심각한 위험을 동반하며, 특히 AI가 위험한 장난을 치는 도구로 사용될 경우 더욱 그렇습니다.

겉보기에 무해해 보이는 상황이 사회적, 법적, 심리적 위기를 불러일으키는 원인이 되고 있습니다.

AI가 틱톡 장난으로 노숙자들을 가상 캐릭터로 만들어내면서 오락과 범죄의 경계가 모호해지고 있다. (출처: The Verge)

TikTok과 "AI 노숙자" 농담

미국에서는 틱톡(TikTok) 트렌드가 경찰의 경각심을 불러일으키고 있습니다. 사용자들은 스냅챗(Snapchat)의 AI를 이용해 노숙자들이 집에 나타나는 모습을 촬영하고, 부모의 당황한 모습을 영상으로 촬영하고 있습니다. 일부 부모들은 경찰에 신고했고, 이는 실제 침입 사건처럼 보이는 긴급 대응으로 이어졌습니다.

매사추세츠주 세일럼 경찰서는 이러한 행동이 SWAT 작전으로 이어질 수 있다고 경고했습니다.

해당 기관은 성명을 통해 이 문제를 다음과 같이 요약했습니다. "이 장난은 노숙자들을 비하하고, 신고자들을 공황 상태로 몰아넣으며, 경찰 자원을 낭비합니다. 출동한 경찰관들은 이 장난의 존재를 인지하지 못했고, 전화를 실제 강도 사건으로 간주하여 잠재적으로 위험한 상황을 조성했습니다."

AI 장난은 미국뿐 아니라 전 세계로 퍼지고 있습니다. 인도에서는 2024년 선거 당시 한 정치인이 AI가 전적으로 생성한 논란의 여지가 있는 발언을 했다는 딥페이크 영상이 공개되어 대중의 혼란을 야기했습니다.

전 세계적 으로 만우절은 일련의 가짜 유명인 사진, 친척으로부터 온 가짜 메시지로 인해 심리적 트라우마를 유발하고 응급 서비스를 방해하는 "AI 놀이터"가 되었습니다.

런던대학교의 연구원인 루이스 그리핀은 "AI 기술의 발전은 범죄 목적으로 악용되거나 사회적 공황을 야기할 위험을 수반한다" 고 경고했습니다.

AI가 만든 경복궁 홍수 장면. (영상에서 발췌, 출처: 유튜브) — AI가 만든 경복궁 홍수 장면. (사진은 영상 에서 발췌, 출처: 유튜브)

교육 및 통제

AI의 오용을 방지하려면 사용자, 특히 젊은 세대에게 기술 윤리에 대한 교육을 강화하는 것이 필수적입니다. AI는 장난감이 아니며, 이를 이용하여 가짜 콘텐츠를 만드는 것은 잠재적으로 해로운 행위로 간주되어야 합니다.

TikTok이나 Snapchat 같은 플랫폼은 더욱 강력한 AI 콘텐츠 필터를 구현하고, 사용자가 가짜 이미지나 사운드를 생성할 때 명확한 경고를 제공해야 합니다. 이를 통해 사용자를 보호할 뿐만 아니라 커뮤니티에 공황을 야기할 위험도 줄일 수 있습니다.

퓨 리서치 센터 조사에 따르면, 대중은 여전히 AI에 대해 많은 우려를 가지고 있지만 전문가들은 더 낙관적인 전망을 내놓았습니다. 그러나 두 집단 모두 AI 남용을 방지하기 위해 명확한 규제가 필요하다는 데 동의합니다. AI를 통제하기 위한 법적 체계와 절차를 구축하는 것은 정부뿐만 아니라 사회 전체의 책임입니다.