AI가 소셜 미디어의 틈새 콘텐츠를 '오염'시키고 있다

AI가 등장하면서 휴대폰을 스크롤하는 경험은 더 이상 예전과 같지 않습니다. 사진: Axios .

지난주 소셜 미디어는 AI가 만든 트램펄린 위에서 토끼들이 뛰어노는 영상을 두고 논란으로 들끓었습니다. 많은 사람들이 여전히 진짜라고 믿고 있는 이 영상은 AI 모델이 현실 세계를 시뮬레이션하는 이미지를 생성하는 데 얼마나 정교한지를 보여줍니다.

더 나아가, 다른 소규모 커뮤니티 대표자들도 AI 콘텐츠가 소셜 네트워크의 잘 알려지지 않은 틈새시장까지 침투하고 있다고 지적했습니다. 이러한 등장은 사용자 경험을 저해하고 휴대폰 스크롤의 즐거움을 감소시켰습니다.

AI 클립 감지 챌린지

이 영상은 인스타그램, 페이스북, 틱톡 등 다양한 플랫폼에서 널리 공유되어 천만 건 이상의 반응을 얻었습니다. 야경 영상은 마치 가정용 CCTV처럼 화질이 매우 나빠 시청자들이 진짜와 가짜를 구분하기 어렵습니다.

일부 사람들은 이전에도 비슷한 영상이 게시되었지만 곰이나 족제비 등 다른 동물이 등장하는 경우가 있어서 해당 영상이 AI라는 사실을 알아냈습니다. 하지만 대부분의 시청자는 진실을 알게 되면 상당히 혼란스러워하고 놀랍니다.

연구자들에 따르면, 많은 사람들이 스트레스 해소를 위해 귀여운 동물 영상을 시청합니다. 영상을 시청하면 뇌에서 도파민과 옥시토신이 분비되어 행복감을 느끼고 정신 건강을 증진시킵니다.

AI가 만든 동물들이 주목을 받고 있다. 사진: 인터넷.

틱톡 사용자 올리비아 데이튼은 게시물에서 이 영상을 최소 다섯 명의 친척과 공유했다고 밝혔습니다. 데이튼은 "오빠가 이 AI 영상을 확인한 후, 나이가 들면 첨단 사기에 더 쉽게 속을 것 같다는 생각이 들었어요."라고 말했습니다.

그녀의 영상은 5만 4천 개가 넘는 '좋아요'를 받았고, 많은 공감 댓글이 달렸습니다. 한 댓글러는 자신도 곰 영상에 속았다며 그녀를 위로했습니다. 또 다른 댓글러는 영상을 공유한 남편이 AI가 만든 영상이라는 사실을 알고 화가 났다고 덧붙였습니다.

사이버 세계에 침투하다

여기서 멈추지 않고 AI 콘텐츠는 농업이나 수공예와 같은 소셜 네트워크의 작은 틈새시장까지 침투하기 시작했습니다. 많은 사람들이, 비록 관심이 있더라도, ChatGPT에서 받은 잘못된 농업 조언을 실수로 퍼뜨리곤 합니다.

AI 챗봇과 앱에서 생성되는 식물 관리에 대한 잘못된 정보는 흔한 일입니다. Colonial Gardens의 관리 관리자인 케이시 슈미트 알에 따르면, 한 고객이 찾아와 존재하지도 않는 이상한 식물에 대해 문의했습니다. 온라인 검색을 해보니 여러 웹사이트에서 해당 식물 사진만 찾을 수 있었고, 구체적인 관리 정보는 없었습니다.

식물 관리는 오랫동안 민간요법과 사이비 과학과 연관되어 왔다고 Ahl은 설명합니다. 그녀는 또한 학술 연구와 원예 가이드를 블로그 게시물에 자주 활용하지만, 챗봇이 어디에서 정보를 얻는지는 불분명합니다.

사용자의 아이디어, 라이프스타일, 틈새 트렌드를 추천하는 플랫폼인 핀터레스트 역시 AI 콘텐츠의 공격을 받았습니다. 악의적인 행위자들은 알고리즘을 속여 해당 페이지에 게재되는 광고로 수익을 창출하기 위해 일련의 AI 게시물을 제작했습니다.

사용자 경험이 심각하게 저하되어 진정한 창의성과 영감을 제한하고 있습니다. 한 Reddit 댓글 작성자는 검색 결과 추천의 80%가 AI 계정에서 나오는 바람에 Pinterest 사용을 중단했다고 말했습니다.

많은 사람들이 진위 여부를 우려하는 가운데, 유명 패션 브랜드가 AI를 공개적으로 활용했습니다. 8월호에서 보그(Vogue) 잡지는 AI가 전적으로 생성한 게스(Guess) 브랜드 광고 사진을 사용했습니다. 잡지 역사상 모델이 실제 사람이 아닌 것은 이번이 처음입니다.

AI 모델이 게스 브랜드를 광고하고 있다. 사진: 보그.

같은 맥락에서 온라인 음악 플랫폼인 스포티파이는 AI가 고인이 된 아티스트를 사칭하는 노래를 가족이나 음반사의 허가 없이 업로드하도록 허용했다는 비난을 받고 있습니다. 스포티파이 플랫폼에서 수백만 스트리밍을 기록한 일부 밴드의 음원이 갑자기 AI로 밝혀지면서 많은 사람들이 자신이 시청하는 콘텐츠에 대해 혼란스러워하고 있습니다.

두 브랜드 모두 크리에이티브 분야에서 인간의 가치를 강조하며 보이콧에 직면해 있습니다. 많은 보그 독자들이 브랜드의 "패션 영혼"이 사라지고 있다며 팔로우를 취소했습니다. 스포티파이의 일부 유명 아티스트들은 진정한 아티스트에게 음악을 되돌려주기 위해 플랫폼에서 자신의 음악을 삭제했습니다.

출처: https://znews.vn/ai-vay-ban-noi-dung-ngach-tren-mang-xa-hoi-post1574609.html