AI가 소셜 미디어의 틈새 콘텐츠를 '오염'시키고 있다

AI가 등장하면서 휴대폰을 스크롤하는 경험은 더 이상 예전과 같지 않습니다. 사진: Axios .

지난주, AI가 만든 트램펄린 위에서 토끼들이 뛰어노는 영상이 소셜 미디어를 뜨겁게 달궜습니다. 많은 사람들이 여전히 진짜라고 믿고 있는 이 영상은 AI 모델이 현실 세계를 시뮬레이션하는 이미지를 만드는 데 얼마나 정교한지를 보여줍니다.

더욱이 다른 소규모 커뮤니티 대표자들도 AI 콘텐츠가 소셜 네트워크의 잘 알려지지 않은 틈새시장까지 침투하고 있다고 지적했습니다. 이러한 등장은 사용자 경험을 저해하고 휴대폰 스크롤의 즐거움을 감소시켰습니다.

AI 클립 감지 챌린지

이 영상은 인스타그램, 페이스북, 틱톡 등 여러 플랫폼에서 널리 공유되어 천만 건 이상의 상호작용을 기록했습니다. 야경 영상이기 때문에 화질이 매우 좋지 않아 마치 가정용 CCTV처럼 촬영된 것처럼 보여 시청자들이 진위 여부를 구분하기 어렵습니다.

일부 사람들은 이전에도 비슷한 영상이 게시되었지만 곰이나 족제비 같은 다른 동물이 등장하는 경우가 있어서 해당 영상이 AI라는 것을 알아냈습니다. 하지만 대부분의 시청자는 진실을 알게 되면 상당히 혼란스러워하고 놀라곤 합니다.

연구자들에 따르면, 많은 사람들이 스트레스 해소를 위해 귀여운 동물 영상을 시청합니다. 영상을 시청하면 뇌에서 도파민과 옥시토신이 분비되어 행복감을 느끼고 정신 건강을 증진시킵니다.

AI가 창조한 동물들이 주목을 받고 있다. 사진: 인터넷.

틱톡 사용자 올리비아 데이튼은 자신의 게시물에서 해당 영상을 최소 다섯 명의 친척과 공유했다고 밝혔습니다. 데이튼은 "오빠가 이 AI 영상을 확인한 후, 나이가 들면 첨단 사기꾼들에게 더 쉽게 속을 것 같다는 생각이 들어요."라고 말했습니다.

그녀의 영상은 5만 4천 개가 넘는 '좋아요'를 받았고, 많은 공감 댓글이 달렸습니다. 한 사람은 곰 영상에 자신도 속았다며 그녀를 위로했습니다. 또 다른 사람은 영상을 공유한 남편이 AI가 만든 영상이라는 사실을 알고 화가 났다고 댓글을 남겼습니다.

그물 주위를 몰래 돌아다니다

여기서 멈추지 않고, AI 콘텐츠는 농업이나 수공예와 같은 소셜 미디어의 작은 틈새시장까지 침투하기 시작했습니다. 많은 사람들이, 비록 단순히 관심이 있다고 하더라도, ChatGPT에서 받은 잘못된 농업 조언을 실수로 퍼뜨리곤 합니다.

AI 챗봇과 앱에서 생성되는 식물 관리에 대한 잘못된 정보는 흔한 일입니다. Colonial Gardens의 인게이지먼트 매니저인 케이시 슈미트 알에 따르면, 한 고객이 찾아와 존재하지도 않는 특이한 식물에 대해 문의했습니다. 온라인 검색을 해보니 여러 웹사이트에서 해당 식물 사진만 발견되었을 뿐, 구체적인 관리 정보는 없었습니다.

식물 관리는 오랫동안 민간요법과 사이비 과학과 연관되어 왔다고 Ahl은 설명합니다. 그녀는 종종 학술 연구와 원예 가이드를 활용하여 블로그 게시물을 작성하지만, 챗봇이 어디에서 정보를 얻는지는 불분명합니다.

사용자의 아이디어, 라이프스타일, 틈새 트렌드를 추천하는 플랫폼인 핀터레스트 역시 AI 콘텐츠의 공격을 받았습니다. 악의적인 행위자들은 알고리즘을 속여 해당 페이지에 게재되는 광고로 수익을 창출하기 위해 일련의 AI 게시물을 제작했습니다.

사용자 경험이 심각하게 저하되어 진정한 창의성과 영감을 제한하고 있습니다. 한 Reddit 댓글 작성자는 검색 결과에서 발견된 콘텐츠 추천의 80%가 AI 계정에서 나온 것이라며 Pinterest 사용을 중단했다고 밝혔습니다.

많은 사람들이 진위 여부를 우려하는 가운데, 유명 패션 브랜드가 AI를 공개적으로 활용했습니다. 보그(Vogue) 8월호는 AI가 전적으로 생성한 게스(Guess) 브랜드 광고 사진을 사용했습니다. 모델이 실제 사람이 아닌 것은 보그 역사상 처음입니다.

AI 모델이 게스 브랜드를 홍보하고 있다. 사진: 보그.

같은 맥락에서 온라인 음악 플랫폼인 스포티파이는 AI가 고인 아티스트를 사칭하는 노래를 가족이나 레이블의 허가 없이 업로드하도록 허용했다는 비난을 받고 있습니다. 스포티파이 플랫폼에서 수백만 스트리밍을 기록한 일부 밴드의 음원이 갑자기 AI로 판명되면서 많은 사람들이 자신이 시청하는 콘텐츠에 대해 혼란스러워하고 있습니다.

두 브랜드 모두 크리에이티브 분야에서 인간의 가치를 강조하는 보이콧에 직면해 있습니다. 많은 보그 독자들이 브랜드의 "패션 영혼"이 사라지고 있다며 팔로우를 취소했습니다. 스포티파이의 일부 유명 아티스트들은 진정한 아티스트에게 음악의 가치를 되돌려주기 위해 플랫폼에서 자신의 음악을 삭제했습니다.

출처: https://znews.vn/ai-vay-ban-noi-dung-ngach-tren-mang-xa-hoi-post1574609.html