일요일 오후부터 소셜 네트워크 X(구 트위터)의 검색창에 "테일러 스위프트"라는 키워드를 입력하면, "죄송합니다. 오류가 발생했습니다."라는 메시지가 표시됩니다.
X의 사업 운영 책임자인 조 베나로크는 "이것은 우리가 이 지역의 안전을 최우선으로 여기고 있기 때문에 내린 일시적인 조치입니다."라고 말했습니다.
테일러 스위프트가 2024년 1월 7일 미국 캘리포니아주 베벌리힐스에서 열린 제81회 골든 글로브 시상식에 참석했다. 사진: AFP
1월 25일, 소셜 네트워크 X는 테일러 스위프트의 딥페이크 AI 포르노 이미지를 공개했습니다. 뉴욕 타임스의 보도에 따르면, 인공지능(AI)이 생성한 이 이미지는 다음 날 계정이 잠기기 전까지 최대 4,700만 건의 조회수를 기록했습니다.
X는 가짜 이미지를 공유하는 다른 여러 계정을 비활성화했지만, 해당 이미지는 곧 다른 소셜 미디어 플랫폼으로 확산되었습니다. "테일러 스위프트를 보호하세요"라는 문구는 X에서 빠르게 유행어가 되었습니다.
이 스캔들로 인해 백악관은 온라인 괴롭힘 피해자들을 보호하기 위한 법안 마련을 촉구하며 우려를 표명했습니다. 카린 장피에르 백악관 대변인은 금요일(1월 26일) 가짜 이미지가 "경악스럽다"고 말하며 소셜 미디어 기업들은 이러한 허위 정보의 확산을 방지할 책임이 있다고 강조했습니다.
미국배우조합(SAG-AFTRA) 또한 이 문제에 대해 다음과 같은 성명을 발표했습니다. "가짜 이미지, 특히 성적인 이미지를 타인의 동의 없이 제작하고 배포하는 것은 불법이어야 합니다. 우리 사회는 이러한 기술을 통제할 권리가 있지만, 너무 늦기 전에 지금 당장 행동해야 합니다."
인터넷에 가짜 유명인 포르노 이미지가 유통되는 문제는 포토샵이 등장한 이래로 계속되어 왔습니다. 하지만 AI 붐이 일어나면서, 이 기술이 믿을 수 없을 만큼 사실적인 가짜 이미지를 만들어낼 수 있는 놀라운 능력에 대한 우려가 커졌습니다.
미국에서는 현재 9개 주에서만 딥페이크(deepfake)의 무단 제작 및 공유를 금지하는 법률이 있습니다. 딥페이크는 주로 포르노나 선거에 사용하기 위해 특정 인물의 모습을 모방하여 만든 합성 이미지입니다. 하지만 AI의 영향에 대한 명확한 규제는 없습니다.
Hoai Phuong (CNN, Reuters, Billboard에 따르면)
[광고_2]
원천
댓글 (0)