일론 머스크의 GrokAI, 포르노 영상 제작

일론 머스크의 xAI 챗봇인 그록(Grok)의 새로운 기능으로 유명인의 포르노 영상을 쉽게 만들 수 있게 되어 큰 화제를 모으고 있다.

그록은 몇 번의 클릭만으로 가수 테일러 스위프트의 포르노 콘텐츠를 제작했습니다. 사진: AOL .

일론 머스크가 소유한 xAI의 AI 비디오 제작 도구 Grok이 논란이 많고 잠재적으로 법적으로 위험한 새로운 모드를 출시했습니다.

Google의 Veo와 OpenAI의 Sora와 같이 엄격한 보안 장치가 내장된 경쟁사와 달리 Grok Imagine은 사용자가 포르노 콘텐츠와 유명인 딥페이크를 쉽게 만들 수 있도록 허용하는데, 이는 기술 플랫폼에 큰 위험입니다.

The Verge 의 테스트에 따르면, Grok을 처음 사용했을 때 가수 테일러 스위프트의 세미 누드 영상이 자동으로 생성되었습니다. 사용자가 요청하지 않았음에도 불구하고 이 도구가 음란물을 생성했다는 점에 주목할 필요가 있습니다.

iOS의 Grok Imagine 기능을 사용하면 사용자가 텍스트에서 이미지를 만든 다음 "사용자 지정", "일반", "재미" 및 "인기"의 네 가지 모드를 사용하여 짧은 비디오 클립으로 바꿀 수 있습니다.

일반적으로 유명인을 재현하는 것을 피하는 다른 많은 이미지 생성기와 달리, "코첼라에서 축하하는 테일러 스위프트"를 만들어 달라는 요청에 그록은 30장이 넘는 이미지를 제공했는데, 그 중 많은 이미지가 가수가 옷을 거의 입지 않은 채 등장했습니다.

그록이 찍은 테일러 스위프트의 노출이 심한 옷차림 사진. 사진: TheVerge.

테스트에 따르면, Grok은 몇 가지 간단한 단계만으로 테일러 스위프트의 사진을 포르노 영상으로 만들 수 있습니다. 사용자가 원하는 사진을 선택하고 "핫" 모드를 활성화하면, 시스템은 자동으로 테일러 스위프트가 란제리를 입고 춤을 추는 영상을 생성합니다.

테일러 스위프트의 이미지는 완전히 사실적이지는 않지만, 충분히 알아볼 수 있습니다. 특히 Grok의 이미지 생성기는 요청 시 누드 콘텐츠를 생성하지 않습니다. 하지만 "핫" 모드로 전환해도 항상 완전한 누드가 생성되는 것은 아니지만, 많은 경우 영상 속 피사체가 자동으로 옷을 벗습니다.

Grok의 이미지 생성기는 아이들의 사실적인 사진을 생성할 수 있습니다. 그러나 사용자가 "핫" 모드를 선택했음에도 불구하고, 이 도구는 부적절한 애니메이션을 생성하지 않았습니다. 모든 테스트에서 Grok은 정상적인 움직임만 추가했는데, 이는 아동 보호 기능이 여전히 작동하고 있음을 시사합니다.

테일러 스위프트의 딥페이크 영상으로 논란에 휩싸인 xAI는 유명인 포르노에 대한 법적 규제가 강화되는 상황에서 더욱 신중했어야 했습니다.

xAI의 사용 정책은 다른 사람의 사진으로 음란물 콘텐츠를 만드는 것을 금지하는 반면, Grok Imagine은 사용자가 Taylor Swift와 같은 유명인의 이미지를 사용하는 것을 방지하는 조치가 없는 것으로 보입니다.

이 도구는 포르노 영상 제작을 위해 특별히 고안된 서비스까지 제공합니다. 특히, 시스템의 연령 확인 절차가 매우 느슨하고, 단 한 번만 나타나며, 신원 확인 없이도 쉽게 우회할 수 있다는 점이 특징입니다.

검열 허점 덕분에 아이폰과 30달러짜리 SuperGrok 구독권만 있으면 누구나 비슷한 수준의 노골적인 영상을 제작할 수 있습니다. 일론 머스크에 따르면 월요일부터 Grok Imagine을 사용하여 3,400만 개 이상의 이미지가 제작되었으며, 이는 이 도구의 사용이 "들불처럼 빠르게 증가하고 있다"는 것을 시사합니다.

출처: https://znews.vn/ai-cua-elon-musk-tao-noi-dung-khieu-dam-cua-nguoi-noi-tieng-post1574660.html