イーロン・マスクのGrokAIがポルノクリップを作成

イーロン・マスクのxAIチャットボット「Grok」の新機能により、有名人のポルノビデオを簡単に作成できるようになり、大きな騒動を巻き起こしている。

Grokは、わずか数回のクリックで歌手テイラー・スウィフトのポルノコンテンツを作成しました。写真： AOL

イーロン・マスク氏が所有するxAIのAI ビデオ作成ツールGrokが、物議を醸し、法的リスクを伴う可能性のある新しいモードをリリースした。

厳格な安全対策が組み込まれているGoogleのVeoやOpenAIのSoraなどの競合製品とは異なり、Grok Imagineでは、ユーザーがポルノコンテンツと有名人のディープフェイクを簡単に作成できてしまうため、テクノロジープラットフォームにとって大きなリスクとなっている。

The Vergeによるテストによると、Grokが初めて使用された際、歌手テイラー・スウィフトのセミヌード動画が自動作成された。注目すべきは、ユーザーがリクエストしていなかったにもかかわらず、このツールがポルノコンテンツを作成していた点だ。

iOS の Grok Imagine 機能を使用すると、ユーザーはテキストから画像を作成し、「カスタム」、「通常」、「面白い」、「ホット」の 4 つのモードでそれを短いビデオ クリップに変換できます。

通常は有名人の再現を避ける他の多くの画像生成ツールとは異なり、「コーチェラで祝うテイラー・スウィフト」を作成するように依頼されたとき、Grok は 30 枚以上の画像を提供し、その多くは露出度の高い衣装を着た歌手を描いたものだった。

Grokが撮影した、露出度の高い衣装を着たテイラー・スウィフトの画像。写真： TheVerge。

テストによると、Grokはわずか数ステップでテイラー・スウィフトの写真をポルノ動画に変換できるという。具体的には、ユーザーが利用可能な写真を選択し、「ホット」モードを有効にすると、システムが自動的にテイラー・スウィフトが服を脱ぎ、ランジェリー姿で踊る動画を作成する。

テイラー・スウィフトの画像は、完全に本物ではないものの、十分に認識できるレベルです。注目すべきは、Grokの画像ジェネレーターは、リクエストに応じてヌードコンテンツを生成するわけではないということです。ただし、「ホット」モードに切り替えても必ずしもフルヌードが生成されるわけではありませんが、多くの場合、動画の被写体は自動的に脱ぎます。

Grokの画像ジェネレーターは、リアルな子供の写真を生成できます。しかし、ユーザーが「ホット」モードを選択したにもかかわらず、ツールは不適切なアニメーションの作成を拒否しました。すべてのテストにおいて、Grokは通常の動きのみを追加したため、児童保護メカニズムがまだ機能していることが示唆されます。

テイラー・スウィフトのディープフェイクをめぐる論争に巻き込まれたxAI社は、特に有名人のポルノに対する法的規制が厳しくなっていることを考えると、もっと慎重になるべきだった。

xAI の利用ポリシーでは他人の写真からポルノコンテンツを作成することを禁止しているが、Grok Imagine ではテイラー・スウィフトのような有名人の画像をユーザーが使用することを防ぐための対策を講じていないようだ。

このツールは、ポルノ動画の作成に特化したサービスも提供しています。特に注目すべきは、年齢確認が非常に緩く、一度しか行われず、身分証明書なしで簡単に回避できることです。

検閲の抜け穴を突くことで、iPhoneと30ドルのSuperGrokサブスクリプションがあれば誰でも、同様に露骨な動画を作成できます。イーロン・マスク氏によると、月曜日以降、Grok Imagineを使用して3400万枚以上の画像が作成されており、このツールの利用が「野火のように増加している」ことを示しています。

出典: https://znews.vn/ai-cua-elon-musk-tao-noi-dung-khieu-dam-cua-nguoi-noi-tieng-post1574660.html