ソーシャルネットワーク「X」は、テイラー・スウィフトのディープフェイクポルノ画像が拡散したことを受け、テイラー・スウィフトの検索をブロックせざるを得なくなった。Xプラットフォームでテイラー・スウィフトを検索すると、エラーメッセージが表示され、ページの再読み込みが求められる。Xの事業運営ディレクター、ジョー・ベナロック氏は、これはあくまでも予備的な措置であり、慎重を期して行われたと述べた。
1月24日、テイラー・スウィフトのAI生成ポルノ画像がXプラットフォーム上で拡散し始めた。ファンたちはディープフェイクを「覆い隠す」ため、彼女の実写写真を次々と投稿した。ファンたちはXに対し、これらの写真を削除し、偽画像を投稿するアカウントを通報するなど、より強力な措置を取るよう求めた。「テイラー・スウィフトを守ろう」というスローガンも、プラットフォーム上でトレンド入りした。
翌日、報告されたアカウントは停止または制限されましたが、X では AI ポルノを見つけるのは依然として簡単でした。
Xは週末に発表した声明で、被写体の許可なく過激な画像を共有することを禁止し、そのようなコンテンツに対してはゼロトレランス（一切容認しない）の方針をとっていると述べた。声明ではスウィフト氏の名前は挙げられていない。
「弊社チームは、特定されたすべての画像を積極的に削除し、投稿したアカウントに対して適切な措置を講じています。今後の違反行為が判明した場合は、直ちに対処し、コンテンツを削除するよう、状況を注視していきます」とXは述べた。
生成AIの進歩により、他人のポルノ画像を偽造することが容易になりました。Xに関しては、イーロン・マスクが2022年に買収した後、多くの検閲規制が緩和され、財務安定化のために数千人の従業員を解雇しました。
テイラー・スウィフトのディープフェイクの出所は不明ですが、NBCニュースによると、偽の有名人ポルノ画像を配布することで知られるウェブサイトから来たことを示す透かしが入れられていました。そのウェブサイトにはAIディープフェイク専用のセクションまでありました。スウィフトのフェイク写真は投稿から19時間以内に2,700万回以上閲覧され、26万件以上の「いいね！」を獲得しました。
この事件を受けて、マイクロソフトCEOのサティア・ナデラ氏は、AIを規制するためのガードレールの強化を求めました。NBCニュースとのインタビューで、ナデラ氏は、より安全なコンテンツが制作されるよう、この新興技術を監視する責任があると主張しました。
スウィフトのディープフェイクに関する質問に答えたマイクロソフトCEOは、 「はい、行動を起こさなければなりません。安全なオンラインの世界は私たち全員にとって有益だと思います。コンテンツ制作者と消費者の双方にとって、完全に安全でないオンラインの世界を望む人はいないでしょう。ですから、この問題には迅速に行動する必要があると思います」と述べた。
404 Mediaによると、Telegramのチャットグループが、MicrosoftのAI生成ツール「Designer」を使ってテイラーの写真を偽造したと報告したという。ナデラ氏は404 Mediaの情報について直接コメントしなかったが、同ニュースサイトに送った声明の中で、Microsoftは報告を調査中であり、適切な措置を講じると述べた。
バイデン政権は、テイラー・スウィフトのポルノ・ディープフェイクの拡散を「憂慮すべき」とし、ソーシャルメディア企業に対し、虚偽の情報やセンシティブな画像の同意なしの拡散を防ぐ規制の施行における「重要な役割」を検討するよう求めた。
2023年10月、バイデン大統領は新興技術とそのリスクの規制に重点を置いたAIに関する大統領令に署名した。
（ザ・ヒル、WSJによると）
[広告2]
ソース
コメント (0)