ソーシャルネットワーク「X」は、テイラー・スウィフトのディープフェイクポルノ画像が拡散したことを受け、テイラー・スウィフトの検索をブロックせざるを得なくなった。Xプラットフォームでテイラー・スウィフトを検索すると、エラーメッセージが表示され、ページの再読み込みが求められる。Xの事業運営ディレクター、ジョー・ベナロック氏は、これは暫定的な措置であり、慎重に進めていると述べた。
1月24日、AIが生成したテイラー・スウィフトのポルノ画像がXプラットフォーム上で拡散し始めた。ファンたちはディープフェイクを「覆い隠す」ため、彼女の実写写真を次々と投稿した。ファンたちはXに対し、これらの写真を削除し、偽画像を投稿するアカウントを報告するなど、より強力な措置を取るよう求めた。「テイラー・スウィフトを守ろう」というスローガンも、プラットフォーム上でトレンド入りした。
翌日、報告されたアカウントは停止または制限されましたが、X では AI ポルノを見つけることは依然として簡単でした。
Xは週末に発表した声明で、被写体の許可なく過激な画像を共有することを禁止し、そのようなコンテンツに対してはゼロトレランス（一切容認しない）の方針をとっていると述べた。声明ではスウィフト氏の名前は挙げられていない。
「弊社チームは、特定されたすべての画像を積極的に削除し、投稿したアカウントに対して適切な措置を講じています。状況を注視し、さらなる違反があれば直ちに対処し、コンテンツを削除していきます」とXは述べた。
生成AIの進歩により、他人のポルノ画像を偽造することが容易になりました。Xは2022年にイーロン・マスク氏の管理下に入った後、多くの検閲規制が緩和され、マスク氏は財政安定化のために数千人の従業員を解雇しました。
NBCニュースによると、テイラー・スウィフトのディープフェイク画像の出所は不明だが、有名人の偽ポルノ画像を配布することで知られるウェブサイトから来たことを示す透かしが入れられていたという。このウェブサイトには、AIディープフェイク専用のセクションもある。スウィフトの偽写真は投稿から19時間で2,700万回以上閲覧され、26万件以上の「いいね！」を獲得した。
この事件を受けて、マイクロソフトCEOのサティア・ナデラ氏は、AIを規制するためのガードレールの強化を求めました。NBCニュースとのインタビューで、ナデラ氏は、より安全なコンテンツが制作されるよう、この新興技術を監視する責任があると主張しました。
スウィフトのディープフェイクに関する質問に答えたマイクロソフトCEOは、 「はい、私たちは行動を起こさなければなりません。安全なオンラインの世界は私たち全員にとって有益だと思います。コンテンツ制作者と消費者の両方にとって完全に安全でないオンラインの世界を望む人は誰もいないでしょう。ですから、この問題には迅速に行動する必要があると思います」と述べた。
404 Mediaによると、Telegramのチャットグループが、MicrosoftのAI生成ツール「Designer」を使ってテイラーの写真を偽造したと報告したという。ナデラ氏は404 Mediaの情報について直接コメントしなかったが、同ニュースサイトに送った声明の中で、Microsoftは報告を調査中であり、適切な措置を講じると述べた。
ジョー・バイデン米大統領の政権は、テイラー・スウィフトのポルノ・ディープフェイクの拡散を「憂慮すべき」とし、ソーシャルメディア企業に対し、虚偽の情報やセンシティブな画像の同意なしの拡散を防ぐ規制の施行における「重要な役割」を検討するよう求めた。
2023年10月、バイデン大統領は新興技術とそのリスクの規制に重点を置いたAIに関する大統領令に署名しました。
（The Hill、WSJによると）
[広告2]
ソース
コメント (0)