AIが生成したテイラー・スウィフトのポルノ写真が誤報の懸念を呼ぶ

ソーシャルメディアサイトX（旧Twitter）では、テイラー・スウィフトが性的に露骨なポーズをとっているAI生成の偽画像が数千万回も再生されました。これらの画像はその後、同プラットフォームから削除されましたが、インターネット上のあらゆるものが永久に消え去るわけではなく、規制の緩い他のプラットフォームでは今後も共有され続けることは間違いありません。

歌手テイラー・スウィフトは、おそらく今日世界で最も有名なスターだ。写真：ゲッティイメージズ

大半の主要ソーシャルメディアプラットフォームと同様に、X のポリシーでは「人々を誤解させたり混乱させたりして危害をもたらす可能性のある合成、操作、または文脈から外れたメディア」の共有を禁止しています。

この事件により、悪意のある人物がAIを利用して誤解を招く画像や動画を作成し、誤った情報を広める可能性があるため、AIに対する懸念が高まっている。

「これは、AIが適切な安全対策なしに悪意ある目的に利用されていることを示す好例です」と、デジタルフォレンジック企業Memeticaを運営するベン・デッカー氏は述べた。「著名人を標的とした悪意あるコンテンツを作成するためにクリエイティブAIツールを悪用する事例が急速に増加し、ソーシャルメディア上でかつてない速さで拡散しています。」

「ソーシャルメディア企業は、コンテンツを監視するための効果的な計画を実際には持っていない」と彼は述べた。例えば、Xはコンテンツモデレーション担当者の大半を解雇し、自動化システムとユーザーからの報告のみに頼っている。Metaも、プラットフォーム上の誤情報やハラスメント対策チームを削減した。

この事件は、ChatGPTやDall-EといったAIツールの爆発的な増加と同時期に起きた。デッカー氏によると、これらのツールに加え、オープンソースプラットフォームにおける検証されていない作業のための安全でないAIモデルも増加しているという。

「これは、AI企業、ソーシャルメディア企業、規制当局、そして市民社会の間で、コンテンツモデレーションとプラットフォームガバナンスにおける大きな亀裂が生じていることを示す兆候です。この亀裂への対処方法について全員が合意しない限り、この種の偽コンテンツは今後も蔓延し続けるでしょう」と彼は付け加えた。

しかしデッカー氏は、世界最大のセレブリティであるテイラー・スウィフトが偽コンテンツの標的となったことで、AI生成画像をめぐる深刻化する問題への注目が高まる可能性があると指摘した。今週、世界中の彼女の膨大なファンベースがソーシャルメディアで怒りを表明し、この問題は最大の懸念事項となった。

テイラー・スウィフトのような影響力のある人物がAIの犠牲になった場合、議員やテクノロジー企業はメディアの圧力を受けて行動を迫られるだろうとデッカー氏は述べた。

この種の技術は、詐欺師が他人のポルノ画像を作成し、悪意を持ってオンラインに投稿するために広く利用されてきました。しかし、テイラー・スウィフトのような有名人が被害に遭って初めて、この種の詐欺技術は広く世間の注目を集めるようになりました。

米国では、9つの州がディープフェイク（人物の肖像を模倣して作成された合成画像）の同意のない作成や共有を禁止する法律を制定した。

ホアイ・フオン氏（CNNによる）

ソース: https://www.congluan.vn/anh-khieu-dam-ai-ve-taylor-swift-va-noi-nhuc-nhoi-thong-tin-sai-lech-post282591.html