Grokチャットボットがインターネット上での誤情報の拡散を助長する可能性があるとの懸念が生じている。

イーロン・マスクのチャットボットGrokは、ユーザーがテキストからAI画像を作成し、Xに投稿できるようにし始めた。これには、ドナルド・トランプ元米大統領やカマラ・ハリス米副大統領などの政治家の偽画像も含まれる。

他の主流のAI画像キャプチャツールとは異なり、マスク氏のGrokは規制が少ないようだ。例えば、 CNNのテストでは、Grokは政治家の偽画像を簡単に生成し、有権者を誤解させることができた。

Grokチャットボットが作成したイーロン・マスク氏の画像。（出典：CNN）

Xユーザーの中には、Grokが作成した画像を投稿する者もおり、そこには有名人が薬物を使用している様子、漫画のキャラクターが殺人を犯している様子、ビキニ姿の女性を性的に描写した画像などが含まれていた。

CNNによると、Grokは、特に米国大統領選挙が近づいている中で、AIがインターネット上の誤情報の急増を助長する可能性があるという懸念をさらに強めている。

議員、社会活動団体、そしてテクノロジー業界のリーダーたちは警鐘を鳴らし、こうしたツールの悪用は有権者に混乱と混迷をもたらす可能性があると警告している。

世界有数のAI企業の多くは、AIベースの画像生成ツールが政治的な偽情報の作成に利用されることを防ぐためのポリシーを導入しているが、研究者たちは、ユーザーがこうしたポリシーを回避する方法を見つける場合があることを発見している。

OpenAI、Meta、Microsoftなどの複数の企業は、自社のAIを用いて作成された画像を視聴者が識別できるように、技術やラベルを使用している。

YouTube、TikTok、Instagram、Facebookなどのソーシャルメディアプラットフォームも、AIが生成したコンテンツをユーザーのフィードに表示する際に、技術を用いて自動的に検出したり、ユーザーがそのようなコンテンツを投稿する際に識別を促したりしている。

8月16日、AIがGrokに何らかの制限を課したようだ。このツールは現在、政治候補者や人気漫画キャラクターが暴力行為に及ぶ画像を生成することを拒否している。

出典: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-บน-internet-283068.html