Google: Gemini AI ソフトウェアが偽のテロコンテンツの作成に悪用されている。

グーグルはオーストラリア当局に送った声明の中で、過去1年間で、同社の人工知能（AI）ソフトウェア「ジェミニ」が偽のテロリストや暴力的過激派のコンテンツを作成するために使用されていることに関して世界中で258件の苦情を受けており、ジェミニが児童虐待コンテンツの作成に悪用されていると警告するユーザー報告が86件あったと述べた。

オーストラリア電子安全委員会（ESSC）は、Googleの報告書は、ユーザーがどのようにテクノロジーを悪用して悪質で違法なコンテンツを作成するかについての洞察を世界で初めて提供するものであると評価した。

サイバーセキュリティ委員会のジュリー・インマン・グラント委員は、これはAI製品を開発する企業が有害な偽造コンテンツの作成を防ぐための安全策を構築し、その有効性をテストすることの重要性を強調するものだと述べた。

Googleは、新たにアップロードされた画像と既存の画像を自動で照合するマッチング機能を用いて、Geminiが作成した児童虐待コンテンツを特定・削除しました。しかし、オーストラリア電子安全委員会（ESC）は、GoogleがGeminiが作成したテロリストや暴力的過激主義コンテンツを削除する際に、同じシステムを使用していないと述べています。

現在のオーストラリアの法律では、テクノロジー企業は電子セキュリティ委員会に危害軽減の取り組みに関する情報を定期的に提供しなければ罰せられる。

最近では、企業は2023年4月から2024年2月までの期間についてこの委員会に情報を報告することが義務付けられました。オーストラリア電子安全委員会は、報告に不備があったとして、TelegramとTwitter（後にXに改名）に罰金を科しました。

Xは既に61万500豪ドル（38万2000米ドル）の罰金に対して一度控訴しているが、このソーシャルメディアプラットフォームは再び控訴すると予想されている。Telegramも、このチャンネルに課された罰金に対して控訴する予定だ。

2022年後半、米国企業OpenAIの「センセーショナルな」チャットボットChatGPTが世間の注目を集めて以来、世界中の規制当局は、悪意のある行為者がAIを悪用してテロを扇動したり、詐欺を働いたり、偽のポルノコンテンツを作成したり、その他の虐待行為に従事したりしないようにするための、より効果的な対策を求めています。

出典: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html