オーストラリア電子安全委員会は、グーグルの報告書は、ユーザーがどのようにテクノロジーを悪用して有害で違法なコンテンツを作成できるかについて世界初の知見を提供したと述べた。
eSafetyコミッショナーのジュリー・インマン・グラント氏は、これはAI製品を開発する企業が、こうした種類の有害で偽造されたコンテンツの作成を防ぐための安全策を構築し、その有効性をテストすることの重要性を浮き彫りにするものだと述べた。
Googleは、マッチメイキング（新しくアップロードされた画像と既存の画像を自動で照合するシステム）を用いて、Geminiが作成した児童虐待コンテンツを特定・削除した。しかし、オーストラリアeSafety委員会は、GoogleはGeminiが作成したテロリストや暴力的過激主義コンテンツの削除には同じシステムを使用していないと述べている。
現在のオーストラリアの法律では、テクノロジー企業は被害軽減の取り組みに関する情報を定期的にeSafety委員会に提供しなければ罰せられる。
直近では、企業は2023年4月から2024年2月の間に委員会に情報を報告する必要がある。オーストラリアeSafety委員会は、報告における欠陥を理由にTelegramとTwitter（後にXに改名）に罰金を科した。
Xは61万500豪ドル（約38万2000ドル）の罰金に対する控訴で既に敗訴しているが、同ソーシャルネットワークは再控訴を計画している。Telegramも同チャンネルに対する罰金に対して控訴する予定だ。
2022年後半にOpenAI（米国）の人気チャットボットChatGPTが爆発的に普及して以来、世界中の規制当局は、悪意のある人物がAIを悪用してテロを扇動したり、詐欺を働いたり、偽ポルノを作成したり、その他の虐待行為をしたりしないようにするための、より効果的な対策を求めています。
出典: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html
コメント (0)