オーストラリアの新しいAIツールが有害なディープフェイク画像と戦う

シドニーのVNA特派員によると、モナシュ大学とオーストラリア連邦警察（AFP）は、犯罪者がAIを使って有害なディープフェイク画像や児童虐待コンテンツを作成するのを遅らせ、防止するための画期的な新しい人工知能（AI）ツールの開発に協力している。

Silvererと呼ばれるこのツールは、オーストラリア連邦警察（AFP）とモナシュ大学による戦略的研究協力「法執行とコミュニティの安全のためのAIラボ（AiLECS）」の成果です。AiLECSは、複雑な法執行とセキュリティの課題にAIを適用することを目的としています。現在、パイロットフェーズにあるこのツールは、モナシュ大学博士課程のエリザベス・ペリー氏のリーダーシップの下、開発されています。

モナッシュ大学によると、このプロジェクトでは、この新しいツールの中核技術として「データポイズニング」と呼ばれる手法を採用しています。この手法では、オンラインのソースデータを微妙に改変することで、AIや機械学習（ML）モデルによる画像や動画の作成、操作、悪用を大幅に困難にします。

AI ツールは大量のソースデータを必要とするため、データポイズニングによりモデルは不正確、歪んだ、または破損した結果を生成することになり、犯罪者が作成した偽の画像や動画の検出が容易になります。

博士課程の学生であるペリー氏によると、Silvererを使えば、ソーシャルメディアやインターネットにアップロードする前に画像を編集できるという。これにより、AIモデルを欺くためにピクセルが変更され、出力画像が歪んだり、「歪み」で覆われたり、あるいは完全に認識不能になったりする。

AiLECSの共同ディレクターでデジタルフォレンジックの専門家であるキャンベル・ウィルソン准教授は、オープンソース技術を使った偽造画像や悪意のある画像の作成は、その使いやすさゆえにより深刻な問題になりつつあると述べた。

AFP通信は、犯罪者がAI技術を悪用して大量の偽ポルノをネット上に制作、共有する中、AIで生成された児童虐待コンテンツが増加していることを記録した。

モナッシュ大学は、シルバーラー・プロジェクトの全体的な目標は、ソーシャルメディア上で個人情報を保護したいオーストラリア国民にとって使いやすい技術を開発することだと述べた。現在、このツールのパイロット版をオーストラリア連邦警察（AFP）内での使用に向けて検討している。

（TTXVN/ベトナム+）

出典: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp