マイクロソフトは、生成 AI サービスの保護を回避して、センシティブな有名人の写真やその他のポルノなどの悪意のあるコンテンツを作成できる国際的なサイバー犯罪者ネットワークを特定しました。

ハッカーは公開ソースからサービス資格情報を収集し、それを使用して Microsoft の Azure OpenAI などの生成 AI サービスにアクセスしました。

その後、AI 製品の機能を改変し、他の犯罪組織にアクセス権を販売して、悪意のあるコンテンツの作成方法を指導します。

ハッカー d3sign/Moment RF
マイクロソフトは、AIサービスを「克服」するためのツールを販売しているハッカー4名を公表した。写真：d3sign/Moment RF

Microsoft によると、これらの人物とは、イラン出身の Arian Yadegarnia (別名 Fiz)、イギリス出身の Alan Krysiak (別名 Drago)、香港 (中国) 出身の Ricky Yuen (cg-dot)、およびベトナム出身の Phat Phung Tan (別名 Asakuri) です。

4人全員はStorm-2139サイバー犯罪ネットワークに所属しているとされています。他の2人は米国出身ですが、マイクロソフトは捜査の機密保護のため、彼らの身元を公表していません。

Microsoftによると、Storm-2139は、作成者、ベンダー、エンドユーザーという3つの主要なグループに分かれています。作成者は生成AIサービスを悪用するための違法ツールを作成し、ベンダーはそれを改変してエンドユーザーに異なる価格とサービスで提供します。そして最終的に、ユーザーはこれらのツールを使用して、ポルノスターやポルノ画像など、悪質なコンテンツを作成します。

この情報は、生成AIが悪用され、有名人や一般人の偽画像、さらには児童ポルノが作成されるのではないかという懸念が高まる中、マイクロソフトによって公開された。

Microsoft や OpenAI などの企業はこうした行為を禁止し、技術的な対策を講じて防止していますが、上記のようなハッカー集団は依然として「ルールを回避する」方法を見つけています。

マイクロソフトのデジタル犯罪対策ユニット（DCU）の副法務顧問スティーブン・マサダ氏によると、同社は虐待的な画像が被害者に与える深刻かつ永続的な影響を認識しているという。

同社は、プラットフォームにAI安全対策を組み込み、違法で有害なコンテンツからサービスを保護することで、ユーザーを保護することに尽力しています。

2024 年 12 月、DCU は、米国法および Microsoft のポリシーに違反する行為に関与した身元不明の個人 10 名に対して、バージニア州東部地区 (米国) で訴訟を起こしました。

裁判所は一時的な差し止め命令と仮差し止め命令を出し、マイクロソフトが犯罪活動に使用されているウェブサイトを差し押さえ、同グループの活動能力を妨害することを認めた。

注目すべきは、この行動の後、Storm-2139 に属していると疑われるメンバーの一部が Microsoft のアドバイザーに電子メールを送り、お互いを非難したことです。

「今回の対応はマイクロソフトの法的措置の影響を強調するものであり、インフラを掌握し、メンバーに対する強力な抑止効果を生み出すことで、サイバー犯罪ネットワークを効果的に阻止できる方法を示している」とマイクロソフトは2月27日のブログ投稿で述べた。

（マイクロソフト、ブルームバーグによると）