犯罪者が「ダークAI」を保有する危険性

サイバー攻撃向けに特別に訓練された AI ツールはより効果的になり、対抗がより複雑になっています。

AIはサイバー犯罪者にとって強力なアシスタントになりつつある。写真： Cato Networks

一般ユーザーだけでなく、サイバー犯罪者もAIを活用し、これまで以上に高度な攻撃を仕掛けるようになっています。ハッカーを支援するAIツールは、わずか2年足らずで機能と効果の面で急速に進化しました。

カスペルスキー アジア・ジャパン（APJ）のディレクター、エイドリアン・ハイア氏は、ダークAIがマルウェアの急速な増加に大きな役割を果たしていると述べています。カスペルスキーの統計によると、毎日約50万個のマルウェアが作成されています。

「ダークAIはダークウェブのようなもので、私たちが日常的に使っているウェブのダークサイドだ」とヒア氏は語った。

カスペルスキーのアジア太平洋（APAC）および中東、アフリカ、トルコ（META）地域担当グローバル調査分析チーム（GReAT）責任者セルゲイ・ロズキン氏は、ダークAIはChatGPTやジェミニなどの従来のAIチャットボットとはまったく異なると述べています。

ユーザーが使い慣れている AI は、ユーザーを支援して正当なタスクを実行するために作成されており、マルウェアの作成や違法行為の実行を指示されても、ユーザーが目的を達成することは困難です。

一方、ダークAIは「サイバー空間で悪意のある活動を行うためだけに作られたLLM（Lyric Management Log）またはチャットボットです」とロズキン氏は述べた。これらのAIは、マルウェア、フィッシングコンテンツ、さらにはサイバー犯罪者が詐欺に利用するための完全なフレームワークを生成するように訓練されている。

信頼できるハッカーだけが利用できる隠しAIシステム

ロズキン氏が「ブラックハットGPT」または「ブラックハットGPT」と呼ぶこれらのシステムは、2023年から存在している。カスペルスキーの担当者によると、当時のAIは非常に基本的なもので、非常に悪質なコードを作成し、すぐに検出できたという。

しかし、近年のブラックハットGPTシステムはより完成度が高くなり、悪意のあるコードや不正なコンテンツの作成から、音声や動画の偽装まで、様々な機能を提供できるようになりました。WormGPT、DarkBard、FraudGPTなどの名前も挙げられます。

カスペルスキーの研究員セルゲイ・ロズキン氏は、ダークAIの品質がますます向上していると警告している。写真：ミン・コイ

カスペルスキー社が発見した最も衝撃的な事実の一つは、信頼できるサイバー犯罪者だけがアクセスできる非公開のダークAIシステムの存在でした。こうした非公開AIシステムにアクセスするには、ハッカーはアンダーグラウンドフォーラムで評判を高める必要があります。

「こうしたシステムにアクセスできるようになるのは、信頼されている場合のみです。こうしたアシスタントにアクセスするには、アンダーグラウンドフォーラムで評判を築く必要があります」とカスペルスキーの専門家は述べています。

ロズキン氏によると、カスペルスキーには「デジタル・フットプリント・インテリジェンス」という部隊があり、何年もかけてアンダーグラウンドフォーラムに潜入し、活動を監視・追跡しているという。同社は新たなシステムにアクセスできるようになると、ダークAIの仕組み、機能、そしてその有効性を理解するために多くの時間を費やし続けるという。

ダークAIはますます強くなっている

ダークAIは、熟練したハッカーにとって効果的なツールになりつつあります。プログラミングの基本的な知識しか持たない人がランサムウェアジェネレーターを使っても、ウイルス対策ソフトに簡単に認識されるソフトウェアしか作成できない可能性があります。しかし、熟練した経験豊富なハッカーにとって、ダークAIはコーディングの生産性を向上させ、新たなマルウェアを作成することができます。

「この品質は、それぞれのプラットフォームやダークAIによって大きく異なります。非常に低品質のコードを生成するツールもありますが、10点満点中7～8点に達するツールもあります」とロシュキン氏はTri Thuc - Znewsに語った。

一例として、ポリモーフィックコードの作成能力が挙げられます。以前は、ウイルス対策ソフトによって悪意のあるコードが検出された場合、ハッカーがコードを変更するには長い時間がかかりました。しかし、Dark AIはこれを「ほぼ瞬時に」実行し、検出が困難なバージョンを作成できます。

さらに、ダークLLMはフィッシング攻撃において言語の壁を打ち破っています。カスペルスキーの専門家によると、新世代のフィッシングメールは、ほぼ完璧な英語で書かれており、「CEOの声とそっくり」に聞こえることもあるため、検知が困難になっています。

一部の「オールインワン」ダークAIシステムは、コードを生成し、音声偽装を統合し、フィッシングメールを送信できます。写真：カスペルスキー

特殊なダークAIシステムの偽の音声や画像を作成する能力もますます完璧になっています。ロシュキン氏は、警備員としての経験から「ビデオ通話はもう信用できない」とさえ述べています。

しかし、カスペルスキーの専門家は、ユーザーは個人的な行動、話し方の癖、いくつかの独特の特徴を通じて詐欺電話を見分けることもできるとも述べています。

「これらの機能は偽造するのが難しいので、偽装されていると思われる相手に直接連絡を取るようにしてください」とセキュリティ研究者はTri Thuc – Znewsに語った。

「AI軍拡競争」

ダークAIの開発は、サイバー犯罪者とサイバーセキュリティ専門家の間で技術競争を巻き起こしました。「私自身、リサーチ、プログラミング、リバースエンジニアリングなど、あらゆる場面でAIを活用しています。今年の生産性は以前の10～20倍に向上しました」とロシュキン氏は認めています。

「悪者がAIを使って攻撃している時に、AIを使って防御体制を構築しなければ、負けてしまうだろう。これは、AIを使う善人と悪人の間の競争の始まりだ」と彼は警告した。

カスペルスキーAPJディレクターのエイドリアン・ヒア氏は、ダークAIがマルウェア作成の迅速化に貢献していると述べた。写真：ミン・コイ

Googleは、ChatGPTを利用してマルウェアを作成し、攻撃を計画しようとした国家支援グループによる20件以上の悪意のある活動をブロックしたと報告しました。2024年には、AIモデルを使用する政府支援APTグループを40件特定しました。

特に懸念されるのは、Xanthoroxのような本格的なフレームワークです。同社は月額200ドルで「フルパッケージ」サービスを提供しています。このシステムは、音声生成、フィッシングメール、その他の攻撃ツールを使いやすいインターフェースに統合しています。

カスペルスキーの専門家は、ダークAIはまだ初期段階にあると警告しています。エイドリアン・ヒア氏は、今後数年でダークAIの利用コストは大幅に低下するだろうと予測していますが、どの程度まで発展するかはまだ分かりません。

「しかし、私が絶対に確信しているのは、我々は準備が整っているということだ。なぜなら、我々は同じことを、ただし反対側から行っているからだ」とロシュキン氏はコメントした。

出典: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html