犯罪者が「ダークAI」を保有する危険性

サイバー攻撃向けに特別に訓練された AI ツールはより効果的になり、対抗がより複雑になっています。

AIはサイバー犯罪者にとって強力なアシスタントになりつつある。写真： Cato Networks

一般ユーザーだけでなく、サイバー犯罪者もAIを活用し、これまで以上に高度な攻撃を仕掛けるようになっています。ハッカーを支援するAIツールは、わずか2年足らずで機能と効率の面で急速に進化しました。

カスペルスキー アジア・ジャパン（APJ）ディレクターのエイドリアン・ハイア氏は、ダークAIがマルウェアの急速な増加に大きな役割を果たしていると述べています。カスペル​​スキーのデータによると、毎日約50万個のマルウェアが作成されています。

「ダークAIはダークウェブのようなものだ。つまり、私たちが日常的に使っているウェブのダークサイドだ」とヒア氏は語った。

カスペルスキーのアジア太平洋（APAC）および中東、アフリカ、トルコ（META）担当グローバル調査分析チーム（GReAT）責任者セルゲイ・ロシュキン氏は、ダークAIはChatGPTやジェミニなどの従来のAIチャットボットとはまったく異なると語った。

ユーザーが使い慣れているAIは、ユーザーを支援して正当なタスクを実行するために作成されており、マルウェアの作成や違法行為を指示されても、ユーザーが目的を達成するのは困難です。

一方、ダークAIは「サイバー空間で悪意のある活動を行うためだけに作られたLLM（Lyric Management Log）またはチャットボットです」とロズキン氏は述べた。これらのAIは、マルウェア、フィッシングコンテンツ、さらにはサイバー犯罪者が詐欺に利用するための完全なフレームワークを作成するように訓練されている。

信頼できるハッカーだけが利用できる隠しAIシステム

ロシュキン氏が「Black Hat GPT」または「ブラックハットGPT」と呼ぶこれらのシステムは、2023年から存在していました。カスペル​​スキーの担当者によると、当時のAIは非常に基本的なもので、非常に悪質なコードを作成し、すぐに検出される可能性がありました。

しかし、近年のブラックハットGPTシステムはより完成度が高くなり、マルウェアや不正コンテンツの作成から、音声や動画の偽装まで、様々な機能を提供できるようになりました。WormGPT、DarkBard、FraudGPTなどの名前も挙げられます。

カスペルスキーの研究者であるセルゲイ・ロシュキン氏は、ダークAIの品質がますます向上していると警告している。写真：ミン・コイ

カスペルスキー社が発見した最も衝撃的な事実の一つは、信頼できるサイバー犯罪者だけがアクセスできる非公開のダークAIシステムの存在でした。こうした非公開AIシステムにアクセスするには、ハッカーはアンダーグラウンドフォーラムで評判を高める必要があります。

「こうしたシステムにアクセスできるようになるのは、信頼されている場合のみです。こうしたアシスタントにアクセスするには、アンダーグラウンドのフォーラムで評判を築く必要があります」とカスペルスキーの専門家は述べています。

ロズキン氏によると、カスペルスキーには「デジタル・フットプリント・インテリジェンス」という部隊があり、長年にわたりアンダーグラウンドフォーラムに潜入し、活動を監視・追跡しているという。同社は新たなシステムにアクセスできるようになると、ダークAIがどのように利用され、どのような機能を持ち、そしてその効果を発揮するのかを理解するために、多くの時間を費やし続けている。

ダークAIが強くなっている

ダークAIは、熟練したハッカーにとって効果的なツールになりつつあります。プログラミングの基本的な知識しか持たない人がランサムウェアジェネレーターを使っても、ウイルス対策ソフトに簡単に認識されるソフトウェアしか作成できない可能性があります。しかし、熟練した経験豊富なハッカーにとって、ダークAIはコーディングの生産性を向上させ、新たなマルウェアを作成することができます。

「この品質は、それぞれのプラットフォームやダークAIによって大きく異なります。非常に低品質のコードを生成するツールもありますが、10点満点中7～8点に達するツールもあります」とロシュキン氏はTri Thuc - Znewsに語った。

一例として、ポリモーフィックコードの作成能力が挙げられます。以前は、ウイルス対策ソフトによって悪意のあるコードが検出されると、ハッカーはコードの変更に多くの時間を費やす必要がありました。しかし、Dark AIはこれを「ほぼ瞬時に」実行し、より検出困難なバージョンを作成できます。

さらに、ダークLLMはフィッシング攻撃において言語の壁を打ち破っています。カスペル​​スキーの専門家によると、新世代のフィッシングメールはほぼ完璧な英語で書かれており、「CEOの声とそっくり」に聞こえることもあるため、見分けるのが難しくなっています。

一部の「オールインワン」ダークAIシステムは、コードを生成し、音声偽装を統合し、フィッシングメールを送信することができます。写真：カスペルスキー

特殊なダークAIシステムの偽の音声や画像を作成する能力もますます完璧になっています。ロシュキン氏は、警備員としての経験から「ビデオ通話はもう信じていない」とさえ述べています。

しかし、カスペルスキー社の専門家は、ユーザーは個人の行動、話し方、いくつかの独特な特徴を通じて詐欺電話を​​見分けることはできるとも述べている。

「これらの機能は偽造が難しいため、偽装されていると思われる相手に直接連絡を取るようにしてください」とセキュリティ研究者はTri Thuc – Znewsに語った。

「AI軍拡競争」

ダークAIの開発は、サイバー犯罪者とサイバーセキュリティ専門家の間で技術競争を巻き起こしました。「私自身、今ではリサーチ、プログラミング、リバースエンジニアリングなど、あらゆる場面でAIを活用しています。今年の生産性は以前の10～20倍に向上しています」とロシュキン氏は認めています。

「悪者がAIを使って攻撃している時に、AIを使って防御体制を構築しなければ、負けてしまうだろう。これは、AIを使う善人と悪人との間の競争の始まりだ」と彼は警告した。

カスペルスキーAPJディレクターのエイドリアン・ヒア氏は、ダークAIがマルウェア作成の迅速化に貢献していると述べた。写真​​：ミン・コイ

Googleは、ChatGPTを利用してマルウェアを作成し、攻撃を計画しようとした国家支援グループによる20件以上の悪意のある活動をブロックしたと報告しました。2024年には、AIモデルを使用する政府支援APTグループ40件を特定しました。

特に心配なのは、音声生成、フィッシングメール、その他の攻撃ツールを使いやすいインターフェースに統合し、月額200 ドルで「フル パッケージ」サービスを提供する Xanthorox のような本格的なフレームワークです。

カスペルスキーの専門家は、ダークAIはまだ初期段階にあると警告しています。エイドリアン・ヒア氏は、今後数年でダークAIの利用コストは大幅に低下すると予測していますが、どの程度発展するかはまだ分かりません。

「しかし、私が絶対に確信しているのは、我々は準備が整っているということだ。なぜなら、我々は同じことを、ただし反対側から行っているからだ」とロシュキン氏はコメントした。

出典: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html