ディープフェイクAI詐欺はますます危険になっている

[広告1]

ハッカーがAIを「兵器化」してサイバー攻撃や詐欺を実行する傾向についてどう思いますか?

グエン・トゥアン・カン博士： IBMの2024年X-Force脅威インテリジェンス・インデックスによると、ベトナムを含むアジア太平洋地域は、2023年に世界で最も多くのサイバー攻撃を受ける地域です。その中でも、サイバー攻撃の影響を最も受けているのは製造業です。

犯罪者の主な手口は、依然として脆弱な人々を狙ったフィッシング攻撃と、脆弱性を悪用してマルウェアをインストールすることです。さらに、2024年には人工知能（AI）を活用したサイバー攻撃が新たなトレンドとなるでしょう。

Wired のレポートでは、多くの悪意のある人物が生成 AI を使用してハッキングを誘導したり、不正なチャットボットを作成したり、他人の顔や声を模倣したディープフェイク画像や動画を作成したりしていると指摘しています。

しかし、このトレンドに伴い、情報セキュリティシステムにもWatsonXなどのAI機能が統合され始めています。人工知能は活用できるだけでなく、分析、監視、番号識別、攻撃シナリオの予測などにおいて人間に取って代わることができ、防御力の向上と情報セキュリティリスクの最小化につながります。

ディープフェイク詐欺はますます蔓延しています。AIの急速な発展に伴い、これらの攻撃は将来どれほど危険なものになるのでしょうか？

グエン・トゥアン・カン博士：ディープフェイクとは、ハッカーが偽のデジタルIDを作成し、他人になりすますことを可能にする技術です。この技術はますます高度化しているため、ディープフェイクは危険な問題となるでしょう。

ディープフェイクに対抗するには、まず人物の画像や音声がAIによって生成されたものかどうかを判断する必要があります。攻撃者は常に新しいモデルを開発しているため、ディープフェイクを即座に検出できる汎用ツールは現時点では存在しません。

ディープフェイク検出に加えて、行動分析技術を活用するという対策も存在します。組織的・ビジネス的な観点からは、これら2つの技術を組み合わせたシステムの開発が不可欠です。

最近、ハッカーが企業のシステムに密かにマルウェアを仕掛けるサイバー攻撃が発生しています。マルウェアは待ち伏せし、あらゆるアクティビティを分析し、偽のアイデンティティを作り出して悪意ある行為を実行します。ディープフェイク技術の発展とAIによる動画作成能力の発達により、この種の攻撃は今後、さらに危険なものとなるでしょう。

ディープフェイクを使ったサイバー攻撃が激化する中、高齢者や子ども、その他の脆弱なグループを詐欺師からどのように守ることができるでしょうか?

グエン・トゥアン・カン博士：高齢者や子供たちは、ソーシャルエンジニアリングと呼ばれる手法を使った詐欺師の攻撃を受けることが多いです。これは、人間の行動を操作して攻撃を行う手法を指します。

ハッカーは、AIとデータ収集、マイニング、分析を組み合わせて、詐欺の被害に遭いやすい人物を特定し、攻撃方法を見つけ出すことができます。コミュニティ内での意識向上に加え、ユーザーが詐欺に遭う状況が発生する可能性を認識し、テクノロジーを活用してそれを検知・防止する必要があります。

W-オンライン詐欺-1.jpg — タンルオン区警察署（ハノイ）は、警察官を装って送金詐欺を行う事件について警告している。写真：トロン・ダット

最近、銀行員が送金に来た老婦人に詐欺の兆候があると疑い、すぐに取引を中止し、当局に通報したという事件がありました。銀行のITシステムには、このような作業を人間に代行するテクノロジーが備わっているのです。

テクノロジーの役割は、たとえ送金者が本人であると判明していても、取引が他人によって操作されている疑いがある場合、システムが送金を停止することです。このようなツールは詐欺防止システムと呼ばれます。

ベトナムはAIを管理するための制裁を設け、AIの研究、開発、使用を枠組みに組み込むべき時ではないでしょうか?

グエン・トゥアン・カン博士： AI管理の問題は長らく議論されてきましたが、依然として多くの論争が続いています。例えば、私の住んでいる地域の駐車場にはナンバープレートを認識するAIシステムが導入されていますが、それでも盗難が発生しました。当時、誰が責任を負うべきかという議論が巻き起こりました。アパートの所有者、警備員、それともAIシステム開発者のどちらが責任を負うべきなのでしょうか？

その後、建物は規則を変更し、住民は利便性のためにAIによるナンバープレート認識を選択できるものの、リスクを受け入れなければならないとしました。同意する住民は自動ドアを利用でき、同意しない住民は従来の方法で駐車しなければなりません。このような罰則を設ける必要があるのです。

同様に、IBMはかつて癌の予防を支援するAIシステムを開発しました。システムが薬を処方し、患者がそれを服用しても救命できなかった場合、それは医師のせいでしょうか、それともAIのせいでしょうか？

AI規制は、AIアプリケーションの開発において何ができて何ができないかを明確に規定し、具体的な内容にする必要があると思います。世界をより安全にするために、私たちができる最も基本的な規制は、大口送金に生体認証を義務付けることです。そうすれば、身元情報を失ったとしても、金銭的な損失を完全に回避できます。

ありがとう。