人工知能（AI）は目覚ましい進歩を遂げ、 経済発展、イノベーション、生活の質の向上に前例のない機会をもたらしています。しかし、こうした大きな恩恵とともに、AIはますます巧妙化し、大規模で、検出が困難な詐欺行為に悪用されるツールにもなりつつあり、国際社会はAIが犯罪者によって「武器」として利用されるリスクを早急に防ぐ必要があります。
AIが不正な目的で悪用されると、その影響は前例のない速さで広がる可能性があります。したがって、 世界的なAI規制の強化は、イノベーションを阻害することを目的とするものではなく、技術が安全かつ責任ある形で、社会全体の利益のために発展することを保証することを目的としています。デジタル詐欺はますます巧妙化しています。
AIの発展は、詐欺師を支援するツールとして悪用される可能性など、負の側面ももたらしている。
AIの爆発的な発展は、サイバー犯罪者の活動方法を根本的に変えつつある。以前は詐欺師は主にスパムメール、偽メール、あるいは単純な定型文による電話に頼っていたが、AIはデータ収集や被害者の心理分析から、非常に説得力のある捏造シナリオの作成まで、詐欺プロセスのほぼ全てを自動化している。
今日最も懸念される技術の一つがディープフェイクです。これはAIを用いて、肉眼では見分けがつかないほどリアルな偽の画像、 動画、音声を作成する技術です。ソーシャルメディアから収集したわずか数秒の音声データや画像データだけで、悪意のある人物は親族、ビジネスリーダー、ビジネスパートナー、さらには政府関係者になりすました偽の電話や動画を作成することが可能です。
国際刑事警察機構（インターポール）の最新報告書によると、アジア太平洋地域で調査対象となった国の半数以上で、サイバー犯罪が記録された全犯罪の30％以上を占めている。2024年には、同地域で65億件以上のサイバー脅威が検知され、無力化された。
最近、香港（中国）で衝撃的な事件が発生しました。オンライン会議の参加者全員がディープフェイク技術で作られた偽物だったため、企業が2500万ドルを騙し取られたのです。さらに懸念されるのは、AIは画像や音声の偽造だけでなく、リアルタイムでの対話も可能にする点です。AIシステムはチャットをしたり、質問に答えたり、被害者の反応に基づいてコンテンツを調整したりできるため、詐欺の手口はこれまで以上に巧妙になっています。
マレーシアでは、2025年のオンライン詐欺の件数は66,204件に達すると予測されており、2024年の35,368件から87%増加する見込みで、投資詐欺による損失は最大14億7000万リンギットに上るとされている。マレーシア警察長官のモハマド・ハリド・イスマイル氏は、犯罪組織が技術の進歩と最新の通信プラットフォームを悪用しているため、詐欺の手口はますます巧妙化していると述べた。
タイの証券取引委員会（SEC）は、2026年の最初の5か月間で、株価操作、詐欺、虚偽情報の提供、資本市場における違法取引に関連する8件の刑事事件を取り扱い、合計43人が違反行為で告発されたと報告した。オンライン投資詐欺の取り締まりにおいて、タイ当局は規制に違反した368の口座と取引チャネルを凍結した。情報受領から処理までの時間は7時間から48時間で、国民の損失を抑えるのに役立った。
ベルギー金融サービス市場庁（FSMA）のデータによると、ヨーロッパでは、2025年後半の6か月だけで、ベルギーの消費者は投資詐欺により総額2,340万ユーロ以上の損失を被ったと報告しています。2025年を通して、FSMAは違法行為に関する苦情を2,911件受け付けており、これは2024年と比較して約11%の増加です。これらの損失の大部分は、仮想通貨に関連する不正なオンラインプラットフォームによるものです…リスクに関する警告
AIを利用した詐欺行為への対応として、米国、英国、オーストラリア、カナダ、ニュージーランドからなるファイブ・アイズ情報同盟に加盟する主要な治安機関は、2026年6月23日、人工知能（AI）がもたらすリスクの増大について強い警告を発し、この技術が人間の制御を超える前に世界は緊急に行動する必要があると述べた。
ファイブ・アイズ安全保障同盟は共同声明で、AI開発のペースがセキュリティ管理・保護メカニズムの開発を上回っていると指摘した。専門家は、AIはもはや単なる未来の技術ではなく、サイバー犯罪グループや敵対勢力によって危険な目的で悪用されるツールになっていると警告している。
最も懸念される点の1つは、悪意のあるコードの作成プロセスを自動化するために大規模モデル言語（LLM）の利用が増加していることです。これにより、技術スキルが限られている人でも、ランサムウェアから従来のセキュリティの複数の層を回避できる侵入ツールまで、高度なサイバー攻撃ソフトウェアを作成できるようになります。さらに、ディープフェイク技術（AIが生成する画像と音声）も驚くべき速さで発展していると考えられています。AIが生成する偽の画像、動画、音声は現在、非常に高いレベルのリアリズムを実現しており、大規模なフィッシングキャンペーン、情報窃盗、または誤情報の拡散のためのツールとなっています。ファイブ・アイズ同盟によると、リスクはサイバー犯罪や金融詐欺にとどまりません。AIは世論操作、偽ニュースの拡散、民主的プロセスへの干渉にも悪用される可能性があり、多くの国の国家安全保障に直接的な影響を与える可能性があります。
こうした現実を踏まえ、5カ国がAIがもたらすリスクを軽減するための緊急勧告を次々と発表している。これらの提案の焦点は、「事後対応」から「予防的対策」モデルへの転換である。この同盟は、大手テクノロジー企業に対し、自社が開発するAI製品に対する責任をより重く負うよう求めている。したがって、サイバーセキュリティ対策は、製品が使用開始された後にのみ追加するのではなく、システム設計段階から組み込むべきである。セキュリティ機関はまた、AI関連のセキュリティ脆弱性を早期に発見するために、官民両部門間でリアルタイムのデータと情報共有を強化することの重要性を強調している。各国は、テクノロジー詐欺の波を防ぐためにAI規制を強化している。
AIを利用した詐欺という深刻化する問題に直面し、多くの国や国際機関がAIの悪用を抑制するための強力な規制措置の実施を開始している。欧州連合（EU）は、人工知能の規制に関する世界初の包括的な法律とされるAI法を施行することで、この取り組みを主導している。
2026年6月10日に公布され、同年8月2日に施行されたEUのAI法によれば、ユーザーと直接やり取りするチャットボットやAIシステムの提供者は、そのようなやり取りが人間によるものではないことを明確に示さなければならない。画像、音声、動画、テキストから集約コンテンツを生成するシステムの提供者は、それが機械可読形式でマークアップされていることを保証しなければならない。公共問題におけるディープフェイクやAIコンテンツは、エンドユーザー向けに明確にラベル付けされなければならない。違反に対する罰金は、1,500万ユーロまたは組織の年間世界収益の3%のいずれか高い方となる。禁止行為に関わる場合、罰金は3,500万ユーロまたは収益の7%となる場合もある。
欧州委員会は、AI法に加えて、AIコンテンツの透明性に関する行動規範も公表し、企業がデジタル透かし、メタデータ、EU域内で統一されたAI識別子などの措置を採用するよう促している。国内レベルでは、フランス、ドイツ、イタリアなど多くの国が、詐欺、名誉毀損、不正使用を目的としたディープフェイクの使用に直接対処するため、刑法を改正している。
一方、ベルギーの金融規制当局は、不正な投資プラットフォームのリストを継続的に更新し、国民への警告を強化している。しかし、専門家は、法律は重要ではあるものの、それだけでは解決にならないという点で意見が一致している。
VNAによると
出典: https://hdll.vn/vi/thong-inform-ly-luan---thuc-tien/canh-bao-lua-dao-gia-tang-tu-tri-tue-nhan-tao-ai.html
