2024年5月、OpenAIのGPT-4o、GoogleのGemini 1.5 Proなど、世界的に有名なテクノロジー大手が相次いで人工知能（AI）の新バージョンを発表しました。これらの新バージョンには、ユーザーエクスペリエンスを最適化するための「超スマート」な機能が数多く追加されています。しかしながら、この技術がサイバー犯罪者によって多くのオンライン詐欺に利用されていることは否定できません。
リスクの増大
情報通信省のファム・ドゥック・ロン副大臣は、最近のワークショップで、サイバー攻撃がますます巧妙化・複雑化し、増加の一途を辿っていることを指摘しました。特にAIの活用により、ユーザーが直面するリスクは飛躍的に増大するでしょう。「AI技術はサイバー犯罪者によって悪用され、新たなマルウェアや、新たに巧妙化したフィッシング攻撃を容易に作成しています…」とファム・ドゥック・ロン副大臣は警告しました。
ベトナム情報通信省情報セキュリティ局の報告書によると、AIに関連するサイバーセキュリティリスクは世界中で1,000兆米ドル以上の損害を引き起こしており、そのうちベトナムだけで8,000億～10,000億ベトナムドンに上ります。現在最も一般的なAIの用途は、詐欺目的で声や顔を偽造することです。2025年までに、1秒あたり約3,000件の攻撃、1秒あたり12件のマルウェア、1日あたり70件の新たな脆弱性と弱点が発生すると予測されています。
アプリケーションセキュリティサポートを専門とするBShieldのディレクター、グエン・フー・ザップ氏によると、AIの進歩により、偽の画像や音声の作成はもはや難しくないという。詐欺師は、SNSに投稿された公開情報や、オンライン採用面接、あるいは「当局」を名乗る電話といった手口から、ユーザーデータを容易に収集できる。BShieldが行ったシミュレーションでは、詐欺師はビデオ通話で取得した顔写真をCCCDに記録し、動いている人物の体に貼り付けることでeKYCツールを欺き、システムに実在の人物として認識させることが可能だった。
ディープフェイク技術を用いた詐欺行為が増加し、より巧妙化している。写真：LE TINH
ユーザーの視点から見ると、ホーチミン市のIT専門家、グエン・タン・チュン氏は、chatGPTを悪用して、銀行や信頼できる組織からの本物のメールに似た内容と文体を持つ詐欺メールを作成する可能性があることを懸念しています。これらのメールにはマルウェアが添付されている可能性があり、ユーザーがクリックすると確実にデータが盗まれ、資産が横領されます。「AIソフトウェアはますます進化しており、顔と声が実在の人物と95%類似した偽の動画を作成でき、ジェスチャーはリアルタイムで変化するため、視聴者が見分けるのは非常に困難です」とチュン氏は述べました。
まもなく法的な回廊が完成
セキュリティ専門家のファム・ディン・タン氏は、ハイテク詐欺のリスクを抑えるために、ユーザーはAIに関する知識を定期的に更新し、出所不明のリンクをクリックしないようにする必要があると指摘しました。企業は、データセキュリティとシステム運用を確保するための予算を割り当てる必要があります。また、システムで実際に発生する脆弱性を把握し、サイバー攻撃の種類を識別する能力を高めるために、担当者は徹底的なトレーニングを受ける必要があります。
AI開発部門の不正対策プロジェクト責任者であるタ・コン・ソン氏は、AIはその極めてインテリジェントなサポート機能により、ユーザーの生活や企業、政府機関、各種部門の業務に深く浸透していると述べた。特に、AI技術は今や非常にアクセスしやすく使いやすくなっており、悪意のある人物が容易に不正に利用できる状況を作り出している。「詐欺師は攻撃手法を常に変化させているため、ユーザーは不正行為を防ぐ方法を知るために定期的に情報を更新する必要がある」とソン氏は勧告した。
専門家によると、最近アップグレードされたGPT-4oとGemini 1.5 Proモデルは、AIの知能に限界がないことを証明しました。そのため、企業によるAI不正対策ツールやソリューションの開発を奨励するだけでなく、管理機関はAIに関する法整備を早急に完了させ、このトレンドに先んじる必要があります。
国家人口データセンター副所長のグエン・アン・トゥアン中佐は、AIの開発、生産、応用、利用の過程における国内外のサービス提供者の倫理と責任を規定する文書を早急に発行する必要があると述べた。同時に、AIサービスの利用、適用、接続、提供を行うシステムの技術基準に関する具体的な規制も必要だ。「AIリスクに対抗するために、AIプロジェクトの研究と適用が必要です。AIは人間によって創造され、知識の産物であるため、『良いAI』と『悪いAI』のバリエーションが存在するため、AI自体によってAIの発展を阻止することが可能です」とトゥアン中佐は指摘した。
サイバーセキュリティの課題
グエン・アン・トゥアン中佐は、AIがネットワークセキュリティに課題をもたらしていることを認めた。AIがサポートする悪意のあるソフトウェアが文書ファイルにインストールされ、ユーザーが文書ファイルをアップロードすると、この悪意のあるコードがシステムに侵入する可能性がある。さらに、特殊なAI技術を利用することで、ハッカーはシステムを模倣し、セキュリティホールを攻撃することができる。AIは、画像や公安省のアプリケーションやウェブサイトの偽名を使って、ユーザーがダウンロード、インストールし、IDカード番号やログインパスワードなどの情報を入力するような多くのアプリケーションを作成することができる。「AIは独自のソフトウェアを開発し、多くのマルウェアの系統を融合させたハイブリッドマルウェアを開発し、より洗練されたセキュリティ回避メカニズムを備え、柔軟なソースコードを自動的に変更するだろう」とグエン・アン・トゥアン中佐は警告した。
[広告2]
出典: https://nld.com.vn/toi-pham-mang-co-them-bi-kip-tu-ai-196240601195415035.htm
コメント (0)