「自分の目で見たものが必ずしも真実とは限らないし、声で聞いたものが必ずしも真実とは限らない。状況が緊急であればあるほど、検証と確認をより徹底する必要がある」と、サイバーセキュリティ専門家のNgo Minh Hieu氏（Hieu PC）は、5月12日に開催された「AI時代の金融におけるデジタル信頼の構築」をテーマとする「Digital Trust in Finance 2026 Forum」で述べた。
サイバーセキュリティ専門家のンゴ・ミン・ヒエウ氏（ヒエウPC）がフォーラムで講演を行った。
専門家のゴ・ミン・ヒエウ氏によると、AIとディープフェイクの急速な発展により、オンライン詐欺はより巧妙化しており、サイバー犯罪者は顔、声、表情、さらには背景まで偽装して被害者を操ることができるようになっているという。
「以前は、目にするものや耳にするものはすべて現実だと信じていたので、すぐに信じていました。しかし今では、AIは顔や声から表情まで、あらゆるものを偽造できるのです」と彼は述べ、ディープフェイクによる最大の被害は金銭的な損失だけでなく、ユーザーの信頼の喪失でもあると付け加えた。
「加害者は心理的な要因や信念を悪用することで、被害者を不正な投資プラットフォームに誘い込んだり、資産を奪ったりすることができる」と彼は付け加えた。
ディープフェイクは簡単にアクセスできるが、検出するのは難しい。
サイバーセキュリティ専門家のゴ・ミン・ヒエウ氏によると、ディープフェイク技術は現在非常に容易に利用できるようになっている。多くのオープンソースツールや安価なサービスを利用すれば、サイバー犯罪者は肖像写真から偽の動画を作成できるという。
「写真一枚で、顔を入れ替えたり、声を偽ったり、FaceTime、Zalo、WhatsAppなどを使って通話したりできるんです」と彼は語った。
フォーラムで、ヒュー氏はビデオ通話中にリアルタイムで顔を変えることができるディープフェイクソフトウェアを実演した。この技術は、政府関係者、親族、あるいは「白馬の王子様」になりすまして、人々から愛情や金銭をだまし取るために、多くの人々によって悪用されている。
彼はまた、ソーシャルメディア上で個人情報を過剰に公開しているユーザーに対しても警告を発した。 「私たちは毎日、画像、動画、音声録音をソーシャルメディアに投稿しています。多くの人は自分で投稿せず、友人が代わりに投稿しています。こうしたデータは様々な情報源から収集され、ディープフェイクの作成に悪用される可能性があります。」
専門家はまた、サイバー犯罪者がこのデータを悪用して恐喝や「オンライン誘拐」を行う可能性があるため、親は子供の写真をソーシャルメディアに投稿する際に注意する必要があると指摘した。
ゴ・ミン・ヒエウ氏によると、ディープフェイク技術の最も危険な側面は、人々の「信頼感」を覆す能力にあるという。
「ビデオ通話はテキストメッセージよりも常に信頼感を高めます。聞き慣れた声は、書かれた文章よりも安心感を与えます。サイバー犯罪者は、被害者を心理的に操るために、送金要求、ワンタイムパスワード（OTP）の入力要求、アプリのインストール要求など、緊急事態を装うことがよくあります」と彼は述べた。
専門家のゴ・ミン・ヒエウ氏：最も危険な点は、ディープフェイクが人々の信頼感を覆してしまう可能性があることだ。
ディープフェイクは現在では検出が非常に困難になっているものの、口の形が不一致、不自然な照明、単調な話し方、歯の変形など、依然としていくつかの異常な兆候が見られる。
「ディープフェイク動画の肌の色は、しばしば非常に滑らかで不自然です」と専門家のヒュー氏は述べている。しかし、彼は、ユーザーは動画が本物か偽物かを判断するだけでなく、通話内容が妥当かどうかについても疑問を持つべきだと考えている。
無料AIツールによって引き起こされたデータ漏洩。
フォーラムで、専門家のゴ・ミン・ヒエウ氏は、ユーザーが個人情報を保護するスキルを欠いている場合、AIチャットボットは徐々にハッカーの新たな標的になりつつあると警告した。
彼は、AIが現在、仕事、学習、研究を強力に支援していると主張した。しかし、多くの人々は、プライベートな写真、家族情報、仕事の書類、ビジネスデータなどの大量の個人データを、悪用されるリスクを予期せずにチャットボットにアップロードする習慣がある。
さらに、多くのユーザーはAIプラットフォームの利用規約を読んだことがほとんどなく、一方で多くの無料ツールはモデルのトレーニングやその他の目的のためにデータを収集することができる。
出所不明の無料AIアプリケーションが多数登場し、ユーザーが画像を作成したり、顔を編集したり、実写写真を漫画キャラクターに変換したりできるようになったことで、リスクは増大している。ヒュー氏によれば、これはユーザーが自発的に生体認証データを第三者に提供するように促す一種の操作である。
セキュリティ対策が不十分なAIチャットボットを使用すると、ユーザーは個人情報漏洩のリスクに直面する。（イメージ画像）
AIをより安全に利用するために、専門家は、特に運営者が不明なプラットフォームのAIチャットボットには、機密情報、個人文書、社内業務データをアップロードしないよう推奨している。
ユーザーは、一時的なチャットモードや会話履歴の自動削除などのセキュリティ機能を有効にし、システムがデータを使用してAIをトレーニングすることを許可するオプションを無効にする必要があります。アカウント侵害のリスクを軽減するために、二段階認証も有効にする必要があります。
専門家のゴ・ミン・ヒエウ氏によると、ハッカーが個人のAIチャットボットアカウントを乗っ取った場合、ユーザーが過去に共有したすべての情報を悪用する可能性があるという。
「『私のことを知っていることをすべて教えて』といったコマンド一つで、AIは多くのユーザーの個人データを完全に収集できてしまう」とヒュー氏は警告した。
デジタル・トラスト・イン・ファイナンス2026フォーラムは、デジタル・トラスト・アライアンスが、国家サイバーセキュリティ協会およびMoMoと協力して、 公安省、ベトナム国家銀行、財務省の後援のもと開催するものです。
このイベントには、金融、銀行、テクノロジー分野の専門家や企業が集まり、急速に発展するAIの状況下で、ユーザーを保護し、デジタル上の信頼を構築するための解決策について議論した。
出典：https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html
コメント (0)