ディープフェイクは、この技術を利用した詐欺の件数が増加し続けているため、現在では大きな懸念事項となっている。
サイバー犯罪者が頻繁に活動するダークネットのフォーラムを調査した結果、セキュリティ専門家は、非常に多くの犯罪者が詐欺にディープフェイクソフトウェアを使用しており、現在市場に出回っているディープフェイクソフトウェアの需要が供給をはるかに上回っていることを発見した。
需要が供給を上回るにつれ、カスペルスキーの専門家は、ディープフェイク詐欺が急増すると予測している。その手口はますます多様化し、巧妙化しており、高品質ななりすまし動画の提供から、ソーシャルメディア上で有名人の画像を使用した偽のライブ配信、被害者が送金した金額を倍増させるという約束まで多岐にわたる。
Regulaの情報参照システムによると、 世界中の企業の37%が音声ベースのディープフェイク詐欺の被害に遭っており、29%が動画ベースのディープフェイク詐欺の被害に遭っている。
この技術はベトナムのサイバーセキュリティにとって脅威となっており、サイバー犯罪者は偽のビデオ通話を使って個人になりすまし、親戚や友人から金銭を借りるケースが頻繁に発生している。
ディープフェイクのビデオ通話はわずか1分程度で終了するため、被害者が本物と偽物の通話を見分けるのは非常に困難です。
ディープフェイクは、巧妙なオンライン詐欺において、徐々に「悪夢」となりつつある。
「ディープフェイクは女性と社会にとって悪夢となっている。サイバー犯罪者は人工知能（AI）を悪用し、被害者の顔をポルノ画像や動画に合成したり、プロパガンダ活動に利用したりしている。」
「こうした操作は、誤った情報を拡散することで世論を操作し、組織や個人の評判を傷つけることを目的としています」と、カスペルスキー・ベトナムの地域ディレクターであるヴォ・ズオン・トゥ・ディエム氏は述べた。
人工知能は犯罪者によって悪質な目的で悪用されているものの、個人や企業は人工知能を利用してディープフェイクを識別することができ、詐欺の成功率を低減できる。
したがって、ユーザーは詐欺から身を守るためのいくつかの有効な手段を利用できる。例えば、AIが生成するコンテンツ検出ソフトウェア（高度なアルゴリズムを使用して、画像、動画、音声がどの程度編集されているかを分析・判定する）などが挙げられる。
ディープフェイク動画に関しては、口の動きと発話の不一致を特定するのに役立つツールが現在存在する。中には、動画の解像度を分析することで皮膚の下の異常な血流を検出できるほど「強力な」プログラムもある。これは、心臓が血液を送り出すと、体内の静脈の色が変わるためだ。
さらに、透かしは画像や動画などに識別マークとして機能し、AI製品の著作権保護に役立ちます。この機能は、人工知能を作成したプラットフォームの出所を追跡するのに役立つため、ディープフェイク対策の武器となり得ます。技術に精通したユーザーは、コンテンツの出所を追跡し、元のデータがAIによってどのように改変されたかを比較する方法を見つけることができます。
現在、一部の新興技術では、暗号化アルゴリズムを用いて、一定の時間間隔で動画内にハッシュ値を挿入しています。動画が編集された場合、ハッシュ値が変化するため、ユーザーはコンテンツが改ざんされたかどうかを確認できます。
従来は、色の歪み、不自然な筋肉の動き、眼球運動など、動画内の異常を検出するためのガイドラインが存在していました。しかし、AIの高度化に伴い、これらの基準では必ずしも正確な結果が得られなくなってきています。
動画の信憑性を検証するプロセスは、もはや目視検査に頼るのではなく、偽コンテンツを防止・検出するために設計された技術ツールを必要とする。
カーンリン
ソース
コメント (0)