偽の写真コラージュ、本当のリスク

2023年12月9日 8時22分

人工知能 (AI) テクノロジーは、ますます巧妙化する欺瞞技術を通じて、社会コミュニティに驚くべき危険をもたらしています。

中でも、最近開発された「ディープフェイク」技術は、多くのユーザー、特に女性を魅了しており、自分の写真と美人コンテストの優勝者やファッションモデルなどの画像を組み合わせて本物らしく見せようとしているが、その背後に予期せぬリスクがあることは知らない。

最近、知人が「露出動画」というキャプション付きの有名女優の動画へのリンクをシェアしました。リンクをクリックすると、セクシーな衣装をまとった若い女優が男性と「親密」な様子を映し出し、人々は驚きました。ある技術専門家は、これは本物の動画ではなく、「ディープフェイク」技術を使って他人の顔を作り上げた単なる詐欺行為だと指摘しました。

AIが生成したユーザーの写真。インターネットからの写真

この専門家はまた、過去10日間で、ソーシャルメディア上で、ポートレート画像を人工知能（AI）アプリケーションソフトウェアに送信し、「非常に美しくリアルな」写真を作成するというトレンドが広がっていることも明らかにした。多くの若者がこれを好んでおり、どのソフトウェアがより賢く、有名俳優やモデルなどのより美しい画像を合成できるかを互いに指導し合っているほどだ。一部のアプリケーションソフトウェアでは、写真を組み合わせて動画を作成することもできる。「しかし、このゲームの背後に潜む危険性を予測できる人は誰もいません。簡単に言えば、ある日、あなたはセクシーな裸の自分の画像を見ることになるでしょう」と、この専門家は警告した。

情報を遡ってみると、「ディープフェイク」技術はGoogleのオープンソースコードを利用した機械学習プラットフォームをベースに開発されていることがわかります。「ディープフェイク」とは、「ディープラーニング」と「フェイク」を組み合わせた造語で、学習して模倣することを意味します。この技術は、特定ユーザーの動画と顔をスキャンし、それを別の動画や写真と合成して、写真や動画クリップを作成します。AIのスマート機能を活用することで、目、口、鼻といった顔の基本的な識別情報に加え、顔の動きの速さや声の音までもを置き換え、ほぼ本物の顔に似たコピーを作成できます。このプロセスにおいて、オリジナルの画像データが多いほど、AI機能が学習し、本物の人物と全く同じ偽の顔や画像を作成しやすくなります。

技術の急速な発展に伴い、「ディープフェイク」は生活の様々な分野に急速に浸透しています。例えば、自分に似合うヘアスタイルを選んだり、特定の服装をデザインしたりするといったシンプルな用途まで、その範囲は多岐にわたります。この技術の応用目標は非常に高く評価されており、多くのユーザーに高く評価されています。しかし、一方で、被写体や犯罪者が悪用する可能性も懸念されます。

したがって、オンラインの写真編集ソフトウェアに自分の肖像画や動画を提供するユーザーは、ヌード写真編集、性的刺激など、安っぽい娯楽の被害者になりやすいのです。写真編集をする人は自分自身を楽しませるだけでなく、それらの偽の画像を使って他人を攻撃したり、嘲笑したり、中傷したり、脅迫したり、他人の名誉を侮辱したり、関係者の関係を混乱させたり破壊したりすることもできます。

第二に、犯罪者はAIを利用して偽のアカウントを作成し、親戚や友人に電話をかけて金銭を借りたり、悪意ある目的で情報を盗んだりといったオンライン詐欺を働く可能性があります。犯罪者はユーザーになりすましてオンラインテクノロジーアプリケーションにログインしたり、銀行カードを使ってオンラインで売買したりすることで、資産を横領することもあります。そこから、詐欺、恐喝、テロ組織が偽アカウントを使った仮想アカウントを利用して悪事を働く可能性があります。

テクノロジーコミュニティは、「ディープフェイク」技術を使用する人気ソフトウェアやウェブサイトツールを暫定的に多数リストアップしています。例えば、reface、zao、avatarify、deepfakes web β、myheritage、womboなどです。しかし、技術の急速な発展により、このリストはより長く、より多様になる可能性があります。そのため、サイバーセキュリティコミュニティは、ディープフェイク技術を利用した詐欺には細心の注意を払うようユーザーに警告しています。注意を怠ると、ある日突然、誰かが自分になりすまして銀行からお金を引き出したり、オンラインで特定の問題について政治的テロリスト的な発言をしたりしていることに気付くかもしれません。

ネット上で写真を楽しそうに見せびらかしたり、自分の画像を真似したり、思い出に残る瞬間を記録したりしている男女は、よく考え直すべきです。ユーザーにとって完全に無料かつ安全なものなど存在せず、軽率な行動は後々非常に後悔する結果を招く可能性があるからです。オンラインコミュニティには「楽しもう、でも楽しみ過ぎちゃダメ」という格言がありますが、この警告を強調するのは適切かもしれません。

トゥイ・バット・ニ

ソース