トム・ハンクスは自身のインスタグラムでAIが生成した偽画像について警告している
ガーディアン紙によると、俳優トム・ハンクスはファンに対し、最近の歯科広告に登場した自身の画像は人工知能（AI）によって作成された偽物だと警告した。 『フォレスト・ガンプ』のスターである彼は、950万人のフォロワーに向けてインスタグラムに投稿し、「気をつけてください！私のAI画像を使った歯科広告動画があります。私はこのプロジェクトとは一切関係ありません」と伝えた。
Instagramの親会社であるMetaの広報担当者は、ニューヨーク・タイムズ宛てのメールで、この広告について直接コメントはしなかったものの、有名人の画像を欺瞞目的で使用した広告の掲載はコミュニティポリシーに違反すると述べた。「私たちはこうした詐欺行為への対策に多大なリソースを投入し、ポリシーに違反するアカウント、ページ、広告の停止や削除など、取り締まりを大幅に強化してきました」と広報担当者は付け加えた。
以前、有名なソーシャルネットワークFacebookのCEO、マーク・ザッカーバーグ氏もこの技術の被害者でした。彼の簡単なスピーチから、AI技術はFacebookがユーザーデータを盗み、未来を支配していることを認める内容の動画を作成しました。この動画では、マーク・ザッカーバーグ氏を模倣したAIの声はそれほど似ていませんでしたが、それでも認識するのは非常に困難でした。
以前、米国で、電話越しに聞こえてくる偽の声があまりにも本物らしく聞こえたため、ある母親が娘が男に誘拐されたと思い込んだという事件がありました。アリゾナ州在住のジェニファー・デステファノさんは最近、娘が電話ですすり泣いているのを耳にしました。すると男が電話を遮り、身代金を要求してきました。母親はスキーをしていた娘が誘拐されたと100％確信していました。「誰だか分かりませんでした。娘の声でした。いつもそんな風に泣いていたから、何も疑いませんでした」と彼女は言います。詐欺師は知らない電話番号を使い、最高100万ドルの身代金を要求しました。このAI詐欺は、デステファノさんが娘に連絡を取ったわずか数分後に発覚しました。この事件は警察によって捜査されており、サイバー犯罪者がAIの音声生成機能を悪用する危険性を浮き彫りにしています。
最近、ジルベール・チクリという名の詐欺師が、ジャン＝イヴ・ル・ドリアン外相になりすまし、シリアで人質となっているフランス人を解放するために富裕層や企業幹部に身代金を要求した罪で裁判にかけられました。また、インドの女性記者ラナ・アユブの顔がポルノビデオに埋め込まれ、犯罪者がその偽ビデオを使って彼女を脅迫したという事件もありました。
米国のサイバーセキュリティ企業マカフィーは最近、「人工のなりすまし」と題した調査結果を発表し、多くの人が本物の声と偽物の声を区別できないことを明らかにしました。米国やインドを含む9カ国、7,054人を対象としたこの調査では、多くの人がAI音声生成技術に騙された、あるいは騙された事例を知っていることが明らかになりました。約70%の回答者が、本物の声とAIが生成した声を区別することに自信がないと認めました。
ロイター通信によると、国連事務総長のアントニオ・グテーレス氏は、AI企業リーダーによる国際的なAI監視機関の設立提案を支持した。「最新のAIである生成型AIに対する警鐘を最も強く鳴らしているのは、それを設計した開発者たちだ。私たちはこれらの警告を真剣に受け止めなければならない」とグテーレス氏は述べた。さらに、グテーレス氏は今年中に高レベルのAI諮問機関を設立する計画を発表した。
雑誌「オーガナイザー」によると、Blackbird.AI社（米国）のCEO、ワシム・カレド氏は、AIを用いて音声を模倣する技術は、今では本物の音声とほぼ区別がつかないほどになっていると述べている。「これにより、詐欺師は被害者からより効果的に金銭や情報を得ることができる」とカレド氏は述べた。
「今では本物らしく聞こえる声を作るのはとても簡単なので、ネット上で活動するほぼ誰もが被害者になる可能性がある」とカリフォルニア大学（米国）のハニー・ファリド教授は述べ、こうした詐欺がますます蔓延していると警告した。
イスラエルのサイバーセキュリティ企業Team8のテクノロジスト、ガル・タル＝ホッホバーグ氏は、オンラインで目にするすべての情報を信じることができなくなる時代が急速に近づいていると考えている。「会話相手が本当にその人なのかを見極めるには、新たなテクノロジーが必要になるでしょう」と彼は述べた。
タイアン
[広告2]
ソース
コメント (0)