FacebookにAIの写真や動画が殺到：一見無害だが極めて危険

もう一度見てみると、これはFacebookページが感傷的な投稿を飾るためにAIが加工した写真だと分かりました。注目すべきは、これが彼女がAIに「ほぼ」騙された2度目だったことです。それ以前にも、「『退職者』が『夏休みの旅行者』と出会う」という動画を、実在の人物や出来事だと勘違いしていたのです。

メディア業界で働き、定期的に AI コンテンツに触れるリン氏は、この技術があまりにも急速かつ高度に発展したため、本物と偽物を見分けるのが困難になっていることを認めざるを得ません。

スクリーンショット 1749203761184.png — Facebookで話題になった写真はAIによって作成された。スクリーンショット。

専門家もこの見解に同意しています。Google Veo 3、Kling AI、DALL·E 3、Midjourneyなどのツールは、信じられないほどリアルな画像や動画を作成できるようになりました。

ブロックチェーン技術および人工知能研究所ABAIIのトレーニングディレクター、ド・ヌー・ラム氏は、マルチモーダル技術と高度な言語モデルのおかげで、これらのツールは画像、音声、表情、自然な動きを同期させ、非常に説得力のある製品を作り出すことができると指摘した。

W-写真提供：Do Nhu Lam氏.jpg — ブロックチェーン技術・人工知能研究所（ABAII）の研修ディレクター、ド・ヌー・ラム氏は、高度なAI技術によって非常に説得力のある製品が生まれると述べた。写真：NVCC

ラム氏は、AIの進歩はコンテンツ制作、広告、エンターテインメント、教育といった分野に大きな可能性をもたらすと述べた。しかし、現実と仮想世界の境界がますます曖昧になるにつれ、「真実」を再現する能力は、倫理、管理、情報セキュリティの面で多くの課題も生み出している。

リンさんが見たFacebookの投稿には、約30万件のインタラクションと1万6000件以上のコメントが寄せられました。多くのユーザーが、これがAIによるイラストだとは知らずに、祝福の言葉を送ったり、感想を述べたりしました。一方、より「冷静な」人々は、AIに騙されたネットユーザーは「世間知らずすぎる」と批判しました。

Facebookのグループやフォーラムでは、ユーザーが作成・共有したAI動画を目にすることは珍しくありません。特にGoogle Veo 3の登場により、動画のクオリティが大幅に向上し、特にキャラクターの口の形に合わせた音声が際立っています。注意深く観察しないと、視聴者は簡単に混乱してしまうかもしれません。

AI時代に正気を保つ

AIによって作成された写真や動画は判別が難しく、特に技術に精通していない脆弱なユーザーにとって大きなリスクとなります。SCSサイバーセキュリティ株式会社の人工知能（CAIO）担当ディレクター、ヴー・タン・タン氏によると、AIはサイバー犯罪者によって詐欺（生体認証システムの回避、eKYCなど）に利用され、有名人になりすまして虚偽の情報を拡散し、社会に混乱を引き起こしています。ハイテク犯罪者がAIを悪用してディープフェイク写真を作成したり、親戚になりすましてビデオ通話を行い、金銭を詐取したりする事例も数多くあります。

Vu Thanh Thang氏.jpg — SCSサイバーセキュリティ株式会社の人工知能（CAIO）担当ディレクター、ヴー・タン・タン氏は、あらゆるものが偽造できる時代に入ったと述べた。写真：NVCC

タン氏によると、企業もAI犯罪者の潜在的な標的となっている。AIディープフェイクを使って従業員になりすましたり、セキュリティシステムを回避して出退勤情報を確認したり、企業のリーダーになりすまして名誉を傷つけたり、評判を失墜させたりすることが可能だ。

ABAIIのドー・ヌー・ラム氏も同様の見解を示し、AIが個人ユーザーにもたらす3つの影響、すなわち金融詐欺、名誉毀損、個人情報の搾取を指摘しました。企業においては、Arup社が香港支店の従業員を騙してディープフェイクのビデオ会議に参加させ、要求通りに送金させたことで2,500万ドルの損失を被りました。

現在話題のビデオ生成 AI ツール Veo 3 について知っておくべきことすべてGoogle の最新のビデオ生成 AI モデルである Veo 3 は、画像と同期するリアルなサウンドを作成する機能で注目を集めています。

同様に深刻なもう一つのリスクは、人々が本物と偽物の区別がつかなくなると、メディアや公式ニュースソースに対する国民の信頼が損なわれることです。

林氏はロイター研究所の2024年報告書を引用し、メディアプラットフォーム上のニュースを信頼する世界のユーザーの割合が、主にディープフェイクコンテンツの出現により、過去10年間で最低レベルに落ち込んだことを明らかにした。

専門家のヴー・タン・タン氏は、 「あらゆる情報が偽造される時代は終わり、もはや『リスク』ではなくなりました」と述べています。だからこそ、安心して暮らすためには、AIについてより深く学び、意識を高め、個人の保護対策を講じる必要があるのです。

両専門家は、ユーザーが意思決定を行う前に必ず情報を検証・認証すること、偽コンテンツを見分けるための知識を身に付けること、オンラインでの個人情報の共有を制限すること、そして偽コンテンツの拡散行為を報告することを推奨しています。「ユーザーが積極的に行動し、知識を蓄えることでのみ、真に自分自身を守り、デジタル時代のより安全なサイバー空間の構築に貢献することができます」とラム氏は述べています。