AIがホームレスを笑いものにしていると米警察が警告

AI技術は、画像、音声、デジタルコンテンツを数回クリックするだけで作成できる、前例のない創造性の時代を到来させています。しかし、この利便性は深刻なリスクも伴います。特に、AIが危険ないたずらの道具として利用される場合はなおさらです。

一見無害な状況が、社会的、法的、心理的危機の火種になりつつあります。

AIがTikTokのいたずらでホームレスをバーチャルキャラクターに変身させる ― 娯楽と犯罪の境界線が曖昧になりつつある。(出典: The Verge)

TikTokと「AIホームレス」ジョーク

米国では、TikTokのトレンドが警察の警戒を呼んでいる。ユーザーがSnapchatのAIを使って、ホームレスの男性が家に現れ、その両親がパニックに陥る様子を撮影する動画を投稿しているのだ。一部の親は警察に通報し、まるで本物の侵入事件のように見せかけた緊急対応が行われた。

マサチューセッツ州セーラム警察署は、この行為はSWATの介入につながる可能性があると警告している。

警察当局は声明でこの問題を最も的確に要約した。「このいたずらはホームレスの尊厳を傷つけ、通報者にパニックを引き起こし、警察の資源を無駄にしている。出動要請を受けた警察官はいたずらに気づかず、通報を実際に進行中の強盗事件として扱い、危険な状況を作り出した可能性がある」

Không chỉ ở Mỹ, các trò đùa AI đang lan rộng toàn cầu. Tại Ấn Độ, một video sử dụng Deepfake trong kỳ bầu cử năm 2024 đã khiến dư luận hoang mang khi một chính trị gia bị gán phát ngôn gây tranh cãi – hoàn toàn do AI tạo ra.

世界中でエイプリルフールは、偽の有名人の画像や親戚からの偽のメッセージが次々と出回る「AIの遊び場」となり、心理的トラウマを引き起こし、救急サービスを混乱させている。

「AI技術の発展は、犯罪目的で悪用されたり、社会的パニックを引き起こしたりするリスクを伴う」とロンドン大学ユニバーシティ・カレッジの研究者であるルイス・グリフィン氏は警告する。

AI によって作成された景福宮の洪水シーン。(ビデオから切り取った写真、出典: Youtube) — AI によって作成された景福宮の洪水シーン。( ビデオから切り取った写真、出典: Youtube)

教育と管理

AIの悪用を防ぐためには、ユーザー、特に若者にテクノロジー倫理について教育することが不可欠です。AIはおもちゃではなく、偽のコンテンツを作成するためにAIを利用することは、潜在的に有害な行為と捉えるべきです。

TikTokやSnapchatのようなプラットフォームは、より強力なAIコンテンツフィルターを導入し、ユーザーが偽の画像や音声を作成した場合に明確な警告を表示する必要があります。これにより、ユーザーを保護するだけでなく、コミュニティにパニックを引き起こすリスクも軽減されます。

ピュー・リサーチ・センターの調査によると、一般の人々は依然としてAIに対して多くの懸念を抱いているものの、専門家はより楽観的な見方を示しています。しかし、AIの濫用を防ぐためには明確な規制が必要であるという点では、両グループとも一致しています。AIを規制するための法的枠組みとプロセスを構築することは、政府の責任であるだけでなく、社会全体の義務でもあります。