ディープフェイクポルノ、AI競争における問題

ディープフェイクとは、人工知能（AI）や機械学習（ML）を用いて作成、またはデジタル加工された動画や画像のことです。この技術を用いて作成されたポルノコンテンツがインターネット上で初めて流通し始めたのは、数年前、Redditユーザーが有名人の顔を模した偽のポルノ動画を共有したのがきっかけでした。

写真：GI

誰でも被害者になる可能性がある。

それ以来、ディープフェイク作成者は、オンラインインフルエンサー、ジャーナリスト、その他公的なプロフィールを持つ人々を標的に、同様の動画や画像を継続的に投稿しています。このような動画は、数多くのウェブサイトに数千本存在しています。

AIテクノロジーがますます利用しやすくなり、ユーザーは本人の同意なしに望む人を「ポルノ映画スター」に仕立て上げたり、さらに危険なことに、このテクノロジーを利用して他人の名誉を傷つけたり脅迫したりすることが可能になる。

専門家は、インターネット上の何十億もの画像で訓練され、既存のデータを使って新しいコンテンツを生成する汎用AIツールの開発により、この問題が悪化する可能性があると指摘している。

「現実には、テクノロジーは今後も増殖し、進化を続け、より使いやすく、よりアクセスしやすくなっていくでしょう」と、テクノロジー悪用に関するトレーニングを提供する団体EndTABの創設者、アダム・ドッジ氏は述べた。「そして、それが続く限り、人々は…主にオンライン上の性的暴力、ディープフェイクポルノ、フェイクヌードなどを通じて、テクノロジーを悪用して他者に危害を加え続けるでしょう。」

オーストラリア、パース出身のノエル・マーティンさんは、これを直接体験しました。28歳の彼女は10年前、好奇心からGoogleで自分の写真を検索した際に、ディープフェイクポルノ画像を発見しました。マーティンさんは今でも、これらの偽ポルノ画像や動画を誰が作成したのか分からないと言います。彼女は、誰かが彼女のソーシャルメディア上の画像を使ってポルノ動画を作成したのではないかと疑っています。

マーティンさんは動画の削除を求めてウェブサイトに連絡を取ろうとしたが、努力は徒労に終わった。反応のないサイトもあれば、削除したもののすぐに再アップロードしたサイトもあった。「勝ち目はない」とマーティンさんは言った。「動画は永遠にインターネット上に残り、あなたの人生を台無しにしてしまうかもしれない」

状況を改善するためのテクノロジー企業の取り組み。

一部の AI モデルは、ポルノ画像へのアクセスを制限していると示しています。

OpenAIは、DALL-E画像生成ツールの学習に使用したデータからポルノコンテンツを削除し、悪用される可能性を低減したと発表した。同社はまた、リクエストをフィルタリングし、著名人や著名な政治家のAI画像の作成をブロックしているという。別のモデルであるMidjourneyも、特定のキーワードの使用をブロックし、問題のある画像をモデレーターに報告するようユーザーに促している。

一方、Stability AIは、ユーザーがセンシティブな画像を作成することを防ぐためのアップデートもリリースしました。これらの変更は、一部のユーザーがこの技術を利用して有名人を模倣したヌード写真を作成していたという報告を受けて行われました。

Stability AIの広報担当者、モテズ・ビシャラ氏によると、このフィルターはキーワードと画像認識などの技術を組み合わせてヌードを検出するという。しかし、同社はアプリケーションのオープンソースコードを公開しているため、ユーザーはソフトウェアを操作して好きなように画像を作成できる。

一部のソーシャルメディア企業も、自社のプラットフォームを有害なコンテンツからより適切に保護するために規則を厳格化している。

先月、TikTokは、すべてのディープフェイクや加工されたコンテンツには、偽物であるか、何らかの形で改変されていることを示すラベルを付けなければならないと述べた。

ゲームプラットフォームTwitchは最近、人気ストリーマーのAtrioc氏が1月下旬のライブ配信中にブラウザでディープフェイクポルノサイトにアクセスしていたことが発覚した後、ディープフェイク画像に関するポリシーを更新した。

AppleとGoogleは最近、性的に示唆的なディープフェイク動画を製品の宣伝のために掲載していたとして、アプリストアからアプリを削除したと発表した。

西洋の歌手からK-POPアイドルまで。

ディープフェイクポルノに関する研究はまれだが、AI企業ディープトレース・ラボの2019年の報告書によると、ディープフェイクポルノはほぼ完全に女性を標的として利用されており、最も標的にされているのは欧米の女優で、次いでKポップ歌手となっている。

Metaの広報担当者ダニ・レバー氏は声明の中で、同社のポリシーではAI生成および非AI生成の両方のアダルトコンテンツを制限しており、またディープフェイク作成アプリのページが同社のプラットフォーム上で広告を掲載することも制限していると述べた。

2月、MetaはOnly****やPorn***などのアダルトサイトと共に、「Take It Down」と呼ばれるオンラインツールへの参加を開始しました。このツールは、10代の若者がインターネット上で見つけたポルノ画像や動画を報告できるものです。このサイトは、盗撮された動画とAI生成動画の両方の処理をサポートしています。

ホアン・トン（AP通信）

ソース: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html