ディープフェイクとは、人工知能（AI）や機械学習（ML）を用いてデジタル的に作成または改変された動画や画像のことです。この技術を用いて作成されたポルノがインターネット上で初めて流通し始めたのは、数年前、あるRedditユーザーが有名人の顔を使った偽のポルノ動画を共有したのがきっかけでした。
写真：GI
誰でも被害者になる可能性がある。
それ以来、ディープフェイク作成者は、オンラインインフルエンサー、ジャーナリスト、その他公的なプロフィールを持つ人々を標的に、同様の動画や画像を投稿し続けています。このような動画は、数多くのウェブサイトに数千本存在しています。
AIテクノロジーがますます利用しやすくなっているため、ユーザーは本人の同意なしに望む人を「ポルノスター」に仕立て上げたり、さらに危険なことには、そのテクノロジーを利用して他人の名誉を毀損したり、脅迫したりすることが可能になっています。
専門家は、インターネット上の何十億もの画像で訓練され、既存のデータを使って新しいコンテンツを生成する生成AIツールの開発により、この問題はさらに悪化する可能性があると指摘している。
「現実には、テクノロジーは今後も増殖を続け、進化を続け、よりアクセスしやすく、使いやすくなっていくでしょう」と、テクノロジー悪用に関するトレーニングを提供する団体EndTABの創設者、アダム・ダッジ氏は述べた。「そして、それが続く限り、人々は必然的に…主にオンライン上の性的暴力、ディープフェイクポルノ、偽ヌードなどを通じて、テクノロジーを悪用して他者に危害を加え続けるでしょう。」
オーストラリア、パース在住のノエル・マーティンさんは、まさにその現実を体験しました。28歳の彼女は10年前、ある日好奇心から自分の画像をGoogleで検索したところ、自身のディープフェイクポルノを見つけました。マーティンさんは今でも、誰がこれらの偽ポルノ画像や動画を作成したのか全く分からないと言います。彼女は、誰かが彼女のソーシャルメディアの画像を使ってポルノ動画を作成したのではないかと疑っています。
マーティンさんは動画を削除するよう各サイトに連絡を取ろうとしたが、努力は徒労に終わった。返信がないサイトもあれば、削除したもののすぐに再投稿したサイトもあった。「勝ち目はない」とマーティンさんは言った。「動画は永遠にインターネット上に残り、人生を台無しにしてしまう可能性がある」
テクノロジー企業の解決への取り組み
一部のAIモデルは、ポルノ画像へのアクセスを制限していると述べている。
OpenAIは、DALL-E画像ジェネレータの学習に使用したデータからポルノコンテンツを削除したと発表した。これにより、悪用される可能性が低減するはずだ。同社はまた、リクエストをフィルタリングし、著名人や著名な 政治家のAI画像の作成をブロックしているという。別のモデルであるMidjourneyも、特定のキーワードの使用をブロックし、問題のある画像をモデレーターに報告するようユーザーに促している。
一方、Stability AIは、ユーザーが露骨な画像を作成することを阻止するアップデートもリリースしました。この変更は、一部のユーザーがこの技術を利用して有名人を模倣したヌード画像を作成していたという報告を受けて行われました。
Stability AIの広報担当者、モテズ・ビシャラ氏によると、このフィルターはキーワードと画像認識などの技術を組み合わせてヌードを検出するという。しかし、同社はアプリのオープンソースコードを公開しているため、ユーザーはソフトウェアを微調整して好きなようにカスタマイズできる。
一部のソーシャルメディア企業も、自社のプラットフォームを有害なコンテンツからより適切に保護するために規則を厳格化している。
先月、TikTokは、ディープフェイクや加工されたコンテンツはすべて、偽物であるか何らかの形で改変されていることを示すラベルを付けなければならないと述べた。
ゲームプラットフォームのTwitchも、1月下旬に人気ストリーマーのAtrioc氏がライブ配信中にブラウザでディープフェイクポルノサイトを開いているところを撮影されたことを受けて、ディープフェイクに関するポリシーを最近更新した。
AppleとGoogleは最近、自社製品の宣伝のために性的に示唆的なディープフェイク動画を掲載していたとして、アプリをアプリストアから削除したと発表した。
西洋の歌手からK-POPアイドルへ。
ディープフェイクポルノに関する研究は稀ですが、AI企業DeepTrace Labsによる2019年の報告書によると、ディープフェイクポルノはほぼ全て女性を標的として利用されていることがわかりました。最も標的にされたのは欧米の女優で、次いでK-POP歌手でした。
Metaの広報担当者ダニ・レバー氏は声明の中で、同社のポリシーではAI生成および非AI生成の両方のアダルトコンテンツを制限しており、ディープフェイクを生成するアプリページが同社のプラットフォーム上で広告を掲載することも制限していると述べた。
2月、MetaはOnly****やPorn***といったアダルトサイトに加え、「Take It Down」と呼ばれるオンラインツールへの参加を開始しました。これは、10代の若者がインターネット上で見つけた自身の性的に露骨な画像や動画を報告できるツールです。このサイトは、スパイカメラによる動画とAI生成動画の両方をサポートしています。
ホアン・トン（AP通信による）
[広告2]
ソース
コメント (0)