FBIは今週配布された警告の中で、オンライン投稿や個人メッセージ、 ビデオチャットから取得した通常の画像をAIを使って偽物に編集したとして脅迫を受けたという被害者が最近増加していると述べた。
スペイン警察はかつて、AIを使って偽の児童ポルノ画像を作成したプログラマーを逮捕した。写真：デイリー・メール
「その後、加害者はこれらの画像を直接被害者に送りつけ、脅迫やセクハラに利用します。一度拡散されると、被害者は改ざんされたコンテンツの継続的な共有を阻止し、インターネットから削除するという大きな困難に直面する可能性があります」と警告は述べている。
同局は、これらの写真は「実物に忠実」であると述べたが、一部のケースでは子供たちも狙われていたと指摘した。
2月にスペインの警察は、AIを使って恐ろしい児童虐待画像を作成したコンピュータープログラマーを逮捕したが、これはこの種の逮捕としては初のケースの一つと考えられている。
FBIは性的画像の作成に使用されたAIプログラムについては詳しく述べなかったが、技術の進歩により「AIを活用したコンテンツ作成の品質、カスタマイズ性、アクセシビリティが継続的に向上している」と指摘した。
通常の写真を編集してエロティックな画像を作成するという行為は写真撮影自体と同じくらい古いものですが、最近のオープンソース AI ツールの爆発的な増加により、このプロセスはこれまで以上に簡単になりました。
偽の写真や動画は実物と区別がつかないことが多く、近年ではAIを活用した性的画像の作成や交換に特化したウェブサイトやソーシャルネットワークも数多く登場している。
これは、専門家が最近懸念し警告しているように、人工知能が社会にもたらす可能性のある一連のリスクの 1 つだと考えられています。
ホアン・アイン氏（デイリーメール、ロイター通信による）
[広告2]
ソース
コメント (0)