Le FBI affirme que l'IA est utilisée à des fins d'extorsion et de harcèlement

Dans un avertissement diffusé cette semaine, le FBI a déclaré avoir récemment observé une augmentation du nombre de victimes de chantage qui disent avoir été ciblées à l'aide de l'IA pour éditer des images par ailleurs normales, tirées de publications en ligne, de messages personnels ou de chats vidéo , en de fausses versions.

La police espagnole a arrêté un programmeur qui utilisait l'IA pour créer de fausses images pédopornographiques. Photo : Daily Mail

« Les images sont ensuite envoyées directement aux victimes par les auteurs à des fins de chantage ou de harcèlement sexuel. Une fois diffusées, les victimes peuvent être confrontées à d'importantes difficultés pour empêcher la diffusion continue du contenu manipulé et le supprimer d'Internet », précise l'avertissement.

Le bureau a déclaré que les images semblaient « fidèles à la réalité », tout en notant que des enfants avaient également été ciblés dans certains cas.

En février, la police espagnole a arrêté un programmeur informatique qui utilisait l'IA pour créer d'horribles images d'abus sur mineurs, dans ce qui semble être l'une des premières arrestations de ce genre.

Le FBI n'a pas donné de détails sur les programmes d'IA utilisés pour créer des images sexuelles, mais a noté que les avancées technologiques « améliorent continuellement la qualité, la personnalisation et l'accessibilité de la création de contenu alimentée par l'IA ».

L’édition de photos ordinaires pour créer des images érotiques est presque aussi ancienne que la photographie elle-même, mais l’explosion récente des outils d’IA open source a rendu le processus plus facile que jamais.

Les fausses photos ou vidéos sont souvent impossibles à distinguer des versions réelles, et plusieurs sites Web et réseaux sociaux dédiés à la création et à l’échange d’images sexuelles alimentées par l’IA ont même émergé ces dernières années.

Il s’agit là d’un des nombreux risques que l’intelligence artificielle peut représenter pour la société, comme les experts s’en sont récemment inquiétés et ont mis en garde.

Hoang Anh (selon Daily Mail, Reuters)

Source: https://www.congluan.vn/fbi-cho-biet-ai-dang-duoc-su-dung-de-tong-tien-va-quay-roi-post250849.html