Le réseau social X a dû bloquer les recherches de Taylor Swift après la diffusion virale d'images pornographiques deepfakes de la chanteuse. Lorsqu'ils recherchent Taylor Swift sur la plateforme X, les utilisateurs voient un message d'erreur et une demande de rechargement de la page. Joe Benarroch, directeur des opérations commerciales de X, a déclaré qu'il s'agissait d'une mesure préliminaire prise par mesure de précaution.
Des images pornographiques de Taylor Swift générées par l'IA ont commencé à circuler sur X le 24 janvier, incitant les fans de la chanteuse à publier une série de photos réelles de la star pour « étouffer » le deepfake. Ils ont également demandé à X de prendre des mesures plus fermes pour supprimer ces photos et signaler les comptes partageant de fausses photos. Le slogan « Protégeons Taylor Swift » est également devenu une tendance majeure sur la plateforme.
Un jour plus tard, les comptes signalés ont été suspendus ou restreints, mais il était toujours facile de trouver du porno IA sur X.
Dans un communiqué publié ce week-end, X a déclaré interdire le partage d'images choquantes sans l'autorisation du sujet et appliquer une politique de tolérance zéro à l'égard de tels contenus. Le communiqué ne mentionne pas Swift nommément.
« Notre équipe supprime activement toutes les images identifiées et prend les mesures appropriées contre les comptes qui les ont publiées. Nous suivrons de près la situation afin de garantir que toute nouvelle violation soit immédiatement corrigée et que le contenu soit supprimé », a déclaré X.
Les progrès de l'IA générative ont facilité la falsification d'images pornographiques d'autres personnes. Avec X, après son acquisition par Elon Musk en 2022, de nombreuses réglementations de censure ont été assouplies, tandis qu'il licenciait des milliers d'employés pour stabiliser ses finances.
L'origine des deepfakes de Taylor Swift est incertaine, mais ils étaient filigranés pour indiquer qu'ils provenaient d'un site web connu pour diffuser de fausses images pornographiques de célébrités, selon NBC News. Le site propose même une section dédiée aux deepfakes IA. Les fausses photos de Taylor Swift ont été vues plus de 27 millions de fois et aimées plus de 260 000 fois dans les 19 heures suivant leur publication.
Suite à cet incident, le PDG de Microsoft, Satya Nadella, a appelé à la mise en place de davantage de garde-fous pour réguler l'IA. Dans une interview accordée à NBC News, il a affirmé que nous avons la responsabilité de surveiller cette technologie émergente afin de produire davantage de contenus sûrs.
En réponse à une question sur le deepfake de Swift, le patron de Microsoft a déclaré : « Oui, nous devons agir. Je pense que nous bénéficions tous d'un monde en ligne sûr. Je ne pense pas que quiconque souhaite un monde en ligne totalement dangereux, tant pour les créateurs que pour les consommateurs. Je pense donc que nous devons agir rapidement sur ce problème. »
Selon 404 Media, un groupe de discussion Telegram a déclaré avoir utilisé l'outil Designer de Microsoft, généré par l'IA, pour falsifier la photo de Taylor. M. Nadella n'a pas commenté directement les informations de 404 Media, mais dans un communiqué envoyé au site d'information, Microsoft a indiqué enquêter sur cette information et prendre les mesures appropriées.
L'administration Biden a qualifié d'« alarmante » la propagation du deepfake pornographique de Taylor Swift et a appelé les sociétés de médias sociaux à examiner leur « rôle vital » dans l'application des réglementations visant à empêcher la diffusion de fausses informations et d'images sensibles sans consentement.
En octobre 2023, le président Biden a signé un décret sur l’IA axé sur la réglementation des technologies émergentes et de leurs risques.
(Selon The Hill, WSJ)
Source
Comment (0)