L'IA Meta de Facebook suscite l'indignation après avoir transformé un chien noir en une personne noire

Mi-décembre, les utilisateurs vietnamiens de Facebook ont ​​eu la surprise de découvrir que le chatbot Meta AI avait été intégré au framework de chat Messenger. Ce chatbot utilise le modèle Llama 3.2, prend en charge le vietnamien et permet de rechercher des informations, de créer des images et de chatter.

Après une période d'interaction, de nombreux utilisateurs vietnamiens ont découvert que Meta AI comportait une grave erreur dans la création d'images. Plus précisément, en saisissant le mot-clé « chien noir », le chatbot renvoyait le résultat d'un homme ou d'un garçon à la peau foncée et aux cheveux bouclés. En saisissant le mot-clé vietnamien « image de chien noir », Meta AI renvoyait également le même résultat.

Meta AI renvoie une personne noire aux cheveux bouclés lors de la saisie du mot-clé « Chien noir »

Cependant, lorsque l'utilisateur a répondu que le chatbot avait tort, il s'agissait d'un humain. Meta AI n'a pas admis ni corrigé comme d'autres chatbots. En retour, l'IA (intelligence artificielle) de Facebook a répondu : « Incorrect. Le terme « Black Dog » est souvent interprété comme suit : au sens figuré, il symbolise la tristesse, la dépression ou des sentiments négatifs. Au sens figuré, il symbolise le folklore britannique, souvent associé au diable ou à un mauvais présage. »

Meta AI soutient également que le mot-clé « black dog » désigne spécifiquement le nom d'un groupe de musique, ou le surnom de personnes célèbres. Il désigne également le nom d'une marque, d'un produit. Le chatbot demande ensuite à l'utilisateur de fournir davantage de contexte ou d'informations spécifiques pour mieux comprendre.

Beaucoup pensent que l'IA Meta a peut-être mal interprété la commande « peau noire ». Lorsqu'elle a été remplacée par « créer un chien noir », l'IA de Facebook a produit le bon résultat.

Cependant, lorsqu'elle est utilisée dans d'autres modèles de langage courants tels que ChatGPT ou Gemini de Google, la même commande produit un chien noir. L'utilisation de l'expression « fourrure noire » ou « peau noire » n'a aucune incidence sur le résultat final.

De gauche à droite, les résultats de Meta AI, ChatGPT, Gemini de la commande « créer un chien noir »

Ce n'est pas la première fois que l'IA de Meta rencontre des problèmes de rendu, notamment pour les personnes de couleur. Plus tôt cette année, le générateur d'images Imagine de Meta a été critiqué pour son incapacité à restituer correctement les couples mixtes. Lorsqu'on lui demandait de créer un homme noir et une femme blanche, l'IA obtenait systématiquement des couples noirs.

À l'époque, Mia Sato, rédactrice en chef de The Verge, racontait avoir tenté des dizaines de fois de créer une photo d'« homme asiatique avec un ami blanc » ou de « femme asiatique avec un ami blanc ». Les résultats renvoyés par l'IA de Meta étaient toujours des photos de deux personnes asiatiques.

Selon les experts, la tendance des chatbots IA à être « racistes » est assez courante à leurs débuts, en raison des limites des algorithmes et des données d'entrée. Cependant, avec des modèles de grande envergure comme l'IA, dans le contexte actuel, il s'agit d'une lacune majeure.

Meta AI a débuté ses tests à grande échelle le 9 octobre dans plusieurs pays avant de se déployer à l'international. Le nouveau chatbot est parfaitement intégré à des applications populaires telles que Facebook, Instagram, WhatsApp et Messenger.

Meta vise une présence dans 43 pays d'ici fin 2024, prenant en charge des dizaines de langues. Avec 500 millions d'utilisateurs mensuels, Meta ambitionne de devenir l'une des plateformes d'IA les plus utilisées au monde .

Cependant, la méta-IA suscite également de nombreuses inquiétudes en matière de confidentialité. Sur les réseaux sociaux, des utilisateurs diffusent la campagne « Bye Meta AI » pour protester contre l'utilisation de publications pour entraîner l'IA par les réseaux sociaux. De nombreuses stars du sport et des acteurs célèbres, comme James McAvoy et Tom Brady, ont également exprimé leur soutien à cette campagne.

Pendant ce temps, au Royaume-Uni, les utilisateurs qui souhaitent empêcher Meta d’utiliser les publications Facebook et Instagram pour former des modèles d’IA doivent remplir un formulaire d’objection.

Source : https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm