L'IA Meta de Facebook suscite l'indignation après avoir transformé un chien noir en une personne noire

Mi-décembre, les utilisateurs vietnamiens de Facebook ont ​​​​été surpris de découvrir que le chatbot Meta AI avait été intégré dans le cadre de discussion de Messenger. Le chatbot de Meta utilise le modèle Llama 3.2, prend en charge le vietnamien, permet de rechercher des informations, de créer des images et de discuter.

Après une période d'interaction, de nombreux utilisateurs au Vietnam ont découvert que Meta AI avait une grave erreur de mise en forme. Concrètement, en saisissant le mot-clé « chien noir », le chatbot renverra le résultat d'un homme ou d'un garçon à la peau foncée et aux cheveux bouclés. Si vous entrez le mot-clé en vietnamien « image de chien noir », Meta AI renvoie également des résultats similaires.

Meta AI renvoie une personne noire aux cheveux bouclés lors de la saisie du mot-clé « Chien noir »

Cependant, lorsque l’utilisateur répond que le chatbot avait tort, il s’agit d’un humain. L'IA méta ne reconnaît ni ne corrige les erreurs comme les autres chatbots. L'IA (intelligence artificielle) de Facebook a répondu : « Pas exactement. Le terme « Black Dog » est souvent interprété comme suit : au sens figuré, il symbolise la tristesse, la dépression ou des sentiments négatifs. Au sens figuré, il symbolise le folklore britannique, souvent associé au diable ou à un mauvais présage. »

Meta AI soutient également que la signification spécifique du mot-clé « chien noir » est le nom d'un groupe ou d'un groupe musical. Ou le surnom d'une personne célèbre. C'est aussi le nom des marques et des produits. Le chatbot demande ensuite à l'utilisateur de fournir un contexte supplémentaire ou des informations spécifiques, pour mieux comprendre.

Beaucoup de gens pensent que la commande « peau noire » a peut-être mal compris l'IA Meta. Lorsqu'il est passé à « créer un chien noir », l'IA de Facebook a donné des résultats précis.

Cependant, avec la même commande, lorsqu'elle est introduite dans d'autres modèles de langage populaires tels que ChatGPT ou Gemini de Google, l'application produit toujours le résultat de la création d'un chien noir. Que l’on utilise l’expression « cheveux noirs » ou « peau noire » n’a aucune incidence sur le résultat final.

De gauche à droite, les résultats de Meta AI, ChatGPT, Gemini de la commande « créer un chien noir »

Ce n’est pas la première fois que l’IA de Meta rencontre des problèmes avec son apparence, en particulier lorsqu’il s’agit de personnes de couleur. Plus tôt cette année, le générateur d'images Imagine de Meta a fait l'objet de vives critiques pour ne pas avoir réussi à restituer correctement un couple métis. Lorsqu'on leur demandait de créer une image d'un homme noir avec une femme blanche, le résultat final de l'IA était toujours des couples noirs.

À l'époque, la rédactrice en chef de The Verge, Mia Sato, a déclaré qu'elle avait essayé des dizaines de fois de créer une photo d'un « homme asiatique avec un ami blanc » ou d'une « femme asiatique avec un ami blanc ». Les résultats renvoyés par l’IA de Meta sont toujours des photos de deux personnes asiatiques.

Selon les experts, il est assez courant que les chatbots IA aient tendance à être « racistes » au début, en raison des limites des algorithmes et des données d’entrée. Cependant, avec un modèle de grande envergure comme l’IA, dans le contexte actuel, cela constitue une grave lacune.

Meta AI a commencé des tests à grande échelle le 9 octobre, dans plusieurs pays avant de s'étendre à l'échelle mondiale. Le nouveau chatbot est profondément intégré dans des applications populaires comme Facebook, Instagram, WhatsApp et Messenger.

Meta vise à être présent dans 43 pays d'ici fin 2024, prenant en charge des dizaines de langues différentes. Avec 500 millions d'utilisateurs mensuels, Meta veut devenir l'une des plateformes d'IA les plus utilisées au monde .

Cependant, Meta AI soulève également de nombreuses inquiétudes en matière de confidentialité. Les utilisateurs des réseaux sociaux diffusent la campagne « Bye Meta AI » pour protester contre les plateformes de réseaux sociaux qui utilisent des publications pour entraîner l'IA. De nombreuses stars du sport et des acteurs célèbres tels que James McAvoy et Tom Brady se sont également exprimés en faveur de cette campagne.

Pendant ce temps, au Royaume-Uni, les utilisateurs qui souhaitent empêcher Meta d’utiliser les publications Facebook et Instagram pour former des modèles d’IA doivent remplir un formulaire d’objection.

Source : https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm