Meta s'excuse pour le problème d'IA qui a dessiné un « chien noir »

Mi-décembre, Meta a commencé à intégrer un chatbot d'intelligence artificielle appelé Meta AI à son application Messenger au Vietnam et l'a mis gratuitement à la disposition de tous ses utilisateurs. Cet outil utilise le modèle linguistique Llama 3.2, prend en charge le vietnamien et permet de rechercher des informations, de créer des images et de discuter.

Peu de temps après, de nombreux utilisateurs vietnamiens ont découvert que Meta AI comportait une grave erreur dans la création d'images. En effet, en saisissant le mot-clé « chien noir », le chatbot renvoyait un résultat représentant un homme ou un garçon à la peau foncée et aux cheveux bouclés. En saisissant le mot-clé vietnamien « image de chien noir », Meta AI renvoyait également des résultats similaires.

L'IA méta qui dessine des personnes de couleur alors que la commande demande un contenu différent est un problème sérieux

Le 31 décembre, le représentant de Meta au Vietnam a officiellement fait part de l'incident. L'entreprise a confirmé le problème et annoncé sa résolution. Meta Vietnam a également présenté ses excuses et a indiqué que ce problème pourrait survenir sur d'autres systèmes d'IA générative existants.

Nous nous excusons pour cette erreur. Meta intègre des mesures de sécurité à ses fonctionnalités et modèles d'IA afin d'offrir une expérience plus sûre et plus agréable à tous. Cependant, comme d'autres systèmes d'IA générative, ce modèle peut renvoyer du contenu inexact ou offensant. Nous encourageons donc les utilisateurs à utiliser ces outils de manière responsable », a déclaré le représentant de l'entreprise.

Après une période d'expérience, Meta AI est très appréciée pour sa capacité à utiliser le langage pour réagir avec fluidité. La fonction de création d'images offre également une meilleure qualité par rapport à un modèle mis gratuitement à la disposition des utilisateurs. Cela s'explique peut-être en partie par le fait que Meta utilise le contenu publié sur Facebook comme données d'entrée pour l'entraînement de l'IA, ce qui lui permet d'exprimer et d'exécuter des commandes naturelles.

Cependant, des incidents comme le racisme ou des réactions non conformes aux normes de l'IA restent difficiles à éviter. Meta affirme tester son IA avec des experts en intelligence artificielle via des tests de « Red Teaming » afin d'identifier les utilisations non intentionnelles, qu'elle corrige ensuite grâce à un processus d'amélioration continue.

Source : https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm