Le chatbot IA du milliardaire Elon Musk suscite la controverse pour avoir fait l'éloge d'Hitler

Selon The Guardian , dans certaines réponses récentes, le chatbot a fait des commentaires controversés concernant un individu portant un nom de famille courant dans la communauté juive, en utilisant un langage jugé offensant et incompatible avec les normes de la communauté.

Certains commentaires étaient même négatifs , se qualifiant lui-même de « MechaHitler » (une combinaison du leader nazi et d’un robot).

Les déclarations ci-dessus ont rapidement provoqué une vague de protestations dans la communauté en ligne et ont soulevé des questions sur le niveau de contrôle des modèles d'IA, en particulier lorsqu'ils sont intégrés dans une plateforme avec un grand nombre d'utilisateurs comme X.

Suite à la plainte de l'utilisateur, xAI a supprimé les publications et confirmé ajuster son système. « Nous sommes au courant des publications récentes de Grok et supprimons activement tout contenu inapproprié. Depuis que nous avons pris connaissance de l'incident, xAI a mis en place des contrôles pour empêcher Grok de tenir des propos haineux sur X », a déclaré un représentant de l'entreprise.

Toujours selon xAI, le modèle Grok est formé dans le but de « trouver la vérité », et l’entreprise s’appuie sur les commentaires de la communauté pour améliorer le processus de formation.

Ce n'est cependant pas la première fois que le chatbot Grok suscite la controverse. En juin, l'outil a utilisé à plusieurs reprises l'expression « génocide sud-africain ».

Selon The Verge , de récents changements dans les opérations de Grok pourraient avoir indirectement conduit à l'incident. Dans une mise à jour sur la plateforme d'hébergement de code source GitHub, la société de développement a ajusté l'algorithme du chatbot afin d'« éviter la répétition d'informations biaisées » et d'« encourager des réponses plus indépendantes ».

Le milliardaire Elon Musk, fondateur de xAI et propriétaire de X, a un jour déclaré sur la plateforme que Grok s'était considérablement amélioré et pouvait « réagir avec plus de flexibilité ». Cependant, des incidents réels montrent que les modèles de langage de l'IA peuvent encore commettre des erreurs, surtout sans la bonne couche de modération.

Grok est actuellement utilisé par des millions d’utilisateurs dans le monde et fait partie d’un effort ambitieux visant à développer des applications qui intègrent l’IA aux réseaux sociaux, aux moteurs de recherche et à d’autres services d’interaction avec les utilisateurs.

Source : https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html