Intelligence artificielle : la Malaisie suspend les opérations du chatbot Grok.

La Malaisie a temporairement suspendu l'accès au chatbot Grok – un outil d'intelligence artificielle (IA) développé par xAI, une société appartenant à X Corp. d'Elon Musk – après avoir découvert que la plateforme était utilisée à mauvais escient à plusieurs reprises pour créer des images pornographiques et offensantes qui violaient les droits personnels, en particulier ceux des femmes et des mineurs.

Dans un communiqué du 11 janvier, la Commission malaisienne des communications et du multimédia (MCMC) a déclaré avoir ordonné des restrictions d'accès immédiates à Grok pour les utilisateurs nationaux, suite à des avertissements répétés restés sans réponse et sans mesures correctives satisfaisantes de la part de X Corp. et xAI.

Selon l'autorité de régulation, Grok, directement intégré au réseau social X, a été utilisé pour créer, sans consentement, des images pornographiques, offensantes, vulgaires et manipulatrices, par de simples commandes textuelles. La MCMC a souligné : « Les contenus litigieux impliquaient des images de femmes et d'enfants, malgré nos efforts répétés pour collaborer avec le fournisseur et l'envoi de mises en demeure. »

Selon la MCMC, les mesures de protection de Grok ont été jugées insuffisantes, car la plateforme reposait principalement sur des mécanismes d'auto-déclaration des utilisateurs plutôt que sur un contrôle des risques dès la conception et les phases opérationnelles.

La déclaration de MCMC a précisé : « La société X Corp. n'a pas suffisamment pris en compte les risques inhérents liés au fonctionnement de cet outil d'IA. »

La Malaisie a également déclaré qu'elle n'envisagerait de rétablir l'accès qu'après que xAI aura démontré que les nouvelles mesures de protection ont été mises en œuvre et se sont avérées efficaces.

La décision de la Malaisie intervient dans un contexte de vives réactions internationales contre Grok, après que l'outil de génération d'images du chatbot a été jugé capable de sexualiser des images de femmes et d'enfants, soulevant de sérieuses inquiétudes quant aux deepfakes (fausses) contenus pornographiques générés par l'IA.

Avant que la Malaisie ne fasse cette déclaration, l'Indonésie était déjà devenue le premier pays à interdire complètement Grok, tandis que sur de nombreux autres marchés, l'outil n'est accessible qu'aux utilisateurs payants.

Selon des responsables européens et des organisations de défense des technologies, le passage à un modèle payant pour la création d'images – une nouvelle politique commerciale annoncée par Grok sur X le 9 janvier – ne peut pas résoudre le problème à la racine.

(VNA/Vietnam+)

Source : https://www.vietnamplus.vn/tri-tue-nhan-tao-malaysia-dinh-chi-hoat-dong-chatbot-grok-post1087863.vnp