Leçons tirées de l'utilisation de l'IA

Auparavant, le rapport soumis par le Département au Comité populaire provincial contenait de nombreuses fautes d'orthographe, des erreurs techniques, des interprétations erronées du sujet et des inexactitudes fondamentales dans les données. Il s'agissait notamment de fautes d'orthographe, d'omissions et de déformations de mots : "mở dữ liệu" (données ouvertes) est devenu "mở dữ li" (données ouvertes li), "ươm tạo doanh nghiệp" (entreprises en incubation) est devenu "xà tạo" (incubation), "cơ hội và thách thức" (opportunités et défis) est devenu "cơ hội và sơ thức" (opportunités et connaissances initiales), "cuộc vận động" (campagne) est devenu "cuộc đua vận động" (course à la campagne), "27 hội nghị" (27 conférences) est devenu "27 hội viện" (27 parlements)... Ces erreurs élémentaires sont apparues avec une fréquence considérable, indiquant que l'examen et la vérification des documents avant la signature n'ont pas été effectués avec rigueur.

Certains termes techniques du rapport ont été mal utilisés ou gravement déformés, altérant complètement le sens des recommandations. Par exemple, l'expression « renforcement de l'axe de transport de la ceinture frontalière » a été remplacée par « renforcement de la ceinture frontalière » ; « construction d'une pépinière » par « construction de jeunes plants d'arbres similaires » ; « plateforme de réunion en ligne » par « plateforme d'exposition en ligne » ; et « écosystème éducatif » par « système d'éducation à la biodiversité ».

De nombreux aspects de la gestion étatique sont également mal interprétés, ce qui nuit à la compréhension et à la mise en œuvre. Par exemple, l'affirmation « détecté, vérifié et traité 94 cas ; engagé des poursuites judiciaires dans 51 cas impliquant 91 défendeurs » a été modifiée en « détecté, vérifié et traité 94 tâches ; mis en œuvre 51 services et 91 dispositifs potentiels », ce qui déforme complètement l'information et fait peser un risque important de malentendus au niveau de la direction et de la gestion.

Le rapport contient également des erreurs telles que des fautes d'orthographe dans les noms de tâches scientifiques , de programmes et de sujets de recherche ; des fautes d'orthographe dans les noms de vestiges et de monuments historiques et culturels ; et même des distorsions dans les noms de documents juridiques, d'organismes émetteurs et de contenus cités, ce qui rend le rapport juridiquement invalide et inutilisable.

De nombreux avis suggèrent que le « rapport » susmentionné présente les caractéristiques d'une rédaction réalisée à l'aide d'outils en ligne et d'intelligence artificielle, sans contrôle, relecture ni évaluation par des professionnels. Ce phénomène est très préoccupant, car un service spécialisé, avant de publier un rapport de consultation, doit passer par plusieurs niveaux de validation, allant des spécialistes et services fonctionnels à la direction. Or, ces niveaux de validation présentent des failles, permettant ainsi à un rapport aussi bâclé et irresponsable de passer entre les mailles du filet.

Cet incident révèle également que l'utilisateur de l'outil en ligne, l'IA ayant généré le « rapport », a enfreint l'article 4, paragraphe 2, de la loi sur l'intelligence artificielle, relatif au principe fondamental de son fonctionnement : « L'IA est au service de l'humanité, elle ne saurait se substituer à l'autorité et à la responsabilité humaines. Elle garantit le maintien du contrôle humain et la possibilité d'intervenir dans toutes les décisions et actions du système d'IA. » Dans ce cas précis, il n'est pas exclu que le fonctionnaire ait entièrement délégué la rédaction du rapport à l'IA, ce qui aurait abouti au « produit » susmentionné.

Suite à cet incident, le président du comité populaire local a demandé au directeur du département compétent d'enquêter sur les causes de l'affaire, de rectifier en profondeur les pratiques de conseil et de renforcer le processus d'utilisation de l'IA. Pour tous, il s'agit d'une leçon importante concernant l'utilisation des outils numériques et de l'IA : il est essentiel de rappeler que, dans de nombreuses activités, l'IA ne peut qu'assister l'humain ; elle doit être contrôlée, encadrée et faire l'objet d'une obligation de rendre des comptes.

Comment (0)