Attention au côté obscur de l'IA

Atelier de réflexion pour peaufiner le projet de loi sur l'intelligence artificielle (IA). (Photo : Huong Nguyen)

Les incidents récents impliquant des préjugés et la falsification de documents ont amené les chercheurs à reconsidérer le niveau approprié d’implication de l’IA dans la recherche.

Récemment, sur sa page personnelle, le professeur et docteur en linguistique Nguyen Van Hiep a partagé une anecdote qui a choqué ses lecteurs. Il a découvert qu'une intelligence artificielle avait falsifié ses documents à partir d'informations envoyées par un ami. Il a également découvert par hasard que l'article du professeur associé et docteur en sciences Tran Van Co avait également été falsifié par une intelligence artificielle.

L'IA est devenue un élément indispensable de la vie humaine. Cependant, les experts insistent toujours sur le fait qu'il ne faut la considérer que comme un outil complémentaire. Les utilisateurs d'IA doivent toujours être vigilants et compétents pour traiter les données et évaluer les résultats obtenus après avoir « coopéré » avec elle. En recherche scientifique notamment, de nombreuses études ont montré que le principal problème auquel il faut être vigilant est celui des biais dans les données et les modèles. L'IA peut être biaisée, fausser les résultats d'analyse, engendrer des préjugés ou des discriminations, et manipuler l'information si elle n'est pas correctement contrôlée.

En particulier, l'utilisation de l'IA dans la recherche en sciences sociales exige une plus grande prudence. Étant donné que des disciplines comme la philosophie, la linguistique, l'ethnologie et l'histoire, notamment, prennent toutes comme objet de recherche le comportement, la culture et les comportements humains, les données sont souvent étroitement liées au contexte socioculturel vietnamien, avec profondeur et spécificité. Si les données d'entraînement de l'IA reflètent des préjugés historiques, le risque est que l'IA tire des conclusions qui exacerbent les inégalités de genre, de classe sociale, d'origine ethnique ou de région géographique. Le risque est encore plus grand lorsque l'IA est utilisée pour analyser le comportement humain, répondre à des enquêtes ouvertes ou participer à des contenus médiatiques.

Selon certains experts en sciences sociales, l’IA a actuellement du mal à accéder aux sources de données protégées par le droit d’auteur ou payantes, ce qui entraîne des informations incomplètement mises à jour.

Le phénomène de fabrication de documents pour créer des histoires plausibles se produit souvent sur des sujets moins populaires, dans des langues aux sources de données limitées comme le vietnamien, et il convient d'en avertir les utilisateurs. Les systèmes d'IA en général sont actuellement très limités dans leur compréhension du contexte social et culturel ; leur aide à l'interprétation de connaissances en sciences sociales ambiguës et riches en métaphores n'est donc pas vraiment fiable.

Bien qu’elle apporte beaucoup de potentiel dans la recherche scientifique, l’application de l’IA doit être très prudente, a des limites et doit toujours aller de pair avec la capacité de réflexion critique du chercheur.

Il apparaît clairement que, malgré son fort potentiel pour la recherche scientifique, l'application de l'IA doit être prudente, limitée et toujours accompagnée du sens critique du chercheur. Le sujet utilisant l'IA doit clairement identifier ces limites, afin de garantir que l'IA ne modifie pas les valeurs fondamentales de la science. Afin de protéger l'intégrité de la recherche scientifique, le rôle et la responsabilité des scientifiques doivent être rehaussés. De plus, il est nécessaire de proposer un cadre éthique juridiquement contraignant pour l'IA, tenant compte de la culture, des traditions et des normes sociales vietnamiennes.

Nous disposons d'un système de neuf principes visant à promouvoir la recherche et le développement de systèmes d'IA sûrs et responsables, à limiter les impacts négatifs et à maîtriser les risques, proposé par le ministère des Sciences et des Technologies . Ce système met l'accent sur la sécurité des données, le respect des droits humains et de la dignité humaine, ainsi que la responsabilité des utilisateurs de l'IA. Concernant la recherche scientifique en particulier, le Conseil d'État des professeurs a également publié le communiqué officiel n° 25/HDGSNN en 2023, demandant aux conseils des titres de professeurs de l'industrie et aux organismes d'évaluation de la qualité des travaux scientifiques d'accorder une attention particulière à la détection et à l'évaluation des travaux utilisant ou bénéficiant de l'IA. Ces exigences visent à garantir que les résultats de recherche utilisant l'IA respectent toujours les normes scientifiques, empêchant ainsi tout abus de l'IA dans la recherche et la publication scientifiques.

Dans les temps à venir, lorsque la loi sur l'intelligence artificielle sera promulguée, avec des réglementations strictes liées à l'éthique et à la responsabilité dans l'utilisation de l'IA, elle contribuera à créer un environnement sain pour le développement de l'IA, en fournissant un soutien plus actif et responsable aux scientifiques dans leurs travaux de recherche.

Comment (0)