Intelligence artificielle : nous devons renforcer la sécurité au lieu de nous concentrer uniquement sur le développement de systèmes plus puissants.

Au lieu de se concentrer uniquement sur le développement d'une IA plus puissante, des experts mondiaux influents en IA avertissent que les humains doivent réfléchir d'urgence à la manière de vivre avec l'IA – une entité plus intelligente qu'eux – afin d'empêcher qu'elle ne prenne le contrôle des humains.

La table ronde « L’IA au service de l’humanité : éthique et sécurité de l’IA dans la nouvelle ère », organisée dans le cadre de la Semaine de la science et de la technologie VinFuture 2025, réunit des scientifiques , des politiciens et des inventeurs pour discuter d’un développement responsable de l’IA, orienté vers des valeurs humanistes.

Réfléchissez d'urgence à la manière de vivre avec l'IA, une entité plus intelligente que vous.

Lors du séminaire, le professeur Toby Walsh, de l'Université de Nouvelle-Galles du Sud (Australie) et membre de l'American Computer Association, a affirmé : « Je suis fermement convaincu que l'utilisation responsable de l'IA devrait être obligatoire. De nombreuses incitations perverses existent aujourd'hui, l'IA générant d'énormes profits, et le seul moyen de garantir un comportement éthique est d'appliquer une réglementation stricte, afin que l'intérêt public soit toujours en équilibre avec les intérêts commerciaux. »

Il a cité un exemple typique de décisions importantes, telles que le jugement et la condamnation aux États-Unis, où un système d'IA a été utilisé pour formuler des recommandations sur la peine d'emprisonnement d'une personne et sur la probabilité de récidive. Malheureusement, ce système a été entraîné sur des données historiques et a involontairement reflété des préjugés raciaux passés, entraînant une discrimination à l'encontre des personnes noires.

Professeur Toby Walsh, Université de Nouvelle-Galles du Sud, Australie, membre de l'American Computer Society.

Par conséquent, les entreprises qui déploient et exploitent des systèmes d'IA doivent être tenues responsables des conséquences engendrées par ces « machines ».

Le professeur Geoffrey Hinton, lauréat du prix principal VF 2024, s'inquiète de la capacité croissante de l'IA à concevoir des virus dangereux, des cyberattaques et à créer de fausses vidéos pour perturber les élections. D'ici 20 ans, l'IA deviendra plus intelligente que nous et nous ne saurons plus comment l'empêcher de prendre le contrôle.

Par conséquent, ce professeur a souligné : « Nous devons réfléchir d'urgence à la manière de vivre avec des entités plus intelligentes que nous. C'est une situation à laquelle l'humanité n'a jamais été confrontée auparavant ; elle est inédite et nous devons déployer d'importants efforts de recherche avant qu'elle ne se produise. »

Il est nécessaire de renforcer la coopération internationale pour limiter les risques liés à l'IA

Partageant cette préoccupation, le professeur Yoshua Bengio, lauréat du prix principal VinFuture 2024, a déclaré que les modèles d'IA, leurs capacités et leurs niveaux d'autonomie continuent de se développer à un rythme rapide et constant. Si cette tendance se maintient, les systèmes d'IA autonomes pourraient surpasser les humains dans la plupart des tâches cognitives d'ici 5 à 10 ans seulement.

Ce serait un tournant historique susceptible d'améliorer considérablement notre qualité de vie. Mais, si l'on n'y prend pas garde, cela pourrait aussi engendrer d'énormes risques pour la démocratie, la stabilité géopolitique, voire l'avenir de l'humanité.

« Nous devons renforcer la sécurité des IA avancées au lieu de nous concentrer uniquement sur leur renforcement. La sécurité et la confiance ne sont pas des facteurs secondaires, mais essentiels au processus de développement au service de l'humanité. Nous devons agir de concert aux niveaux politique et scientifique », a-t-il déclaré.

Professeur Yoshua Bengio - Lauréat du grand prix VinFuture 2024.

Ce scientifique recommande, sur le plan politique, une coopération internationale. Sur le plan scientifique, il est nécessaire de mieux comprendre comment concevoir une IA à la fois performante et inoffensive pour l'humain, de conserver la capacité de la contrôler afin qu'elle se comporte de manière sûre même lorsque les humains lui demandent d'agir mal, et de mettre en place des barrières techniques et sociales pour garantir que l'IA soit conforme aux normes, intentions, valeurs et intérêts humains.

Le Dr Vinton Grey Cert (vice-président et directeur de l'évangélisation Internet chez Google – lauréat du Grand Prix VF 2022) partage cet avis : il est impératif de responsabiliser l'IA et d'établir une chaîne de traçabilité afin de savoir précisément ce qu'elle fait, quand, et surtout en cas de problème. Nombre de principes applicables aux humains le sont également aux agents d'IA dans l'environnement en ligne.

« Nous devons simultanément instaurer de nouvelles normes, où l'utilisation d'une identification forte, du chiffrement pour sécuriser les informations, la mise en place de mécanismes garantissant la responsabilité et la protection des identités contre l'usurpation d'identité deviennent des pratiques courantes. Nous devons utiliser la technologie pour limiter les risques dès le départ et affirmer clairement que toute personne dont le comportement nuit à la communauté et à la société doit en assumer les conséquences. Cela exige une coopération internationale », a-t-il déclaré.

Le Vietnam doit tracer sa propre voie en matière de développement de données pour l'IA.

Le professeur associé Luu Anh Tuan, de l'Université technologique de Nanyang (Singapour) et de l'Université VinUni (Vietnam), a déclaré que d'autres pays disposent de bases de données couvrant une dizaine d'années, tandis que le Vietnam part de zéro. Par conséquent, nous pouvons constituer dès le départ des bases de données durables, en fournissant des données fiables, éthiques et adaptées au contexte culturel.

Cependant, le plus grand défi pour le Vietnam réside dans la spécificité de sa langue. Nous possédons un système dialectal diversifié, une culture régionale riche et des formules d'adresse extrêmement complexes. De grands modèles comme ChatGPT ou Gemini prennent en charge le vietnamien, mais la qualité de l'interprétation reste superficielle car ils ne comprennent ni le dialecte, ni les coutumes, ni l'histoire du pays.

Le Vietnam doit élaborer son propre modèle. De plus, il convient de développer un modèle open source afin que les PME puissent l'utiliser et y contribuer. « Si nous nous contentons d'utiliser des modèles étrangers opaques, nous ne serons que des utilisateurs d'IA et non des développeurs », a-t-il déclaré.

Actuellement, le professeur agrégé Luu Anh Tuan et ses collègues travaillent à la constitution d'une base de données pour l'IA vietnamienne. Des facteurs tels que le dialecte, l'histoire et la culture doivent être pris en compte.

Il a également indiqué qu'à l'étranger, les élèves sont sensibilisés très tôt à l'IA. Le Vietnam commence tout juste à progresser dans ce domaine, mais nous pouvons accélérer le rythme en apprenant et en nous adaptant.

« Les jeunes Vietnamiens sont très dynamiques ; il faut simplement les sensibiliser pleinement à la responsabilité numérique. Nous devrions disposer d'un organisme unifié pour garantir et normaliser la qualité des données et les normes éthiques. L'Université de VinUni participe également à ce conseil pour élaborer un système de normes éthiques et continuera d'y contribuer », a-t-il déclaré.

Professeur associé Luu Anh Tuan, Université technologique de Nanyang (Singapour), Université VinUni (Vietnam).

En réponse à la stratégie d'IDE visant à faire du Vietnam un leader régional en IA d'ici 2030, le professeur associé Tuan estime que le Vietnam dispose de ressources humaines de grande qualité, comme en témoignent ses succès internationaux en mathématiques, en physique et en chimie. Si nous parvenons à mobiliser nos forces et à mettre en œuvre des politiques ambitieuses, l'objectif de 2030 pourra être pleinement atteint.

Le professeur Toby Walsh recommande au Vietnam d'investir dans son capital humain et de développer activement les compétences de sa population, de s'assurer qu'elle maîtrise l'IA et de soutenir les entrepreneurs, les entreprises et les universités spécialisées dans ce domaine. Au lieu d'attendre que d'autres pays nous transfèrent des technologies ou nous guident, nous devons prendre l'initiative et maîtriser cette technologie.

Par ailleurs, le Vietnam doit mobiliser fortement les plateformes de réseaux sociaux afin de créer un environnement sûr pour les utilisateurs nationaux, sans porter atteinte à la démocratie du pays.

THAO LE-THIEN LAM

Source : https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html