Que devrait faire le Vietnam pour éviter le risque de devenir une ressource bon marché ?

(Dan Tri) - Dans le contexte où le Vietnam est l'un des pays pionniers envisageant de promulguer la loi sur l'IA, le problème n'est pas seulement de promouvoir la technologie mais aussi de protéger la souveraineté numérique et la sécurité des personnes.

L’explosion de l’intelligence artificielle (IA) apporte de grands avantages à l’humanité, mais entraîne également d’innombrables conséquences : des préjugés raciaux à la fraude en ligne sophistiquée, en passant par le risque que les pays en développement deviennent de simples « mines de données ».

Face à cette réalité, l’utilisation responsable de l’IA devrait-elle être volontaire ou obligatoire ? Que devrait faire le Vietnam pour mettre en place un cadre juridique adapté à ce domaine ?

En marge de l'événement VinFuture Science and Technology Week, le journaliste s'est entretenu avec le professeur Toby Walsh de l'Université de Nouvelle-Galles du Sud (Australie), membre de l'American Computer Society.

Le professeur livre des réflexions sur la façon dont nous « nous comportons » avec l'IA, depuis la responsabilisation des « machines » jusqu'aux conseils destinés aux familles pour se protéger de la vague d'escroqueries de haute technologie.

Qui est responsable de l'IA ?

Professeur, l’utilisation responsable de l’IA doit-elle être volontaire ou obligatoire ? Et comment devrions-nous nous comporter concrètement face à l’IA ?

Je suis fermement convaincu que l'utilisation responsable de l'IA devrait être obligatoire . Des incitations perverses sont à l'œuvre , compte tenu des sommes colossales générées par l'IA, et le seul moyen de garantir un comportement éthique est d'imposer une réglementation stricte , afin que l'intérêt public soit toujours en adéquation avec les intérêts commerciaux .

Qui est responsable lorsqu'une IA commet une erreur ? Notamment en ce qui concerne les agents IA, avons-nous la capacité de corriger leurs mécanismes de fonctionnement ?

Le problème fondamental des erreurs commises par l'IA réside dans l'impossibilité de la tenir responsable. L'IA n'est pas humaine – et c'est là une faille inhérente à tous les systèmes juridiques du monde . Seuls les humains peuvent être tenus responsables de leurs décisions et de leurs actes.

Soudain, un nouvel « agent », l’IA, peut – si nous le lui permettons – prendre des décisions et agir dans notre monde, ce qui pose un défi : qui sera tenu responsable ?

La réponse est la suivante : les entreprises qui déploient et exploitent des systèmes d'IA doivent être tenues responsables des conséquences engendrées par ces « machines ».

De nombreuses entreprises parlent également d'IA responsable. Comment leur faire confiance ? Comment savoir si elles sont sérieuses et concrètes, et non pas si elles utilisent simplement l'« IA responsable » comme argument marketing ?

Il est nécessaire d'accroître la transparence. Il est important de comprendre les capacités et les limites des systèmes d'IA. Nous devons également « voter par l'action », c'est-à-dire choisir d'utiliser ces services de manière responsable.

Je crois sincèrement que la manière dont les entreprises utilisent l'IA de façon responsable deviendra un facteur de différenciation sur le marché, leur conférant un avantage commercial.

Si une entreprise respecte les données de ses clients, elle en tirera profit et attirera de nouveaux clients. Les entreprises comprendront qu'agir de manière responsable est non seulement éthique, mais contribue également à leur réussite. J'y vois un moyen de différencier les entreprises, et les entreprises responsables sont celles avec lesquelles nous pouvons faire affaire en toute confiance.

Le Vietnam doit protéger activement ses valeurs culturelles.

Le Vietnam fait partie des rares pays qui envisagent de promulguer une loi sur l'intelligence artificielle. Quel est votre avis à ce sujet ? Selon vous, quels sont les défis éthiques et sécuritaires liés au développement de l'IA pour les pays en développement comme le Vietnam ?

Je suis très heureux que le Vietnam soit l'un des pays pionniers à se doter d'une loi spécifique sur l'intelligence artificielle. C'est important car chaque pays a ses propres valeurs et sa propre culture, et a besoin de lois pour les protéger.

Les valeurs et la culture vietnamiennes diffèrent de celles de l'Australie, de la Chine et des États-Unis. On ne peut attendre des entreprises technologiques chinoises ou américaines qu'elles protègent automatiquement la culture et la langue vietnamiennes. Le Vietnam doit prendre l'initiative de les préserver.

Je suis conscient que, par le passé, de nombreux pays en développement ont subi une colonisation physique. Si nous n'y prenons garde, nous pourrions connaître une « colonisation numérique ». Vos données seront exploitées et vous deviendrez une ressource bon marché.

Ce risque est menacé si les pays en développement développent l'industrie de l'IA d'une manière qui se contente d'exploiter les données sans contrôler ni protéger leurs propres intérêts.

Alors, comment surmonter cette situation ?

C'est simple : investissez dans le capital humain. Développez les compétences des individus, assurez-vous qu'ils maîtrisent l'IA. Soutenez les entrepreneurs, les entreprises spécialisées en IA, les universités. Soyez proactifs. Au lieu d'attendre que d'autres pays nous transfèrent des technologies ou nous guident, nous devons prendre les devants et maîtriser cette technologie.

Le professeur Toby Walsh intervient lors de la Semaine des sciences et technologies VinFuture (Photo : Comité d'organisation).

Deuxièmement, nous devons plaider fermement pour que les plateformes de médias sociaux créent un environnement sûr pour les utilisateurs au Vietnam, sans pour autant porter atteinte à la démocratie du pays.

En réalité, il existe de nombreux exemples de la manière dont le contenu des médias sociaux a influencé les résultats électoraux, divisé des pays et même incité au terrorisme.

J'ai consacré 40 ans à l'intelligence artificielle. Pendant les 30 premières années, mon objectif principal était de rendre l'IA plus performante. Ces 10 dernières années, je me suis de plus en plus intéressé au développement responsable de l'IA et j'ai pris la parole à ce sujet.

Pourriez-vous donner quelques conseils, car le Vietnam est en train d'élaborer une loi sur l'intelligence artificielle ?

Il existe de nombreux cas où de nouvelles lois ne sont pas nécessaires. Nous disposons déjà de lois sur la protection de la vie privée et de lois sur la concurrence. Ces lois existantes s'appliquent à l'espace numérique, tout comme elles s'appliquent au monde physique.

Il est important d'appliquer ces lois avec autant de rigueur dans l'environnement numérique que dans l'environnement physique.

Cependant, de nouveaux risques émergent et nous commençons à les constater. Les gens commencent à nouer des relations avec l'IA, à l'utiliser comme thérapeute, ce qui peut parfois nuire aux utilisateurs ; la prudence est donc de mise.

Nous tenons toujours les fabricants responsables lorsqu'ils mettent sur le marché des produits. Par exemple, si des entreprises spécialisées en IA commercialisent des produits d'IA nuisibles à l'humain, elles devraient également en être tenues responsables.

Alors, comment pouvons-nous empêcher l'IA d'avoir des effets néfastes sur les enfants et créer un environnement sûr pour eux chaque fois que l'IA apparaît, monsieur ?

Je pense que nous n'avons pas tiré beaucoup de leçons des réseaux sociaux. De nombreux pays commencent à peine à réaliser que, malgré leurs nombreux avantages, les réseaux sociaux présentent aussi de nombreux inconvénients, notamment en ce qui concerne la santé mentale, l'anxiété et l'image corporelle des jeunes, et plus particulièrement des filles.

De nombreux pays ont déjà commencé à mettre en œuvre des mesures pour remédier à ce problème. En Australie, la limite d'âge pour l'utilisation des réseaux sociaux entrera en vigueur le 10 décembre. Je pense que des mesures similaires sont nécessaires pour l'intelligence artificielle.

Nous créons des outils qui peuvent avoir des effets positifs mais aussi des effets néfastes, et nous devons protéger l'esprit et le cœur de nos enfants de ces effets négatifs.

De plus, j'espère que les pays adopteront également des réglementations strictes pour gérer les réseaux sociaux, créant ainsi un environnement véritablement sûr pour tous lors de l'utilisation de l'IA.

En réalité, les risques liés à l'IA ne concernent pas seulement les enfants, mais aussi les adultes. Dès lors, comment l'IA peut-elle améliorer nos vies sans devenir un danger ?

L' intelligence artificielle est appliquée dans de nombreux domaines, contribuant à améliorer notre qualité de vie. En médecine, elle aide à découvrir de nouveaux médicaments. Dans le domaine de l'éducation , elle apporte également de nombreux avantages.

Cependant, donner accès à l'IA sans garanties suffisantes est trop risqué. Aux États-Unis, des parents ont porté plainte contre des entreprises technologiques, les accusant d'avoir poussé leurs enfants au suicide après des interactions avec des chatbots.

Bien que le pourcentage d'utilisateurs de ChatGPT rencontrant des problèmes de santé mentale ne soit que de quelques pour cent, avec des centaines de millions d'utilisateurs, le nombre réel se chiffre en centaines de milliers.

Les données sont essentielles au développement de l'IA, mais une gestion trop rigide des données peut freiner ce développement. Selon vous, quels sont les risques liés à un relâchement de la gestion des données ? Comment concilier la collecte et la sécurité des données avec le développement de l'IA ?

Je suis entièrement d'accord. Les données sont au cœur du progrès de l'IA , car ce sont elles qui le pilotent. Sans données, aucun progrès n'est possible. Des données de haute qualité sont essentielles à toutes nos activités. En effet, la valeur commerciale et l'avantage concurrentiel des entreprises reposent sur les données. La qualité de ces données est donc un enjeu crucial.

Il est révoltant de voir les livres d'auteurs du monde entier, y compris les miens, utilisés sans autorisation ni compensation. C'est un véritable vol du fruit du travail d'autrui. Si cette situation perdure, les auteurs perdront toute motivation à écrire et nous perdrons les valeurs culturelles qui nous sont chères.

Nous devons trouver une solution plus équitable que celle que nous avons actuellement.

Actuellement, la Silicon Valley s'approprie le contenu et la créativité des auteurs sans les rémunérer, ce qui est intenable. Je compare la situation actuelle à celle de Napster et aux débuts de la musique en ligne dans les années 2000. À l'époque, toute la musique en ligne était « volée », mais cela ne pouvait pas durer, car les musiciens avaient besoin de revenus pour continuer à créer.

Enfin, nous avons les plateformes de streaming payantes , comme Spotify ou Apple Music, ou la musique financée par la publicité, dont une partie des revenus est reversée à l'artiste. Il nous faut faire de même avec les livres, afin que les auteurs tirent profit de leurs œuvres. Sinon, plus personne ne sera motivé à écrire, et le monde sera bien plus pauvre sans nouvelles publications.

Dans le cadre de la Semaine des sciences et technologies VinFuture, l'exposition « Toa V - Touchpoint of Science » se tiendra également au Vincom Royal City Contemporary Art Center (Photo : Comité d'organisation).

L'intelligence artificielle est très développée au Vietnam. Ces derniers temps, le pays a mis en place de nombreuses politiques pour promouvoir l'IA, mais il est également confronté à un problème : la fraude liée à l'IA. Dès lors, selon le professeur, comment le Vietnam devrait-il gérer cette situation ? Quels conseils donne-t-il aux utilisateurs d'IA pour garantir la sécurité et la protection de leurs données ?

Pour chaque personne, le plus simple est de vérifier les informations. Par exemple, lors de la réception d'un appel ou d' un courriel, d'une banque par exemple, il est nécessaire de revérifier : on peut rappeler le numéro de l'abonné ou contacter directement la banque pour confirmer les informations.

Les faux courriels, les faux numéros de téléphone et même les faux appels Zoom pullulent de nos jours. Ces arnaques sont simples, peu coûteuses et rapides à mettre en œuvre.

Dans ma famille, nous avons aussi notre propre système de sécurité : une « question secrète » que seuls les membres de la famille connaissent, comme le nom de notre lapin. Cela permet de garantir que les informations importantes restent confidentielles et ne soient pas divulguées.

Le Vietnam a également intégré l'éducation à l'IA dans l'enseignement général ; que faut-il donc noter dans ce processus ?

L' intelligence artificielle transforme les contenus et les méthodes d'enseignement. Elle influence des compétences essentielles pour l'avenir, telles que l'esprit critique, la communication, l'intelligence sociale et l'intelligence émotionnelle. Ces compétences deviendront indispensables.

L'IA peut contribuer à l'apprentissage de ces compétences, par exemple en tant que tuteur personnel, assistant d'études personnel, en fournissant des outils pédagogiques très efficaces grâce à des applications d'IA.

Merci Professeur d'avoir pris le temps de discuter avec nous !

Source : https://dantri.com.vn/cong-nghe/viet-nam-can-lam-gi-de-tranh-nguy-co-tro-thanh-nguon-luc-re-tien-20251203093314154.htm