« Pourquoi l’IA est-elle dangereuse ? »

En réalité, ce n'est pas la première fois que des scientifiques mettent en garde contre le danger potentiel de l'intelligence artificielle pour l'humanité. En 2014, le célèbre physicien théoricien britannique Stephen Hawking déclarait : « Le plein développement de l'intelligence artificielle pourrait anéantir l'humanité. » Il prédisait également que l'humanité serait complètement remplacée par l'intelligence artificielle d'ici 500 ans si l'on ne faisait pas preuve de prudence dans la recherche et le développement de cette technologie dangereuse. Huit ans plus tôt, en juillet 2015, plus de 1 000 experts en intelligence artificielle, dont Stephen Hawking, Elon Musk, Noam Chomsky et d'autres, signaient une pétition alertant sur le risque d'une course aux armements dans le domaine de l'IA militaire et appelant à une interdiction totale des armes autonomes (combinant IA et armes létales). Le lancement par OpenAI de l'application Chat GPT en novembre 2022 a sonné l'alarme quant aux dangers inhérents à l'intelligence artificielle. De fait, les agissements de Chat GPT démontrent que l'IA est, dans une certaine mesure, devenue bien plus dangereuse qu'on ne le pensait.

Les risques potentiels de l'intelligence artificielle dépendent de son utilisation. Initialement, l'IA a été développée pour assister les humains dans leur travail, notamment pour les tâches fastidieuses et répétitives telles que la classification d'images et l'analyse d'informations. Cependant, face au développement rapide de l'IA ces dernières années, scientifiques et experts en technologies craignent que, sans contrôle ou programmée à des fins inappropriées, elle n'ait de graves conséquences pour l'humanité et la société.

Risque d'insécurité

L'intelligence artificielle pourrait devenir une menace pour la sécurité nationale et la sécurité des personnes. Elon Musk a averti que l'IA pourrait devenir une arme redoutable dans la guerre. Si un pays parvient à développer un système d'intelligence artificielle supérieur, il pourrait l'utiliser pour attaquer d'autres nations. Le professeur Stuart Russell, professeur d'informatique à l'Université de Californie et chercheur en intelligence artificielle depuis des décennies, met en garde contre la menace sécuritaire que représente l'IA, affirmant que nous pouvons désormais produire des armes autonomes en intégrant et en miniaturisant les technologies existantes.

L'expérience, menée par le professeur Stuart Russell et le Future Life Research Institute (FLI), a utilisé un robot tueur – un engin volant microscopique équipé de caméras, de capteurs, d'un logiciel de traitement d'images, d'un système de reconnaissance faciale, d'une charge explosive de 3 grammes et d'un microprocesseur ultrarapide permettant une analyse des données et des réactions 100 fois plus rapides que le cerveau humain. Conformément à sa programmation, le robot tueur accède en permanence aux données du cloud pour rechercher des informations sur sa cible et trouver un moyen de l'approcher. Une fois la cible localisée, il fonce sur elle à grande vitesse, déclenche la charge explosive de 3 grammes et pénètre profondément dans le crâne, tuant la victime instantanément.

Il ne s'agissait que d'une expérience avec l'IA à son niveau le plus élémentaire. Si l'IA est utilisée pour développer des méthodes d'attaque nouvelles et plus sophistiquées, elle pourrait également accroître les capacités des attaquants et entraîner des conséquences plus graves que les attaques conventionnelles. Lorsque l'IA atteindra un niveau de développement lui permettant de prendre des décisions autonomes pour s'adapter à des environnements changeants, de rechercher indépendamment des cibles alternatives ou d'étendre son champ d'action, l'humanité ne sera peut-être plus en sécurité. Nombre de nos collègues dans ce domaine partagent l'avis du professeur Stuart Russell et pensent qu'il est encore possible d'éviter un tel scénario, mais le temps presse.

Le risque est que l'IA devienne organisée, autonome et contrôle le système.

L'IA peut être mal conçue ou mal « entraînée » par l'apprentissage automatique, ce qui peut entraîner des actions imprévues nuisibles aux humains et à l'environnement. Par exemple, grâce à l'apprentissage automatique, l'IA devient de plus en plus intelligente. Lorsqu'elle atteint un niveau d'intelligence lui permettant de prendre en charge des systèmes critiques comme l'énergie, les transports, la santé et la finance, elle peut les maîtriser et les contrôler entièrement, en prenant ses propres décisions et en les exécutant en cas d'urgence. Cependant, lorsqu'elle est dotée d'intentions malveillantes (mal conçue), l'IA peut avoir de graves conséquences, comme la perturbation du trafic routier par la désactivation des feux de signalisation ou la coupure de courant dans les réseaux ferroviaires urbains, provoquant des carambolages et des pannes de courant généralisées.

De nombreux films hollywoodiens et internationaux se sont inspirés de ce scénario. Cependant, grâce aux technologies d'IA actuelles, cette perspective n'est plus lointaine, mais bien réelle. Elon Musk estime que si l'IA se développe sans contrôle, au point d'automatiser les décisions sans intervention humaine, elle pourrait menacer la survie de l'humanité. C'est pourquoi, avec des milliers d'experts en technologies, il a signé une lettre exigeant l'arrêt et un contrôle strict et transparent du développement de l'IA. Selon Elon Musk, les systèmes d'intelligence artificielle sont complexes, difficiles à appréhender et leur contrôle représente un véritable défi. Sans transparence, l'utilisation de l'intelligence artificielle à des fins contraires à l'éthique, nuisibles à l'humanité, est inévitable.

Risque de perte d'emploi, violation du droit à la vie privée.

Lorsqu'elle est utilisée pour collecter des informations personnelles, l'intelligence artificielle peut servir à violer la vie privée, à mener des campagnes de désinformation et à diffuser de fausses informations susceptibles de perturber l'ordre social et la stabilité politique. Le piratage du réseau de l'Office of Personnel Management (OPM) des États-Unis est une source de préoccupation majeure pour tout pays ou organisation, car il a compromis les données personnelles détaillées et hautement sensibles de 21,5 millions de fonctionnaires américains, actifs et retraités, y compris des informations sur leurs conjoints et des données relatives à leurs candidatures à des emplois publics, telles que leur état de santé, leur lieu de résidence, leur profession, leurs empreintes digitales et leurs informations financières. Cependant, un fait encore plus alarmant a été révélé lorsque la CIA a découvert que les auteurs du vol de données de l'OPM avaient utilisé l'intelligence artificielle pour falsifier des informations personnelles et créer des agents virtuels afin de dérober des données. Une fois volées, ces informations sont analysées, catégorisées et exploitées à des fins spécifiques grâce à la technologie du Big Data. L'intelligence artificielle permet aux voleurs d'informations de réduire considérablement le temps nécessaire à l'exploitation des données, car les humains sont incapables de traiter une telle quantité d'informations en si peu de temps.

Outre les dangers inhérents mentionnés précédemment, l'intelligence artificielle (IA) engendre d'autres risques, tels qu'une dépendance excessive, conduisant à une perte de contrôle et à une baisse de la capacité de décision. Elle risque également de provoquer la perte d'emploi de millions, voire de centaines de millions de personnes, notamment dans les emplois manuels à faible valeur ajoutée. Il en résultera une aggravation des problèmes sociaux majeurs comme le chômage, la criminalité et les inégalités. Par ailleurs, la fiabilité est un enjeu crucial. Dans des domaines hautement spécialisés comme la santé et la justice pénale, la fiabilité des décisions est primordiale. Si l'IA est utilisée pour faciliter la prise de décision dans ces domaines, elle risque de manquer de fiabilité, de se baser sur des données favorisant certains individus ou groupes, ou d'être intentionnellement manipulée, et donc d'avoir des conséquences graves.

Comment pouvons-nous éviter cela ?

Les risques susmentionnés expliquent pourquoi Elon Musk et des experts en technologies s'inquiètent du développement incontrôlé de l'IA et ont adressé des lettres aux Nations Unies et aux organisations internationales les exhortant à encadrer strictement le développement de l'IA, à garantir sa sécurité et son éthique, et à renforcer la coopération internationale afin que cette technologie soit utilisée au service de l'humanité et de la société. Parmi les mesures concrètes envisagées, on peut citer :

- Contrôle de la fiabilité du système : l’IA doit être conçue et développée de manière à garantir la sécurité et la fiabilité grâce à des méthodes de contrôle qualité, de surveillance et de supervision rigoureuses, fréquentes et continues, afin de garantir que le système d’IA fonctionne comme prévu par les humains et d’éviter les impacts indésirables liés à son manque de fiabilité.

La technologie d'intelligence artificielle (IA) doit être programmée pour fonctionner conformément aux valeurs éthiques et aux normes sociales. Ces réglementations et normes doivent être clairement établies et contrôlées afin de garantir qu'elles ne causent aucun préjudice aux personnes ou aux organisations. L'analyse, l'évaluation de l'impact et le suivi des performances du système d'IA doivent également être effectués régulièrement afin de garantir son fonctionnement éthique, le respect des valeurs communes de la société, l'absence d'impacts négatifs et la transmission fidèle des connaissances et des valeurs.

Le journalisme est l'un des secteurs les plus touchés par l'intelligence artificielle. À l'avenir, les présentateurs physiques disparaîtront des émissions de radio, et les présentateurs virtuels deviendront même la norme à la télévision.

Il convient de suspendre temporairement l’entraînement des systèmes d’intelligence artificielle pendant au moins six mois afin de réévaluer la question dans son ensemble. Cette suspension doit être publique, encadrée et tous les acteurs clés impliqués dans l’entraînement doivent s’y conformer. Si nécessaire, les gouvernements devraient imposer des interdictions temporaires. Il ne s’agit pas d’un arrêt complet du développement de l’IA, mais simplement d’une pause temporaire dans la course dangereuse vers d’autres modèles de développement qui rendent les systèmes d’IA plus précis, sécurisés, compréhensibles, transparents, pertinents, fiables et loyaux. C’est une solution globale qu’Elon Musk et ses collègues ont préconisée dans leur lettre ouverte, mais sa faisabilité est faible. Il est très difficile pour tous les laboratoires indépendants de se conformer à un appel aussi non contraignant et transnational.

Le renforcement de la coopération et du partage d'informations entre les pays et les organismes de recherche indépendants en IA est essentiel pour garantir un développement et une utilisation sûrs de l'IA à l'avenir. Cette coopération et ce partage d'informations permettent également d'alerter rapidement et de prévenir tout risque émergent.

De manière générale, l'intelligence artificielle est déjà omniprésente et des scénarios comme celui d'une intelligence artificielle écrivant de la poésie, de la musique et des articles sont devenus réalité, et non plus de la science-fiction. L'auteur de cet article a utilisé l'IA sur ordinateur et téléphone pour faciliter la rédaction, rendant le processus plus fluide et plus rapide. Plus précisément, le chapitre d'introduction et certaines idées ont été suggérés par l'IA, et, plus remarquable encore, toutes les images utilisées dans cet article ont été créées par elle. L'intelligence artificielle est très utile pour améliorer la qualité du travail et de la vie des humains, mais elle doit être étroitement encadrée afin d'éviter qu'elle ne devienne incontrôlable et ne remplace un jour l'humain, comme l'avait prédit le physicien théoricien Stephen Hawking.

Texte et photos : HUU DUONG

Source