Les inquiétudes liées à la capacité de l'IA à lire dans les pensées et à manipuler les décisions humaines

(CLO) Les dernières recherches de l'Université de Cambridge ont révélé une vérité alarmante : l'IA n'est pas simplement un outil de soutien, mais a également la capacité de manipuler nos pensées, faisant de nous des marionnettes dans une pièce technologique.

Les chercheurs ont inventé un nouveau concept appelé « économie de l'intention ». Dans cette économie, les entreprises peuvent collecter et analyser de grandes quantités de données sur nos comportements, nos préférences et nos habitudes afin de prédire ce que nous ferons ensuite.

Ils peuvent ensuite revendre ces informations à d'autres entreprises qui souhaitent cibler plus précisément leurs publicités sur nous.

L'IA a la capacité de façonner nos pensées et nos actions. Illustration : IA

Par exemple, imaginons que vous cherchiez un nouveau téléphone. L'IA analysera votre activité en ligne, les mots-clés que vous recherchez et même vos conversations afin de mieux comprendre vos besoins. Les opérateurs téléphoniques pourront ensuite utiliser ces informations pour vous proposer des publicités ciblées pour les téléphones les plus adaptés à vos préférences.

Jonnie Penn, historienne des technologies à l'université de Cambridge, a mis en garde : « Si on la laisse se développer sans contrôle, l'économie de l'intention pourrait devenir un outil de manipulation de nos décisions. Les entreprises pourraient utiliser l'IA pour nous inciter à acheter des produits dont nous n'avons pas besoin, voire influencer nos choix électoraux. »

Les auteurs ont également indiqué qu'un modèle d'IA permettrait de gérer les conversations afin de servir les annonceurs, les entreprises et d'autres tiers. Les annonceurs pourraient utiliser les outils d'IA ainsi créés pour concevoir des publicités en ligne personnalisées.

Le rapport cite l'exemple d'un modèle d'IA créé par Meta, appelé Cicero, qui a atteint une capacité « de niveau humain » à jouer au jeu de plateau Diplomacy — un jeu qui, selon les auteurs, repose sur la capacité à déduire et à prédire les intentions des adversaires.

Des experts de premier plan dans le domaine technologique ont mis en garde contre la capacité de l'IA à prédire et à influencer le comportement humain.

L'année dernière, Jensen Huang, PDG de Nvidia, a partagé une opinion remarquable : selon lui, les modèles d'IA avancés seront capables de « déterminer vos intentions, vos désirs, ce que vous essayez de faire, et de vous présenter l'information de la manière la plus optimale possible ».

Hoang Anh (selon CUN, Nvidia, Guardian)

Source : https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html