Inquiétudes quant à la capacité de l’IA à lire dans les pensées et à manipuler les décisions humaines

(CLO) Les dernières recherches de l’Université de Cambridge ont révélé une vérité alarmante : l’IA n’est pas seulement un outil de soutien, mais a également la capacité de manipuler nos pensées, nous transformant en marionnettes dans une pièce de théâtre technologique.

Les chercheurs ont inventé un nouveau concept appelé « économie de l’intention ». Dans cette économie, les entreprises peuvent collecter et analyser d’énormes quantités de données sur notre comportement, nos préférences et nos habitudes pour prédire ce que nous ferons ensuite.

Ils peuvent ensuite vendre ces informations à d’autres entreprises qui souhaitent cibler plus précisément leur publicité vers nous.

L’IA a le potentiel de façonner nos pensées et nos actions. Illustration : IA

Par exemple, disons que vous recherchez un nouveau téléphone. L'IA suivra votre comportement en ligne, les mots-clés que vous recherchez et même vos conversations pour mieux comprendre vos besoins. Les fabricants de téléphones peuvent ensuite utiliser ces informations pour vous montrer des publicités sur les téléphones les mieux adaptés à vos besoins.

« Si elle n’est pas maîtrisée, l’économie de l’intention pourrait devenir un outil de manipulation de nos décisions », prévient le Dr Jonnie Penn, historien de la technologie à l’Université de Cambridge. « Les entreprises pourraient utiliser l’IA pour nous faire acheter des produits dont nous n’avons pas besoin, voire influencer nos décisions de vote. »

Un modèle d’IA permettra également de naviguer dans les conversations pour servir les annonceurs, les entreprises et d’autres tiers, ont déclaré les auteurs. Les annonceurs pourront utiliser des outils générés par l’IA pour créer des publicités en ligne à la demande.

Le rapport cite l’exemple d’un modèle d’IA créé par Meta, appelé Cicero, qui a atteint une capacité « de niveau humain » pour jouer au jeu de société Diplomacy — un jeu qui, selon les auteurs, dépend de la déduction et de la prédiction des intentions des adversaires.

D’éminents experts du domaine technologique ont mis en garde contre la capacité de l’IA à prédire et à influencer le comportement humain.

Plus précisément, le PDG de Nvidia, Jensen Huang, a partagé une perspective notable dans un discours l’année dernière. Il pense que les modèles d’IA avancés seront capables de « comprendre quelles sont vos intentions, quels sont vos désirs, ce que vous essayez de faire et de vous présenter les informations de la meilleure façon possible ».

Hoang Anh (selon CUN, Nvidia, Guardian)

Source : https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html