Pourquoi l'intelligence artificielle exploite-t-elle les peurs les plus profondes des humains ?

(Dan Tri) - L'intelligence artificielle s'immisce dans tous les aspects de la vie. Mais plus elle est intelligente, plus elle sème la confusion chez les individus quant à leurs croyances et leurs émotions.

L'intelligence artificielle aide les gens à rédiger des courriels, à recommander des films, à analyser des données et à diagnostiquer des maladies...

Mais à mesure que l'IA devient plus performante, le sentiment d'insécurité qu'elle engendre s'accroît. Cela tient en partie à notre compréhension encore imparfaite de la technologie que nous utilisons. Le reste découle de nos propres instincts psychologiques.

L'IA se développe plus rapidement que l'adaptabilité psychologique humaine (Photo d'illustration).

Quand l'IA devient une « boîte noire » et que les utilisateurs perdent le contrôle

On a tendance à faire confiance à ce que l'on comprend et que l'on maîtrise. Quand on appuie sur un bouton, l'ascenseur se met en marche. Quand on actionne un interrupteur, la lumière s'allume. Des réponses claires inspirent confiance.

À l'inverse, de nombreux systèmes d'IA fonctionnent comme une boîte fermée. On y saisit des données, mais le processus de production des résultats reste opaque. Il est donc impossible pour les utilisateurs de le comprendre ou de l'interroger.

Ce manque de transparence est inquiétant. Les utilisateurs ont besoin non seulement d'un outil fonctionnel, mais aussi de comprendre son fonctionnement.

Si l'IA ne fournit pas d'explication, les gens commencent à la remettre en question. Cela donne naissance au concept d'« aversion algorithmique », que les chercheurs en sciences comportementales décrivent comme le phénomène par lequel les individus ont tendance à privilégier les décisions d'autrui, même erronées, plutôt que de se fier au jugement d'une machine.

Nombreux sont ceux qui craignent qu'une IA devienne trop précise. Un système de recommandation de contenu peut se révéler agaçant s'il les cerne trop bien. Un sentiment d'être surveillé ou manipulé commence alors à apparaître, même si le système lui-même est dépourvu d'émotions et d'intentions.

Cette réaction découle d'un comportement instinctif : l'anthropomorphisme. Même si nous savons que l'IA n'est pas humaine, nous continuons à interagir avec elle comme si nous communiquions avec un individu. Lorsqu'elle est trop polie ou trop froide, les utilisateurs se sentent mal à l'aise et méfiants.

Les humains pardonnent entre eux, mais pas aux machines.

Un paradoxe intéressant réside dans le fait que, face aux erreurs humaines, nous sommes capables d'empathie et de compréhension. En revanche, lorsque l'erreur provient de l'IA, surtout lorsqu'elle est présentée comme objective et fondée sur les données, les utilisateurs se sentent souvent trahis.

Cela est lié au phénomène de violation des attentes. Nous attendons des machines qu'elles soient logiques, précises et infaillibles. Lorsque cette confiance est trahie, la réaction psychologique est souvent plus intense. Même une petite erreur dans un algorithme peut être perçue comme grave si l'utilisateur a le sentiment de perdre le contrôle ou de ne recevoir aucune explication.

Nous avons instinctivement besoin de comprendre la cause d'une erreur. Face à un humain, nous pourrions nous demander pourquoi. Avec une IA, la réponse est souvent inexistante ou trop vague.

Lorsque des enseignants, des écrivains, des avocats ou des concepteurs voient l'IA effectuer une partie de leur travail, ils craignent non seulement de perdre leur emploi, mais s'inquiètent également de la valeur de leurs compétences et de leur identité personnelle.

Il s'agit d'une réaction naturelle, appelée menace identitaire. Elle peut mener au déni, à la résistance ou à des mécanismes de défense psychologiques. Dans ces cas, la suspicion n'est plus une réaction émotionnelle, mais un mécanisme d'autoprotection.

La confiance ne repose pas uniquement sur la logique.

Les humains font confiance grâce aux émotions, aux gestes, au contact visuel et à l'empathie. L'IA peut être éloquente, voire humoristique, mais elle ne sait pas créer de véritable lien.

Le phénomène de la « vallée de l'étrange » est décrit par les experts comme la sensation désagréable d'être confronté à des choses presque humaines, mais qui manquent de quelque chose qui les rend irréelles.

Lorsque les machines deviennent trop humaines, le sentiment d'insécurité devient encore plus évident (Photo : Getty).

Avec l'IA, c'est l'absence d'émotion qui laisse beaucoup de gens désorientés, ne sachant pas s'ils doivent faire confiance ou douter.

Dans un monde saturé de fausses informations, de vidéos truquées et de décisions algorithmiques, le sentiment d'abandon émotionnel rend les gens méfiants envers la technologie. Non pas que l'IA fasse quoi que ce soit de mal, mais parce que nous ne savons pas comment réagir face à elle.

De plus, la suspicion dépasse parfois le simple sentiment. Les algorithmes ont déjà introduit des biais dans les processus d'embauche, les jugements criminels et l'octroi de crédit. Pour ceux qui ont souffert de systèmes de données opaques, la prudence est de mise.

Les psychologues appellent cela la méfiance acquise. Lorsqu'un système échoue de manière répétée, il est compréhensible que la confiance soit perdue. On ne fait pas confiance aux gens simplement parce qu'on le leur demande. La confiance se gagne, elle ne s'impose pas.

Pour que l'IA soit largement adoptée, les développeurs doivent créer des systèmes compréhensibles, questionnables et responsables. Les utilisateurs doivent être impliqués dans la prise de décision, et non pas simples spectateurs. La confiance ne peut s'instaurer durablement que si les individus se sentent respectés et responsabilisés.

Source : https://dantri.com.vn/cong-nghe/vi-sao-tri-tue-nhan-tao-cham-vao-noi-so-sau-nhat-cua-con-nguoi-20251110120843170.htm