Le risque de « dégénérescence de la pensée » dû à une mauvaise utilisation de l'IA.

DNVN - Des études récentes ont tiré la sonnette d'alarme quant aux conséquences imprévisibles de la dépendance croissante de l'humanité à l'égard de l'intelligence artificielle (IA), en particulier des grands modèles de langage (LLM) comme ChatGPT.

Image illustrative.

L'IA est présente dans presque tous les aspects de la vie humaine, des activités quotidiennes à la production, en passant par l'éducation , la recherche et la création artistique. Elle aide à optimiser les opérations, à accroître l'efficacité et à réduire les besoins en main-d'œuvre. L'essor de l'IA témoigne de la croissance continue des applications d'apprentissage automatique et de mégadonnées, propulsant l'intelligence artificielle vers de nouveaux sommets.

Malgré ces avantages considérables, l'IA risque de transformer le processus même de création de connaissances en un cercle vicieux, menaçant l'innovation et provoquant une « dégénérescence » de la pensée humaine.

Selon les experts, la commodité immédiate de l'utilisation de l'IA pourrait se faire au détriment des ressources intellectuelles à long terme.

Déclin des fonctions cérébrales et « dette cognitive »

Une étude de quatre mois menée par le Massachusetts Institute of Technology (MIT) a mis en lumière les effets profonds d'une utilisation excessive de l'IA sur le cerveau humain. Cette étude, qui a suivi 54 participants chargés de rédiger des dissertations, a révélé que la dépendance aux outils d'IA peut altérer les fonctions cérébrales et les capacités de pensée critique.

Grâce à l'électroencéphalographie (EEG), les chercheurs ont enregistré l'activité cérébrale des participants. Les résultats sont étonnants : le groupe utilisant l'outil d'intelligence artificielle a présenté des schémas neuronaux significativement différents de ceux du groupe ayant uniquement effectué une écriture mentale. Ce groupe a montré jusqu'à 55 % de connexions neuronales en moins que le groupe témoin, notamment dans les zones impliquées dans la pensée profonde et la formation de la mémoire.

Les chercheurs appellent ce phénomène « dette cognitive ». À l'instar de la dette financière, qui nous permet de profiter d'avantages immédiats mais engendre des coûts futurs, la dette cognitive survient lorsque nous déléguons notre effort intellectuel à des systèmes externes, ce qui entraîne une atrophie de nos facultés mentales par manque d'utilisation. Mal utilisée, l'IA pourrait transformer les humains en consommateurs passifs, leur faisant perdre leur capacité de penser par eux-mêmes.

Les conséquences d'une diminution des fonctions cognitives sont claires :

Troubles de la mémoire : Lors de la première session de l’étude du MIT, 83 % des utilisateurs d’IA se sont avérés incapables de citer leurs propres écrits, et aucun n’a fourni de citation correcte. Même après plusieurs sessions, nombre d’entre eux éprouvaient encore des difficultés avec cette tâche élémentaire.

Affaiblissement de la pensée critique : L'utilisation de l'IA conduit à un « engagement superficiel » et affaiblit les capacités de pensée critique, favorisant potentiellement la procrastination et la paresse.

Activité cérébrale réduite : Les personnes ayant rédigé des dissertations avec l’aide de l’IA ont activé une activité cérébrale nettement inférieure, avec une forte baisse dans les zones liées à la mémoire, à la pensée critique et aux fonctions exécutives.

La crise de la création des connaissances et l’« effondrement des modèles »

Le problème des modèles linguistiques ne réside pas dans leurs capacités de synthèse, mais dans le fait qu'ils ne savent que recycler ce qui existe déjà. Ces systèmes ne génèrent pas de nouvelles connaissances ; ils utilisent principalement des données existantes et les redistribuent.

Contrairement aux humains, qui recherchent constamment de nouvelles voies pour diverses motivations telles que l'argent, la gloire, la curiosité ou le désir d'acquérir des connaissances, l'IA ne peut pas générer de « nouveauté ». Lorsque l'IA pourra répondre à presque n'importe quelle question complexe en quelques secondes seulement, la valeur de la créativité humaine diminuera progressivement.

Ce ralentissement est illustré par le cas de Stack Overflow, un forum de partage de connaissances entre programmeurs : en seulement six mois après l’apparition de ChatGPT, le nombre de questions sur la plateforme a diminué de plus de 25 %, et a depuis chuté de 90 %. C’est la disparition d’une « base de connaissances vivante », où chaque réponse était vérifiée, débattue et enrichie.

Les données provenant de plateformes comme Stack Overflow servaient autrefois à l'entraînement des outils d'IA. À mesure que cette source de connaissances s'épuise, l'IA reproduira de plus en plus ce qu'elle a déjà produit.

Ce phénomène est connu sous le nom d’« effondrement du modèle ». Les chercheurs avertissent que lorsque les modèles sont entraînés principalement sur des données générées par l’IA elle-même, la qualité des connaissances se détériore progressivement, perdant ainsi leur capacité à refléter la diversité et la précision du monde réel. La professeure Hannah Li de l’université Columbia conclut : « Le résultat global est qu’ils vont se dégrader. Les modèles vont devenir moins performants. »

Les risques liés à l'homogénéisation et au recyclage des connaissances.

Outre le déclin de la conscience individuelle, le mésusage de l'IA conduit également à une homogénéisation des connaissances. Les dissertations rédigées à l'aide de l'IA présentent des similitudes frappantes, révélant des schémas « statistiquement homogènes ». Il en résulte une sorte de monoculture intellectuelle, où les diverses perspectives humaines sont filtrées par le même prisme algorithmique, ce qui risque d'étouffer la créativité.

L'IA tend à privilégier les schémas communs dans les données, négligeant peu à peu les informations rares, les détails uniques ou les données dissimulées dans les statistiques. Si cette tendance se poursuit, Internet, riche réservoir d'informations, risque de devenir un monde dilué où le savoir se perd. L'humanité pourrait entrer dans une ère de « recyclage des connaissances », où l'innovation stagne, les avantages liés aux nouvelles créations devenant de plus en plus obscurs.

L'IA est un outil puissant, mais elle exige une approche stratégique. Des chercheurs du MIT ont observé un signe encourageant : les participants qui avaient acquis de solides bases cognitives avant d'utiliser l'IA ont pu l'exploiter plus efficacement, avec même une activité neuronale accrue dès son introduction. Ils ont utilisé l'IA comme un véritable assistant, et non comme un simple outil de soutien.

Le savoir humain se construit grâce à l'effort, la curiosité et le courage d'explorer l'inconnu. Cependant, si nous faisons de l'IA la seule voie de communication, nous risquons de nous enfermer dans un cercle vicieux où humains et machines ne font que répéter ce qui a déjà été fait.

Hien Thao

Source : https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291