L'IA commet elle aussi des erreurs irrationnelles et présente des biais, tout comme les humains.

AI - Ảnh 1. — L'IA excelle lorsqu'il s'agit de résoudre des problèmes suivant des procédures claires et des formules fixes. Cependant, face à des situations exigeant un jugement subjectif ou impliquant des préférences personnelles, l'IA peut commettre des erreurs similaires à celles des humains.

Une nouvelle étude publiée dans la revue Manufacturing & Service Operations Management, menée par des scientifiques de cinq universités du Canada et d'Australie, a évalué le comportement de ChatGPT (plus précisément, les modèles GPT-3.5 et GPT-4 d'OpenAI) sur 18 biais cognitifs importants couramment rencontrés en psychologie humaine, tels que le biais de confirmation, l'effet possessif, l'erreur des coûts irrécupérables et le biais de certitude.

Les résultats ont montré que dans près de la moitié des scénarios testés, ChatGPT se comportait exactement comme un humain face à des choix irrationnels ou émotionnels, malgré la réputation du système pour son raisonnement logique et cohérent.

L'IA est-elle vraiment aussi « impartiale » qu'on l'espère ?

Le Dr Yang Chen, professeur agrégé de gestion des opérations à la Ivey Business School (Canada) et auteur principal de l'étude, a déclaré : « L'IA est plus performante lorsqu'elle est chargée de résoudre des problèmes qui suivent des processus clairs et des formules fixes. Mais lorsqu'elle est confrontée à des situations nécessitant un jugement subjectif ou impliquant des préférences personnelles, l'IA peut commettre des erreurs, tout comme les humains. »

L'équipe de recherche a intégré des scénarios psychologiques familiers à ChatGPT, en y ajoutant des contextes pratiques tels que la gestion des stocks ou les négociations avec les fournisseurs.

Il est à noter que les modèles d'IA présentent toujours des biais cognitifs même lorsque le contexte de la question passe d'un contexte abstrait à un contexte commercial pratique.

GPT-4 est plus intelligent, mais il n'est pas parfait.

GPT-4 est une version améliorée de GPT-3.5, particulièrement performante pour résoudre les problèmes de logique et de probabilité. Cependant, dans les simulations subjectives, comme le choix d'une option risquée pour maximiser les profits, GPT-4 a tendance à se comporter de manière plus émotionnelle que les humains.

L'étude a notamment noté que GPT-4 fournit systématiquement des réponses biaisées dans les scénarios de test de biais de confirmation et est plus sujet à l'« erreur de la main chaude », une tendance à croire que des événements aléatoires se répéteront dans une séquence, que GPT-3.5.

À l'inverse, l'IA a le potentiel d'éviter certains biais que les humains commettent souvent, comme le fait de négliger la négligence du taux de base ou l'erreur des coûts irrécupérables.

AI - Ảnh 2. — La raison pour laquelle ChatGPT présente des biais similaires à ceux des humains provient de ses données d'entraînement, qui sont truffées de nos propres comportements et schémas de pensée imparfaits. - Image : IA

L'origine des biais de l'IA : les données humaines elles-mêmes.

Selon l'équipe de recherche, si ChatGPT présente des biais similaires à ceux des humains, c'est parce que les données d'entraînement sont imprégnées de nos propres comportements et schémas de pensée erronés. Le fait que l'IA soit perfectionnée grâce aux retours humains renforce encore cette tendance, le modèle étant « récompensé » pour des réponses qui semblent raisonnables plutôt que pour des réponses parfaitement exactes.

« Pour des résultats précis et impartiaux, utilisez l'IA pour les tâches que vous confiez déjà à un ordinateur en toute confiance », recommande le Dr Chen. « Toutefois, pour les problèmes stratégiques ou émotionnels, la supervision et l'intervention humaines restent nécessaires, ne serait-ce qu'en reformulant la question. »

Meena Andiappan, co-auteure et professeure agrégée en ressources humaines et gestion à l'Université McMaster (Canada), affirme : « L'IA doit être considérée comme un employé doté d'un important pouvoir de décision, ce qui signifie qu'elle doit être supervisée et respecter des principes éthiques. Autrement, nous risquons d'automatiser involontairement des raisonnements erronés au lieu de les améliorer. »

Revenons au sujet.

MINH HAI

Source : https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm