La IA rinde al máximo cuando se le encomienda la tarea de resolver problemas que siguen procedimientos claros y fórmulas fijas. Sin embargo, al enfrentarse a situaciones que requieren juicio subjetivo o que implican preferencias personales, la IA puede cometer errores similares a los de los humanos.
Un nuevo estudio publicado en la revista Manufacturing & Service Operations Management, realizado por científicos de cinco universidades de Canadá y Australia, evaluó el comportamiento de ChatGPT (específicamente, los modelos GPT-3.5 y GPT-4 de OpenAI) en 18 sesgos cognitivos prominentes que se encuentran comúnmente en la psicología humana, como el sesgo de confirmación, el efecto posesivo, la falacia del costo hundido y el sesgo de certeza.
Los resultados demostraron que, en casi la mitad de los escenarios probados, ChatGPT se comportó exactamente como un ser humano al enfrentarse a decisiones irracionales o emocionales, a pesar de la reputación del sistema por su razonamiento lógico coherente.
¿Es la IA realmente tan "imparcial" como se esperaba?
El Dr. Yang Chen, profesor asociado de gestión de operaciones en la Ivey Business School (Canadá) y autor principal del estudio, afirmó: «La IA funciona mejor cuando se le encomienda la tarea de resolver problemas que siguen procesos claros y fórmulas fijas. Pero cuando se trata de situaciones que requieren juicio subjetivo o que implican preferencias personales, la IA puede cometer errores al igual que los humanos».
El equipo de investigación incorporó escenarios psicológicos conocidos a ChatGPT, añadiendo contextos prácticos como la gestión de inventarios o las negociaciones con proveedores.
Cabe destacar que los modelos de IA siguen mostrando sesgos cognitivos incluso cuando el contexto de la pregunta cambia de un contexto abstracto a un contexto empresarial práctico.
GPT-4 es más inteligente, pero no es perfecto.
GPT-4 es una versión mejorada de GPT-3.5 que destaca en la resolución de problemas de lógica o probabilidad. Sin embargo, en simulaciones subjetivas, como elegir una opción arriesgada para aumentar las ganancias, GPT-4 tiende a comportarse de forma más emocional que los humanos.
En concreto, el estudio señaló que GPT-4 proporciona sistemáticamente respuestas sesgadas en escenarios de pruebas de sesgo de confirmación y es más propenso a la "falacia de la racha ganadora", una tendencia a creer que los eventos aleatorios se repetirán en secuencia, que GPT-3.5.
Por el contrario, la IA tiene el potencial de evitar algunos de los sesgos que suelen cometer los humanos, como pasar por alto la negligencia de la tasa base o la falacia del costo hundido.
La razón por la que ChatGPT muestra un sesgo similar al humano proviene de sus datos de entrenamiento, que están plagados de nuestros propios comportamientos y patrones de pensamiento defectuosos. - Imagen: IA
El origen del sesgo en la IA: Proviene de los propios datos humanos.
Según el equipo de investigación, el sesgo similar al humano que presenta ChatGPT se debe a los propios datos de entrenamiento, que están plagados de nuestros propios patrones de pensamiento y comportamientos erróneos. El hecho de que la IA se perfeccione a partir de la retroalimentación humana refuerza aún más esta tendencia, ya que el modelo es "recompensado" por respuestas que parecen razonables, en lugar de respuestas totalmente precisas.
«Para obtener resultados precisos e imparciales, utilice la IA para tareas que ya confía en que un ordenador pueda realizar correctamente», recomienda el Dr. Chen. «Sin embargo, para problemas estratégicos o emocionales, la supervisión e intervención humana siguen siendo necesarias, aunque solo sea reformulando la pregunta».
La coautora Meena Andiappan, profesora asociada de recursos humanos y gestión en la Universidad McMaster (Canadá), argumenta: «La IA debe considerarse un empleado con un poder de decisión significativo, lo que significa que necesita ser supervisada y adherirse a principios éticos. De lo contrario, estaremos automatizando inadvertidamente un pensamiento erróneo en lugar de mejorarlo».
Fuente: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm
![[Foto] Admire la "obra maestra" de coral en medio del patrimonio milenario de la provincia de Dak Lak.](https://vphoto.vietnam.vn/thumb/1200x675/vietnam/resource/IMAGE/2026/05/30/1780107638639_y25-jpg.webp)
Kommentar (0)