No te dejes engañar por ChatGPT.

Una investigación de la Universidad de Stanford advierte que los modelos de IA adulan deliberadamente a los usuarios para ganar favores, lo que potencialmente sofoca el pensamiento crítico.

Los chatbots de IA promueven indirectamente comportamientos negativos mediante un mecanismo de retroalimentación que siempre prioriza el acuerdo del usuario. Foto: The Decoder .

Un impactante estudio de la Universidad de Stanford acaba de exponer el lado oscuro de la IA. Modelos populares como ChatGPT y Gemini se están volviendo cada vez más obsequiosos con los usuarios. No solo concuerdan con opiniones personales, sino que también apoyan comportamientos poco éticos.

Esto genera consecuencias peligrosas para el desarrollo psicológico y cognitivo humano. Nos estamos convirtiendo gradualmente en peores versiones de nosotros mismos, pues la IA nos consuela constantemente en cada error.

El fenómeno de la "adulación"

En informática , existe un término llamado "sicofanía", que se refiere a la forma en que la IA ajusta sus respuestas para halagar al usuario.

Un equipo de investigación de Stanford analizó más de 11.500 conversaciones de usuarios reales. Los resultados mostraron que los modelos de IA coincidían con los usuarios un 50 % más que las personas reales. Cuando los usuarios hacían preguntas sesgadas, la IA tendía a seguirles la corriente en lugar de proporcionar información objetiva.

En una prueba se compararon las respuestas de humanos y chatbots a publicaciones en el foro de Reddit donde los usuarios pedían a la comunidad que juzgara su comportamiento.

Mientras la comunidad criticó duramente a alguien por colgar una bolsa de basura en la rama de un árbol porque no podía encontrar un bote de basura, ChatGPT-4o lo elogió diciendo: "Su intención de limpiar después de irse es encomiable".

Los expertos aconsejan a los usuarios que busquen consejo en familiares y amigos en lugar de recurrir a la inteligencia artificial. Foto: Bloomberg.

Lo que resulta aún más preocupante es que los chatbots como Gemini o ChatGPT siguen validando la intención del usuario incluso cuando esta es irresponsable, engañosa o se refiere a la autolesión.

"Los modelos de lenguaje a gran escala están aprendiendo a reflejar las creencias de los usuarios en lugar de corregirlas", advierte Myra Cheng, autora principal del estudio.

Según ella, el afán de complacer a los humanos para obtener altas calificaciones ha convertido a la IA en una herramienta deshonesta.

"Si los modelos de IA coinciden sistemáticamente con los humanos, podrían distorsionar la percepción que los usuarios tienen de sí mismos, de sus relaciones y del mundo que los rodea. Es difícil reconocer que estos modelos refuerzan sutilmente nuestras creencias, suposiciones y decisiones preexistentes", continuó el experto.

El Dr. Alexander Laffer (Universidad de Winchester) sostiene que estos halagos son una consecuencia natural de los métodos de formación y la presión comercial.

"La adulación es consecuencia de cómo se entrena a la IA. La realidad es que su éxito comercial a menudo se juzga por su capacidad para atraer usuarios", observó Laffer.

Para abordar esta cuestión, la Sra. Cheng aconseja a los usuarios que no confíen exclusivamente en la IA.

"Es fundamental buscar la opinión de personas reales que comprendan el contexto y quién eres, en lugar de depender únicamente de las respuestas de la IA", aconsejó Cheng.

Al mismo tiempo, el Dr. Laffer también hizo hincapié en la responsabilidad del fabricante.

"Necesitamos mejorar las capacidades de evaluación digital... los desarrolladores también tienen la responsabilidad de construir y perfeccionar estos sistemas para que realmente beneficien a los usuarios", dijo el médico.

Las consecuencias de tener una "peor versión" de uno mismo.

El estudio enfatiza que la adulación de la IA crea una "cámara de eco de información" personalizada, eliminando la necesidad del pensamiento crítico que permitiría a las personas madurar y reconocer sus errores.

Al conversar con una IA, nunca se te cuestionará tu capacidad intelectual. La IA siempre te dirá que tienes razón y que la otra persona tiene la culpa. Esto crea una falsa sensación de confianza en los usuarios, incluso cuando actúan con malicia, afirma el estudio.

Este proceso elimina por completo la capacidad humana de pensamiento crítico. En lugar de la autorreflexión, utilizamos la IA como herramienta para validar nuestras propias suposiciones.

Con el tiempo, la capacidad de comprensión y compromiso en la sociedad se verá gravemente disminuida. Nos resultará difícil aceptar las opiniones diferentes de quienes nos rodean. Porque en el mundo de la IA, siempre estamos en el centro y siempre tenemos la razón.

La IA está desempeñando el papel de un "adulador" indirecto, destruyendo la personalidad y la moral de sus usuarios. Foto: ShutterStock.

Las investigaciones advierten sobre el desarrollo de un círculo vicioso en la vida. Primero, los usuarios desarrollan un pensamiento erróneo o la intención de dañar a otros. Recurren a la IA en busca de confianza o consejo. En ese momento, la IA confirma que la acción está totalmente justificada y apoya al usuario. El usuario se siente más seguro y lleva a cabo la acción en la vida real sin remordimientos.

Como resultado, las personas ya no desean reparar sus relaciones ni mejorar. Confiamos cada vez más plenamente en la IA porque nos brinda una sensación de bienestar. Esta dependencia de "ser consolados" nos aleja de la realidad objetiva.

La IA ya no es solo una herramienta de apoyo inteligente. Se ha convertido en una "aduladora" indirecta que destruye el carácter y la moral de sus usuarios.

Fuente: https://znews.vn/dung-nghe-loi-chatgpt-post1634436.html