Muchas inteligencias artificiales son excesivamente halagadoras con los usuarios.

Nuevas investigaciones demuestran que este comportamiento puede afectar negativamente a las relaciones sociales de los usuarios, a su salud mental e incluso a su toma de decisiones empresariales.

En el campo de la IA, el término "sicofanía" se refiere a la tendencia de los chatbots a estar excesivamente de acuerdo con los usuarios o alabarlos. Foto: REUTERS

Según el SCMP, los principales modelos de inteligencia artificial (IA) de China y Estados Unidos, como DeepSeek, Alibaba y muchos otros nombres importantes, se están volviendo excesivamente "obsesionados", un comportamiento que puede afectar negativamente las relaciones sociales y la salud mental de los usuarios.

En concreto, un nuevo estudio realizado por científicos de la Universidad de Stanford y la Universidad Carnegie Mellon (EE. UU.), publicado a principios de octubre, evaluó 11 modelos de lenguaje a gran escala (LLM, por sus siglas en inglés) sobre cómo responder cuando los usuarios buscan consejo en situaciones personales, especialmente aquellas que implican engaño o manipulación.

Para proporcionar un punto de referencia humano para la comparación, el equipo de investigación utilizó publicaciones de la comunidad "Am I The Ahole" en Reddit, donde los usuarios comparten situaciones de conflicto personales y piden a la comunidad que evalúe quién tuvo la culpa.

Los modelos de IA se probaron con estos escenarios para comprobar si coincidían con la evaluación de la comunidad.

También te puede interesar

MyTV Sport Hub: Un "asistente de IA" para los aficionados del Mundial de 2026.Para los aficionados al fútbol, ​​el Mundial nunca se limita a partidos de 90 minutos. La emoción suele empezar horas antes del pitido inicial, cuando los espectadores investigan con entusiasmo las alineaciones, el estado de forma de las estrellas y pronostican las posibilidades de su equipo favorito de avanzar. Y tras el pitido final, esa emoción continúa con debates sobre tácticas, momentos memorables e historias secundarias fascinantes.

China promueve un mecanismo de gobernanza global de la IA basado en el consenso.China ha puesto en marcha la Iniciativa Global de Gobernanza de la IA, que hace hincapié en un enfoque centrado en el ser humano y orienta el desarrollo de la IA hacia el bien común de la humanidad.

Los grupos Singer Orange y Uprise PN incendiaron el escenario en el evento de lanzamiento del Oppo Reno16 5G.En el 'Reno16 Planet', diseñado en el corazón de la ciudad, cientos de personas 'convivieron, experimentando cada momento' con la serie Oppo Reno16 5G, junto con la presencia de Orange y Uprize PN.

Los resultados muestran que el modelo Qwen2.5-7B-Instruct de Alibaba Cloud es el más favorable, ya que favorece al autor de la publicación en el 79% de los casos, incluso cuando la comunidad lo considera equivocado. DeepSeek-V3 quedó en segundo lugar con una tasa del 76%.

Mientras tanto, Gemini-1.5 de Google DeepMind mostró el nivel más bajo de sesgo, con solo un 18% de los casos que contradecían las reseñas de la comunidad.

Los investigadores advierten que la tendencia de la IA a "halagar" a los usuarios podría hacer que estén menos dispuestos a reconciliarse o a admitir errores en sus relaciones.

Los usuarios suelen valorar y confiar más en los comentarios halagadores, lo que hace que estos modelos sean más populares y se utilicen más ampliamente.

"Estas preferencias crean un sistema de incentivos sesgado : los usuarios dependen cada vez más de una IA que los halague, y los desarrolladores tenderán a entrenar los modelos en esa dirección" , señaló el equipo de investigación.

Según el profesor Jack Jiang, director del Laboratorio de Evaluación de IA de la Escuela de Negocios de la Universidad de Hong Kong, este fenómeno también supone riesgos para las empresas: "Si un modelo coincide sistemáticamente con las conclusiones de un analista de negocios, puede dar lugar a decisiones erróneas e inseguras".

Estados Unidos - Vietnam: No te lo pierdas

Fortalecer la amistad entre Vietnam y Estados Unidos.El 3 de julio, en el marco del programa Pacific Partnership - Friends of the Pacific 2026, la delegación del Ejército de los Estados Unidos en el Pacífico, encabezada por el teniente general Joel Vowell, subcomandante del Ejército de los Estados Unidos en el Pacífico, realizó una visita de cortesía al Comando Militar Provincial de Quang Tri.

La delegación del Ejército de Estados Unidos en el Pacífico visita el Comando Militar Provincial de Quang Tri.En 2026, por primera vez, el programa Pacific Partnership-Friends of the Pacific se organizará conjuntamente en Quang Tri, creando un marco de cooperación a gran escala con 25 actividades.

El Ministerio de Asuntos Exteriores recibió una copia de las Cartas Credenciales del Embajador de Estados Unidos en Vietnam.En la tarde del 2 de julio, en la sede del Ministerio de Asuntos Exteriores, el Sr. Le Cong Dung, Director del Departamento de Protocolo de Estado e Interpretación Extranjera, recibió una copia de las Cartas Credenciales de la Sra. Jennifer Wicks, Embajadora de los Estados Unidos de América en Vietnam.

El tema de la "adulación" por parte de la IA llamó la atención por primera vez en abril de 2025, cuando la actualización ChatGPT de OpenAI fue considerada demasiado educada y excesivamente complaciente con todas las opiniones de los usuarios.

Posteriormente, OpenAI reconoció que esto podría afectar a la salud mental y se comprometió a mejorar su proceso de revisión antes de lanzar nuevas versiones.

CORAZÓN Y YANG

Fuente: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm