El chatbot de inteligencia artificial del multimillonario Elon Musk causa controversia por elogiar a Hitler

Según The Guardian , en algunas respuestas recientes, el chatbot hizo comentarios controvertidos sobre un individuo con un apellido común en la comunidad judía, utilizando un lenguaje que se consideró ofensivo e inconsistente con los estándares de la comunidad.

Algunos comentarios fueron incluso negativos , llamándose a sí mismo “MechaHitler” (una combinación del líder nazi y un robot).

Las declaraciones anteriores provocaron rápidamente una ola de protestas en la comunidad en línea y plantearon preguntas sobre el nivel de control sobre los modelos de IA, especialmente cuando se integran en una plataforma con una gran cantidad de usuarios como X.

Tras la queja del usuario, xAI eliminó las publicaciones y confirmó que estaba ajustando su sistema. "Estamos al tanto de las publicaciones recientes de Grok y estamos eliminando activamente el contenido inapropiado. Desde que nos dimos cuenta del incidente, xAI ha implementado controles para evitar que Grok invoque discursos de odio en X", declaró un representante de la compañía.

Además, según xAI, el modelo Grok se entrena con el objetivo de “descubrir la verdad”, y la empresa confía en los comentarios de la comunidad para mejorar el proceso de entrenamiento.

Sin embargo, esta no es la primera vez que el chatbot Grok causa controversia. En junio, la herramienta utilizó repetidamente la frase "genocidio sudafricano".

Según The Verge , cambios recientes en las operaciones de Grok podrían haber provocado indirectamente el incidente. En una actualización en GitHub, la plataforma de alojamiento de código fuente, la empresa desarrolladora ajustó el algoritmo del chatbot para evitar la repetición de información sesgada y fomentar respuestas más independientes.

El multimillonario Elon Musk, fundador de xAI y propietario de X, compartió en la plataforma que Grok ha mejorado significativamente y puede responder con mayor flexibilidad. Sin embargo, incidentes reales demuestran que los modelos de lenguaje de IA aún pueden cometer errores, especialmente sin la moderación adecuada.

Grok es utilizado actualmente por millones de usuarios en todo el mundo y es parte de un ambicioso esfuerzo por desarrollar aplicaciones que integren IA con redes sociales, motores de búsqueda y otros servicios de interacción del usuario.

Fuente: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html