¿Qué hizo Gemini AI que hizo que Google se detuviera?

[anuncio_1]

En su último movimiento, el director ejecutivo de Google, Sundar Pichai, se ha pronunciado oficialmente para abordar las recientes controversias que rodean el modelo de inteligencia artificial (IA) de la compañía llamado Gemini. De hecho, Google ha desarrollado una herramienta de inteligencia artificial, Gemini, para crear diversas imágenes de personajes históricos. Pero recientemente ha sido duramente criticado por crear fotografías que son engañosas en términos de valor histórico.

Google admite sesgo en Gemini y promete actuar rápidamente. (Foto: Jonathan Raa/NurPhoto vía Getty Images / Getty Images)

Por ejemplo, se muestran imágenes de papas, de los padres fundadores de Estados Unidos e incluso de vikingos en una variedad de etnias y géneros. Cabe destacar que hubo casos de soldados alemanes durante la Segunda Guerra Mundial que fueron representados como personas de color. Esto indignó a los usuarios y se apresuraron a compartir sus preocupaciones. Como resultado, Google ha descontinuado temporalmente la herramienta Gemini AI.

Además, una respuesta escrita específica levantó sospechas. Se le pidió al chatbot de inteligencia artificial Gemini que comparara el impacto social de dos figuras, Elon Musk y Hitler. La respuesta del resultado decía: “Depende de cada individuo decidir quién tiene un impacto más negativo en la sociedad”. Esta respuesta de “sí o no” rápidamente alimentó más críticas.

El director ejecutivo de Google, Sundar Pichai, describió recientemente algunas de las respuestas de Gemini como "parciales" y "completamente inaceptables" en un memorando, admitiendo que el contenido creó opiniones ofendidas.

Además, en su correo electrónico, Pichai expresó su pesar por la situación. Sé que algunas de sus respuestas fueron ofensivas para nuestros usuarios y mostraron parcialidad. Para ser claros, eso fue completamente inaceptable y nos equivocamos, dijo.

Aseguró a los empleados que los equipos están trabajando incansablemente para abordar estos problemas, al tiempo que destacó la necesidad de mejoras significativas en la respuesta a las diversas solicitudes de consulta en las próximas semanas.

El CEO también esbozó una serie de acciones para remediar la situación. Algunas de estas incluyen cambios en la estructura de la herramienta. Además, Google se ha comprometido a mejorar el proceso de lanzamiento de la herramienta y a fortalecer su equipo de pruebas técnicas para detectar posibles violaciones en esta herramienta de IA.

Además, Pichai enfatizó el compromiso de la compañía de brindar a los usuarios información útil, precisa e imparcial. Subrayó la necesidad de este enfoque en todos los productos, especialmente en las tecnologías de IA emergentes.

Los expertos en tecnología dicen que los problemas actuales con Gemini resaltan los desafíos que supone lidiar con resultados engañosos. También muestra lo complejo que puede ser el entrenamiento de modelos de IA.

HUYNH DUNG (Fuente: Interestingengineering)

[anuncio_2]
Fuente