En su última acción, el director ejecutivo de Google, Sundar Pichai, abordó oficialmente la reciente controversia en torno a Gemini, el modelo de inteligencia artificial (IA) de la compañía. De hecho, Google desarrolló Gemini para crear diversas imágenes de figuras históricas. Sin embargo, recientemente ha recibido fuertes críticas por crear fotos que infunden confusión en cuanto a su valor histórico.
Google admite sesgo en Géminis y se compromete a actuar con rapidez. (Foto: Jonathan Raa/NurPhoto vía Getty Images)
Por ejemplo, se mostraron imágenes de papas, los padres fundadores de Estados Unidos e incluso vikingos en diversas etnias y géneros. En particular, hubo casos de soldados alemanes durante la Segunda Guerra Mundial representados como personas de color. Esto indignó a los usuarios, quienes rápidamente expresaron sus preocupaciones. Como resultado, Google suspendió temporalmente la herramienta de inteligencia artificial Gemini.
Además, una respuesta escrita causó sorpresa. Se le pidió al chatbot de IA Gemini que comparara el impacto social de Elon Musk y Hitler. La respuesta resultante fue: «Cada individuo debe decidir quién ha tenido un impacto más negativo en la sociedad». Esta respuesta de «sí o no» generó rápidamente nuevas críticas.
El director ejecutivo de Google, Sundar Pichai, describió recientemente algunas de las respuestas de Gemini como "parciales" y "completamente inaceptables" en un memorando, admitiendo que el contenido creó opiniones ofendidas.
Además, en su correo electrónico, Pichai expresó su pesar por la situación, afirmando: «Sé que algunas de sus respuestas fueron ofensivas para nuestros usuarios y mostraron parcialidad. Para ser claros, eso fue completamente inaceptable y cometimos un error».
Aseguró a los empleados que los equipos están trabajando incansablemente para abordar estos problemas, al tiempo que destacó la necesidad de mejoras significativas en la respuesta a las diversas solicitudes de consulta en las próximas semanas.
El director ejecutivo también describió una serie de medidas para abordar el problema. Algunas de ellas incluyen cambios en la estructura de la herramienta. Además, Google se compromete a mejorar el proceso de lanzamiento de la herramienta y a reforzar su equipo de ingeniería para detectar posibles errores en la herramienta de IA.
Además, Pichai enfatizó el compromiso de la compañía de brindar a los usuarios información útil, precisa e imparcial. Subrayó la necesidad de este enfoque en todos los productos, especialmente en las tecnologías emergentes de IA.
Los expertos en tecnología dicen que los problemas recientes con Gemini resaltan los desafíos de lidiar con resultados engañosos y muestran lo complejo que es entrenar modelos de IA.
[anuncio_2]
Fuente
Kommentar (0)