En un reciente acontecimiento, el CEO de Google, Sundar Pichai, se pronunció oficialmente sobre las controversias que rodean al modelo de inteligencia artificial (IA) de la compañía, llamado Gemini. Google desarrolló la herramienta Gemini para generar diversas imágenes de figuras históricas. Sin embargo, recientemente ha recibido fuertes críticas por crear imágenes que resultan engañosas en cuanto a su valor histórico.
Google admite sesgo en Gemini y promete actuar con rapidez. (Foto: Jonathan Raa/NurPhoto vía Getty Images / Getty Images)
Por ejemplo, se mostraron imágenes de papas, padres fundadores de Estados Unidos e incluso vikingos representados con diversas etnias y géneros. Cabe destacar que hubo casos de soldados alemanes de la Segunda Guerra Mundial representados como personas de color. Esto indignó a los usuarios, quienes rápidamente expresaron su preocupación. Como resultado, Google suspendió temporalmente la herramienta de IA Gemini.
Además, una respuesta escrita en particular causó revuelo. Se le pidió al chatbot de Gemini AI que comparara el impacto social de Elon Musk y Hitler. El resultado fue: «Decidir quién tiene un impacto más negativo en la sociedad es una cuestión de criterio individual». Esta respuesta ambigua rápidamente generó críticas.
Recientemente, el director ejecutivo de Google, Sundar Pichai, calificó algunas de las respuestas de Gemini de "sesgadas" y "completamente inaceptables" en un memorando, admitiendo que el contenido creado había ofendido a algunas personas.
Además, en su correo electrónico, Pichai expresó su pesar por la situación. Declaró: «Sé que algunas de las respuestas ofendieron a nuestros usuarios y demostraron parcialidad. Para que quede claro, eso fue completamente inaceptable y nos equivocamos».
Aseguró al personal que los equipos estaban trabajando incansablemente para abordar estos problemas, al tiempo que hizo hincapié en la necesidad de una mejora significativa en la respuesta a las diversas consultas en las próximas semanas.
El director ejecutivo también describió una serie de medidas para abordar este problema. Algunas de ellas incluyen cambios en la estructura de la herramienta. Además, Google se compromete a mejorar el proceso de lanzamiento de la herramienta y a fortalecer su equipo de pruebas de ingeniería para detectar posibles fallos en la herramienta de IA.
Además, Pichai hizo hincapié en el compromiso de la empresa de brindar a los usuarios información útil, precisa e imparcial. Subrayó la necesidad de este enfoque en todos los productos, especialmente en las tecnologías emergentes de IA.
Los expertos en tecnología consideran que los problemas actuales con Gemini ponen de manifiesto las dificultades que supone gestionar resultados engañosos. Además, demuestran la complejidad del entrenamiento de modelos de IA.
Fuente
Kommentar (0)