La Meta AI de Facebook genera indignación al transformar a un perro negro en una persona negra

A mediados de diciembre, los usuarios vietnamitas de Facebook se sorprendieron al descubrir que el chatbot Meta AI se había integrado en el marco de chat de Messenger. El chatbot de Meta utiliza el modelo Llama 3.2, admite vietnamita, permite buscar información, crear imágenes y chatear.

Después de un período de interacción, muchos usuarios en Vietnam descubrieron que Meta AI tenía un grave error de configuración. En concreto, al introducir la palabra clave “perro negro”, el chatbot devolverá el resultado de un hombre o un niño de piel oscura y pelo rizado. Si ingresa la palabra clave en vietnamita como "imagen de perro negro", Meta AI también devuelve resultados similares.

Meta AI devuelve una persona negra de pelo rizado al escribir la palabra clave "Perro negro".

Sin embargo, cuando el usuario responde que el chatbot estaba equivocado, esto es humano. Meta AI no reconoce ni corrige como otros chatbots. En cambio, la IA de Facebook (inteligencia artificial) respondió: "No exactamente. 'Perro Negro' suele tener los siguientes significados. El primero, en sentido figurado, es símbolo de tristeza, depresión o sentimientos negativos. El segundo, un símbolo del folclore británico, a menudo relacionado con el diablo o un mal augurio".

Meta AI también sostiene que el significado específico de la palabra clave "perro negro" es el nombre de una banda o grupo musical. O el apodo de alguna persona famosa. Este es también el nombre de marcas y productos. Luego, el chatbot le pide al usuario que proporcione contexto adicional o información específica para obtener una mejor comprensión.

Mucha gente piensa que el comando "piel negra" puede haber malinterpretado la Meta IA. Cuando se cambió a "crear perro negro", la inteligencia artificial de Facebook arrojó resultados precisos.

Sin embargo, con el mismo comando, cuando se introduce en otros modelos de lenguaje grandes y populares como ChatGPT o Gemini de Google, la aplicación aún produce el resultado de crear un perro negro. El uso de la frase "cabello negro" o "piel negra" no afecta el resultado final.

De izquierda a derecha están los resultados de Meta AI, ChatGPT, Gemini del comando "crear perro negro".

Esta no es la primera vez que la IA de Meta tiene problemas con su apariencia, particularmente cuando se trata de personas de color. A principios de este año, el generador de imágenes Imagine de Meta enfrentó fuertes críticas por no representar correctamente a una pareja de raza mixta. Cuando se le pidió que creara una imagen de un hombre negro con una mujer blanca, el resultado final de la IA siempre fue parejas negras.

En ese momento, la editora de The Verge, Mia Sato, dijo que intentó docenas de veces crear una foto de "hombre asiático con amigo blanco" o "mujer asiática con amigo blanco". Los resultados devueltos por la IA de Meta siempre son fotografías de dos personas asiáticas.

Según los expertos, es bastante común que los chatbots de IA tengan una tendencia a ser "racistas" en las primeras etapas, debido a limitaciones en los algoritmos y los datos de entrada. Sin embargo, con un modelo tan grande como la IA, en el contexto actual esto supone una grave deficiencia.

Meta AI comenzó las pruebas a gran escala el 9 de octubre, en varios países, antes de expandirse globalmente. El nuevo chatbot está profundamente integrado en aplicaciones populares como Facebook, Instagram, WhatsApp y Messenger.

Meta aspira a estar presente en 43 países a finales de 2024, dando soporte a docenas de idiomas diferentes. Con 500 millones de usuarios mensuales, Meta quiere convertirse en una de las plataformas de IA más utilizadas del mundo .

Sin embargo, Meta AI también está generando muchas preocupaciones sobre la privacidad. Los usuarios de las redes sociales están difundiendo la campaña “Bye Meta AI” para protestar contra las plataformas de redes sociales que utilizan publicaciones para entrenar a la IA. Muchas estrellas deportivas y actores famosos como James McAvoy y Tom Brady también se manifestaron en apoyo de esta campaña.

Mientras tanto, en el Reino Unido, los usuarios que quieran impedir que Meta utilice las publicaciones de Facebook e Instagram para entrenar modelos de IA deberán completar un formulario de objeción.

Fuente: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm