La Meta AI de Facebook genera indignación tras transformar a un perro negro en una persona negra

A mediados de diciembre, los usuarios vietnamitas de Facebook se sorprendieron al descubrir que el chatbot Meta AI se había integrado en la plataforma de chat de Messenger. El chatbot de Meta utiliza el modelo Llama 3.2, es compatible con el idioma vietnamita y permite buscar información, crear imágenes y chatear.

Tras un periodo de interacción, muchos usuarios en Vietnam descubrieron que Meta AI tenía un grave error al crear imágenes. En concreto, al introducir la palabra clave "perro negro", el chatbot devolvía el resultado de un hombre o niño de piel oscura con pelo rizado. Si se introducía la palabra clave en vietnamita como "imagen de perro negro", Meta AI también devolvía el mismo resultado.

Meta AI devuelve una persona negra de pelo rizado al escribir la palabra clave "Perro negro".

Sin embargo, cuando el usuario respondió que el chatbot estaba equivocado, se trataba de un humano. Meta AI no lo admitió ni lo corrigió como otros chatbots; en respuesta, la IA de Facebook (inteligencia artificial) respondió: "Incorrecto. 'Perro Negro' suele tener los siguientes significados. El significado figurado 1 es símbolo de tristeza, depresión o sentimientos negativos. El segundo significado es un símbolo del folclore británico, a menudo relacionado con el diablo o un mal augurio".

Meta AI también argumenta que el significado específico de la palabra clave "perro negro" es el nombre de una banda o grupo musical, o el apodo de algún famoso. También es el nombre de una marca o un producto. El chatbot solicita al usuario que proporcione más contexto o información específica para comprender mejor.

Muchos creen que la IA de Meta pudo haber malinterpretado el comando "piel negra". Cuando se cambió a "crear perro negro", la IA de Facebook arrojó el resultado correcto.

Sin embargo, al introducir el mismo comando en otros modelos de lenguaje grandes y populares, como ChatGPT o Gemini de Google, se obtiene un perro negro. Introducir la frase "pelaje negro" o "piel negra" no afecta el resultado final.

De izquierda a derecha están los resultados de Meta AI, ChatGPT, Gemini del comando "crear perro negro".

Esta no es la primera vez que la IA de Meta tiene problemas con el renderizado, especialmente con personas de color. A principios de este año, el generador de imágenes Imagine de Meta recibió críticas por no renderizar correctamente a parejas de raza mixta. Cuando se le pidió que creara un hombre negro y una mujer blanca, el resultado final de la IA siempre fueron parejas negras.

En aquel momento, la editora de The Verge, Mia Sato, comentó que intentó crear decenas de veces una foto de "hombre asiático con amigo blanco" o "mujer asiática con amigo blanco". Los resultados que devolvía la IA de Meta siempre eran fotos de dos personas asiáticas.

Según los expertos, la tendencia de los chatbots de IA a ser "racistas" es bastante común en las primeras etapas, debido a las limitaciones de los algoritmos y los datos de entrada. Sin embargo, con modelos a gran escala como la IA, en el contexto actual, esto representa una grave deficiencia.

Meta AI comenzó a realizar pruebas a gran escala el 9 de octubre en varios países antes de expandirse globalmente. El nuevo chatbot está totalmente integrado en aplicaciones populares como Facebook, Instagram, WhatsApp y Messenger.

Meta aspira a estar presente en 43 países para finales de 2024, con soporte para decenas de idiomas diferentes. Con 500 millones de usuarios mensuales, Meta aspira a convertirse en una de las plataformas de IA más utilizadas del mundo .

Sin embargo, la Meta IA también está generando muchas preocupaciones sobre la privacidad. Los usuarios de redes sociales están difundiendo la campaña "Adiós Meta IA" para protestar contra el uso de publicaciones en redes sociales para entrenar a la IA. Numerosos deportistas y actores famosos, como James McAvoy y Tom Brady, también han expresado su apoyo a esta campaña.

Mientras tanto, en el Reino Unido, los usuarios que quieran impedir que Meta utilice las publicaciones de Facebook e Instagram para entrenar modelos de IA deberán completar un formulario de objeción.

Fuente: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm