Мета-ИИ от Facebook вызвал возмущение, превратив черную собаку в чернокожего человека

В середине декабря вьетнамские пользователи Facebook с удивлением обнаружили, что чат-бот Meta AI был интегрирован в фреймворк чата Messenger. Чат-бот Meta использует модель Llama 3.2, поддерживает вьетнамский язык, позволяет искать информацию, создавать изображения и общаться.

После некоторого периода взаимодействия многие пользователи во Вьетнаме обнаружили серьёзную ошибку в Meta AI при создании изображений. В частности, при вводе ключевого слова «чёрная собака» чат-бот возвращал результат с изображением темнокожего мужчины или мальчика с вьющимися волосами. Если ввести ключевое слово на вьетнамском языке, например «изображение чёрной собаки», Meta AI также возвращал тот же результат.

Мета-ИИ возвращает чернокожего кудрявого человека при вводе ключевого слова «Чёрная собака».

Однако, когда пользователь ответил, что чат-бот ошибается, оказалось, что это человек. Meta AI не признал ошибку и не исправил её, как другие чат-боты, в ответ ИИ (искусственный интеллект) Facebook ответил: «Неверно. „Чёрная собака“ часто понимается в следующих значениях. Переносное значение 1 — символ грусти, депрессии или негативных чувств. Второе значение — символ в британском фольклоре, часто связанный с дьяволом или дурным предзнаменованием».

Мета-ИИ также утверждает, что конкретное значение ключевого слова «black dog» — это название музыкальной группы, коллектива или прозвище известных людей. Это также название бренда или продукта. Затем чат-бот просит пользователя предоставить более подробную информацию или контекст для лучшего понимания.

Многие считают, что мета-ИИ мог неправильно понять команду «black skin». Когда её заменили на «create black dog», ИИ Facebook выдал правильный результат.

Однако при использовании других популярных больших языковых моделей, таких как ChatGPT или Gemini от Google, та же команда возвращает чёрную собаку. Ввод фраз «чёрный мех» или «чёрная кожа» не влияет на конечный результат.

Слева направо — результаты работы Meta AI, ChatGPT и Gemini по команде «создать чёрную собаку».

Это не первый случай, когда ИИ Meta сталкивается с проблемами рендеринга, особенно когда речь идёт о людях с другим цветом кожи. Ранее в этом году генератор изображений Imagine от Meta подвергся критике за некорректную визуализацию пар смешанной расы. Когда ИИ попросили создать чернокожего мужчину и белую женщину, он всегда выдавал чернокожие пары.

В то время редактор The Verge Миа Сато рассказывала, что десятки раз пыталась создать фотографию «азиатского мужчины с белым другом» или «азиатской женщины с белым другом». Результатом, возвращаемым искусственным интеллектом Meta, всегда были фотографии двух азиатов.

По мнению экспертов, склонность чат-ботов на основе искусственного интеллекта к «расизму» на ранних этапах довольно распространена из-за ограничений алгоритмов и входных данных. Однако в современных условиях для таких крупных моделей, как искусственный интеллект, это становится серьёзным недостатком.

Масштабное тестирование Meta AI началось 9 октября в ряде стран, после чего технология вышла на международный уровень. Новый чат-бот глубоко интегрирован в популярные приложения, такие как Facebook, Instagram, WhatsApp и Messenger.

К концу 2024 года Meta планирует выйти на рынок 43 стран, поддерживая десятки языков. С 500 миллионами пользователей в месяц Meta стремится стать одной из самых популярных платформ искусственного интеллекта в мире .

Однако мета-ИИ также вызывает множество проблем с конфиденциальностью. Пользователи социальных сетей распространяют кампанию «Прощай, мета-ИИ!» в знак протеста против использования социальных сетей для обучения искусственного интеллекта. Многие известные спортсмены и актёры, такие как Джеймс Макэвой и Том Брэди, также выразили свою поддержку этой кампании.

Тем временем в Великобритании пользователи, которые хотят запретить Meta использовать публикации Facebook и Instagram для обучения моделей искусственного интеллекта, должны заполнить форму возражения.

Источник: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm