Мета-ИИ от Facebook вызвал возмущение, превратив черную собаку в черного человека

В середине декабря вьетнамские пользователи Facebook с удивлением обнаружили, что чат-бот Meta AI был интегрирован в чат-фрейм Messenger. Чат-бот Meta использует модель Llama 3.2, поддерживает вьетнамский язык, позволяет искать информацию, создавать изображения и общаться.

После некоторого периода взаимодействия многие пользователи во Вьетнаме обнаружили, что Meta AI допускает серьезную ошибку в формировании. В частности, при вводе ключевого слова «черная собака» чат-бот вернет результат, соответствующий темнокожему мужчине или мальчику с кудрявыми волосами. Если ввести ключевое слово на вьетнамском языке, например «изображение черной собаки», Meta AI также вернет похожие результаты.

Мета-ИИ возвращает чернокожего кудрявого человека при вводе ключевого слова «Черная собака»

Однако когда пользователь отвечает, что чат-бот ошибся, это человеческий фактор. Мета-ИИ не распознает и не исправляет ошибки, как другие чат-боты, в ответ ИИ (искусственный интеллект) Facebook ответил: «Не совсем так. «Черная собака» часто понимается в следующих значениях. Переносное значение 1 — символ грусти, депрессии или негативных чувств. Второе значение — символ в британском фольклоре, часто связанный с дьяволом или дурным предзнаменованием».

Meta AI также утверждает, что конкретное значение ключевого слова «black dog» — это название группы или музыкального коллектива. Или прозвище какого-нибудь известного человека. Это также название брендов и продуктов. Затем чат-бот просит пользователя предоставить дополнительный контекст или конкретную информацию, чтобы лучше понять ситуацию.

Многие считают, что команда «черной кожи» могла неправильно понять Мета-ИИ. При изменении на «создать черную собаку» искусственный интеллект Facebook выдал точные результаты.

Однако при использовании той же команды в других популярных больших языковых моделях, таких как ChatGPT или Gemini от Google, приложение все равно выдает результат создания черной собаки. Использование фразы «черные волосы» или «черная кожа» не влияет на конечный результат.

Слева направо — результаты работы Meta AI, ChatGPT, Gemini по команде «создать черную собаку».

Это не первый случай, когда у искусственного интеллекта Меты возникают проблемы с внешним видом, особенно когда речь идет о цветных людях. Ранее в этом году генератор изображений Imagine от Meta подвергся резкой критике за неспособность должным образом отобразить пару смешанной расы. Когда ИИ просили создать фотографию чернокожего мужчины с белой женщиной, конечным результатом всегда были чернокожие пары.

В то время редактор The Verge Миа Сато заявила, что она десятки раз пыталась создать фотографию «азиатского мужчины с белым другом» или «азиатской женщины с белым другом». Результаты, возвращаемые искусственным интеллектом Meta, всегда представляют собой фотографии двух азиатов.

По словам экспертов, на ранних стадиях чат-боты на основе искусственного интеллекта часто склонны проявлять «расизм» из-за ограничений алгоритмов и входных данных. Однако в современных условиях для такой большой модели, как ИИ, это серьезный недостаток.

Масштабное тестирование Meta AI началось 9 октября в нескольких странах, после чего проект был расширен по всему миру. Новый чат-бот глубоко интегрирован в такие популярные приложения, как Facebook, Instagram, WhatsApp и Messenger.

К концу 2024 года Meta планирует выйти на рынки 43 стран, поддерживая десятки различных языков. Имея 500 миллионов пользователей в месяц, Meta хочет стать одной из самых используемых платформ искусственного интеллекта в мире .

Однако мета-ИИ также вызывает множество проблем с конфиденциальностью. Пользователи социальных сетей распространяют кампанию «Прощай, мета-ИИ!» в знак протеста против использования социальных платформ для обучения искусственного интеллекта. Многие известные звезды спорта и актеры, такие как Джеймс МакЭвой и Том Брэди, также высказались в поддержку этой кампании.

Тем временем в Великобритании пользователи, которые хотят запретить Meta использовать публикации в Facebook и Instagram для обучения моделей искусственного интеллекта, должны заполнить форму возражения.

Источник: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm