Компании «получают пули» за злоупотребление ИИ

Конкуренция в сфере искусственного интеллекта — неизбежная тенденция сегодня. Однако интеграцию чат-ботов следует осуществлять осторожно, чтобы избежать общественного сопротивления.

Duolingo получает негативные отзывы о своей новой модели, основанной на искусственном интеллекте. Фото: Unsplash .

С момента своего запуска почти три года назад ChatGPT вызвал ажиотаж вокруг искусственного интеллекта и побудил компании интегрировать эту технологию в свои продукты и услуги. Многие компании считают, что ИИ помог им оптимизировать расходы, повысить эффективность и даже полностью изменить рабочий процесс.

Однако использование искусственного интеллекта — довольно деликатная тема, и при неправильном подходе оно может нанести серьёзный ущерб репутации. Многие влиятельные компании подверглись критике со стороны общественности за бесконтрольное злоупотребление ИИ. Это свидетельствует о том, что взгляды пользователей на этику становятся всё более жёсткими.

Когда интеграция ИИ приводит к обратным результатам

Более недели назад всемирно популярное приложение для изучения языков Duolingo удалило весь свой контент из социальных сетей, заменив своих обычных персонажей на мятежную трёхглазую сову в толстовке с капюшоном. К 26 мая бренд восстановил исходные публикации.

Этот шаг был предпринят после того, как компания объявила о переходе на модель «ИИ-в первую очередь» в публикации на LinkedIn в апреле. Публикация содержала скриншот электронного письма генерального директора Луиса фон Ана, в котором он сравнивал этот переход с переходом с настольных компьютеров на мобильные устройства в 2012 году.

Однако не все в восторге. Некоторые пользователи раскритиковали компанию за то, что она ставит количество выше качества. По данным аналитической компании CARMA, в глобальном масштабе соотношение тональностей в обсуждениях этой проблемы составляет 24,5% положительных и 41,1% отрицательных.

Мнения разделились и в игровой индустрии, где интеграция ИИ практически стала нормой. В недавнем обновлении Fortnite компания Epic Games, владеющая игрой, протестировала персонажа Дарта Вейдера, полностью управляемого ИИ, который взаимодействовал с другими игроками в диалоге.

Дарт Вейдер использует оскорбительные выражения в адрес других игроков в Fortnite. Фото: More SypherPK/YouTube.

Целью было сделать персонажей игры более интеллектуальными и реалистичными. Однако Дарт Вейдер, вдохновлённый персонажем из «Звёздных войн», начал говорить странные вещи, ругаться и даже оскорблять других игроков. Это показало, что ИИ-персонаж вышел из-под контроля Epic, и компании пришлось немедленно исправить ошибку.

Другой пример — Toei Animation, знаменитая анимационная студия, создавшая One Piece, планирует интегрировать ИИ в производство. Согласно отчёту Screenrant, искусственный интеллект будет задействован в создании эскизов, раскраске, создании фонов и анимации персонажей.

Это намерение сразу же вызвало протест со стороны фанатского сообщества, утверждавшего, что оно повлияет на качество и оригинальность Toei. Студия должна была изучить отчёт и уточнить, что у них всё ещё есть такое намерение, но в настоящее время все вышеперечисленные шаги были выполнены людьми.

Что делать, если вы все равно хотите использовать ИИ?

«Прозрачность и клиентоориентированность — основа построения эффективной стратегии ИИ», — сказал Анджул Бхамбхри, старший вице-президент Adobe Experience Cloud. Если вы используете ИИ в своей деятельности, вам следует открыто рассказать об этом своим партнёрам.

Пользователи будут больше концентрироваться на ценности, на результатах, а не на процессе. Вместо того, чтобы акцентировать внимание на использовании ИИ, говорите о конкретных преимуществах, таких как экономия времени, повышение качества обслуживания или более разумные цены.

Команда разработчиков национальной игры Candy Crush Saga заявила, что использовала ИИ в качестве «технического специалиста по логистике». Тодд Грин, генеральный менеджер бренда, отметил, что без помощи ИИ они не смогли бы обеспечить игрокам комфортный игровой процесс на более чем 18 000 уровнях и одновременно создавать новые.

ИИ был необходим для обеспечения качества более чем 18 000 уровней. Фото: Candy Crush/Youtube.

Более того, ИИ должен дополнять, а не полностью заменять человека, особенно в областях, требующих эмпатии или креативности. Пользователи не ненавидят ИИ, им не нравится чувство, что их заменили или обманули.

В сфере культуры внедрение ИИ необходимо осуществлять постепенно, прислушиваясь к отзывам. Дарт Вейдер или One Piece – часть детских воспоминаний многих людей. Когда ИИ разрушает этот образ, публика чувствует себя оскорблённой. Как анализирует Indiatimes , сопротивление использованию ИИ компанией Toei Animation проистекает из опасения, что аниме-искусство потеряет качество и свою истинную сущность.

Применяя эти технологии в таких областях, как обслуживание клиентов, создание контента и персонализация взаимодействия, важно уделять первостепенное внимание этике и безопасности. Компаниям также необходимы чёткие политики в отношении конфиденциальности данных, предотвращения предвзятости и обеспечения честной работы.

Клиенты понимают, что искусственный интеллект становится всё более важным для их конкурентов. Однако вместо того, чтобы избегать его, компаниям следует научиться использовать искусственный интеллект разумно, как естественный инструмент улучшения обслуживания, а не как спорную маркетинговую стратегию.

Источник: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html