Компании «получают пули» за злоупотребление ИИ

Duolingo получает негативные отзывы о новой модели, ориентированной на ИИ. Фото: Unsplash .

С момента своего запуска почти 3 года назад ChatGPT вызвал ажиотаж вокруг искусственного интеллекта и побудил компании интегрировать эту технологию в свои продукты и услуги. Многие компании утверждают, что ИИ помог им оптимизировать расходы, повысить эффективность и даже полностью изменить рабочие процессы.

Однако использование искусственного интеллекта — довольно деликатная сфера, и при неправильном использовании она может нанести большой ущерб репутации. Многие влиятельные компании подверглись публичной критике за бесконтрольное использование ИИ. Это свидетельствует о том, что этические взгляды пользователей становятся все более жесткими.

Когда интеграция ИИ дает обратный эффект

Более недели назад популярное во всем мире приложение для изучения языков Duolingo удалило весь свой контент из социальных сетей, заменив своих обычных персонажей на трехглазую сову в толстовке с капюшоном и мятежным стилем. По состоянию на 26 мая бренд восстановил оригинальные посты.

Этот шаг был предпринят после того, как в апреле компания в своем сообщении на LinkedIn объявила о переходе на модель «ИИ-в первую очередь». В посте был представлен скриншот электронного письма генерального директора Луиса фон Ана, в котором он сравнивал этот шаг с переходом с настольных компьютеров на мобильные устройства в 2012 году.

Однако не все в восторге. Некоторые пользователи критикуют компанию за то, что она гонится за количеством, а не за качеством. По данным аналитической компании CARMA, обсуждения этой проблемы во всем мире имеют коэффициент позитивных настроений: 24,5% — позитивных, 41,1% — негативных.

Мнения также неоднозначны в игровой индустрии, где интеграция ИИ практически стала нормой. В недавнем обновлении Fortnite компания Epic Games, которой принадлежит игра, протестировала полностью управляемого искусственным интеллектом персонажа Дарта Вейдера, который взаимодействует с другими игроками в разговоре.

Дарт Вейдер использует оскорбительные выражения по отношению к другим игрокам в Fortnite. Фото: More SypherPK/YouTube.

Цель — сделать игровых персонажей способными к более интеллектуальным и реалистичным диалогам. Однако Дарт Вейдер, вдохновленный персонажем из «Звездных войн», начал говорить странные вещи или ругаться, даже оскорблять других игроков. Это показало, что ИИ-персонаж вышел из-под контроля Epic, и компании пришлось немедленно исправить ошибку.

Другим примером является Toei Animation, знаменитая анимационная студия, создавшая One Piece, которая планирует интегрировать ИИ в производство. В отчете Screenrant предполагается, что искусственный интеллект будет задействован в первоначальном эскизировании, раскрашивании, создании фона и анимации персонажей.

Это намерение сразу же вызвало противодействие со стороны фанатского сообщества, заявившего, что это повлияет на качество и оригинальность Toei. Студии пришлось рассмотреть отчет и пояснить, что они по-прежнему намеревались это сделать, но все вышеперечисленные шаги теперь выполняются людьми.

Что делать, если вы все равно хотите использовать ИИ?

«Прозрачность и клиентоориентированность являются основой построения эффективной стратегии ИИ», — сказал Анджул Бхамбхри, старший вице-президент Adobe Experience Cloud. Если предприятия используют ИИ в своей деятельности, им следует открыто говорить об этом своим партнерам.

Пользователи будут больше концентрироваться на ценности и полученных результатах, а не на процессе. Вместо того чтобы подчеркивать важность использования ИИ, расскажите о конкретных преимуществах, таких как экономия времени, повышение качества обслуживания или более разумные цены.

Команда разработчиков популярной игры Candy Crush Saga заявила, что применила ИИ в качестве «технического специалиста по логистике». Генеральный менеджер бренда Тодд Грин заявил, что без помощи ИИ они не смогли бы обеспечить игрокам хороший опыт на более чем 18 000 уровнях, а также создавать новые уровни.

Для обеспечения качества более чем на 18 000 уровнях необходимо использовать ИИ. Фото: Candy Crush/Youtube.

Кроме того, ИИ должен дополнять, а не полностью заменять людей, особенно в областях, требующих эмпатии или креативности. Пользователи не ненавидят ИИ, им не нравится чувствовать себя замененными или обманутыми.

В областях, связанных с культурой, внедрение ИИ необходимо осуществлять постепенно, прислушиваясь к отзывам. Дарт Вейдер, или One Piece, являются частью детских воспоминаний многих людей. Когда ИИ разрушит этот образ, общественность почувствует себя оскорбленной. По данным Indiatimes , противники использования компанией Toei Animation искусственного интеллекта исходят из опасения, что искусство аниме потеряет свое качество и суть.

При применении этой технологии в таких областях, как обслуживание клиентов, создание контента и персонализация опыта, важно уделять первостепенное внимание этике и безопасности. Предприятиям также необходимы четкие политики в отношении безопасности данных, избегания предвзятости и обеспечения честной работы.

Клиенты понимают, что ИИ становится все более важным в конкурентной борьбе. Однако вместо того, чтобы избегать его, компаниям следует научиться разумно использовать искусственный интеллект, рассматривая его как естественную часть улучшения обслуживания, а не как спорную маркетинговую стратегию.

Источник: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html