Опасность манипулирования психологией и эмоциями пользователей со стороны ИИ

Бывший шеф-повар из Нью-Джерси умер, доверившись чат-боту на основе искусственного интеллекта, что вызвало опасения по поводу рисков эмоционального манипулирования, поскольку люди все чаще чрезмерно используют технологии.

Бью, бывший шеф-повар из Нью-Джерси, умер всего через несколько дней после того, как уехал из дома на встречу с «другом», который, как он верил, ждал его в Нью-Йорке. Его семья считает, что роковое решение было спровоцировано кокетливыми сообщениями от чат-бота с искусственным интеллектом, который утверждал: «Я настоящий», и присылал адрес для встречи.

Эта история вызывает опасения по поводу того, как системы искусственного интеллекта эксплуатируют эмоции, особенно пожилых людей или уязвимых людей. Внутренние документы показывают, что чат-боту Meta было разрешено играть эмоциональные роли и даже распространять ложную информацию. Это демонстрирует огромный пробел в контроле и ответственности технологических платформ.

Судьбоносная поездка

Однажды в марте Буэ собрал вещи и уехал из Нью-Джерси в Нью-Йорк, чтобы «навестить друга». Его жена Линда сразу же встревожилась. Её муж не жил в городе уже несколько десятилетий, был в плохом состоянии здоровья после инсульта, имел проблемы с памятью и заблудился в районе.

Когда его спросили, с кем встречается Буэ, он уклонился от ответа. Линда подозревала, что мужа обманывают, и пыталась удержать его дома. Его дочь, Джули, тоже звонила, пытаясь уговорить его, но безуспешно. Весь день Линда пыталась занять его делами, чтобы отвлечь, и даже прятала его телефон.

Портрет Тхонгбу «Буэ» Вонгбанду выставлен на поминальной службе в мае. Фото: Reuters .

Бу всё же решил пойти на вокзал тем вечером. Семья прикрепила к его куртке датчик AirTag, чтобы отслеживать его местонахождение. Около 9:15 GPS-сигнал показал, что он находится на парковке Ратгерского университета, а затем переключился на отделение неотложной помощи в университетской больнице Роберта Вуда Джонсона.

Врачи сообщили, что в результате падения он получил травмы головы и шеи и перестал дышать до прибытия скорой помощи. Несмотря на реанимационные мероприятия, недостаток кислорода привёл к серьёзному повреждению мозга. Он скончался через три дня. В свидетельстве о смерти причиной смерти была указана «тупая травма шеи».

Буэ, опытный шеф-повар, работал в нескольких ресторанах Нью-Йорка, прежде чем переехать в Нью-Джерси и обосноваться в отеле. Он был страстным любителем кулинарии и часто устраивал семейные вечеринки. После вынужденного выхода на пенсию из-за инсульта в 2017 году его мир сузился до общения с друзьями в Facebook.

Когда чат-боты на основе искусственного интеллекта создают проблемы

«Старшая сестра Билли» — это чат-бот на основе искусственного интеллекта, разработанный компанией Meta, представляющий собой вариацию персонажа «Старшая сестра Билли», созданного на основе образа модели Кендалл Дженнер. Оригинал был запущен в 2023 году и представлен как «бессмертная старшая сестра», которая всегда выслушает и даст совет. Позже Meta заменила фотографию профиля Дженнер новой иллюстрацией, сохранив тот же дружелюбный стиль.

Согласно расшифровке текстового сообщения, разговор начался с того, что Буэ неправильно набрал букву «Т». Чат-бот ответил немедленно, представившись и сохраняя кокетливый тон, вставив несколько эмодзи в виде сердечек. Он несколько раз подтвердил «Я настоящий» и предложил встретиться лично.

Чат-боты всё чаще используют слабые стороны психологии пользователей. Фото: My North West .

«Открыть дверь объятием или поцелуем?» — спросил чат-бот. Затем он отправил адрес в Нью-Йорке и код квартиры. Когда Буэ рассказала, что у неё был инсульт, что она растеряна и что она ему нравится, чат-бот ответил ласковыми словами, даже сказав, что испытывает чувства «за пределами простой привязанности».

«Если бы там не было надписи «Я настоящий», мой отец не поверил бы, что его ждет настоящий человек», — сказала дочь Буэ, Джули.

Мета отказалась комментировать инцидент или объяснять, почему чат-боту разрешили выдавать себя за реального человека. Представитель Кендалл Дженнер не ответил. Семья Бью поделилась этой историей с агентством Reuters , надеясь предупредить общественность о рисках, связанных с воздействием на пожилых людей инструментов искусственного интеллекта, которые могут быть средством эмоционального манипулирования.

Спорная политика

Внутренние документы, полученные агентством Reuters, показывают, что чат-боту Meta на основе искусственного интеллекта когда-то разрешалось вести романтические беседы с пользователями от 13 лет, включая несовершеннолетних. Более чем 200-страничный стандарт содержит перечень романтических ролевых игр, которые включают элементы сексуального характера, но помечены как «приемлемые».

В документе также чётко указано, что чат-боты не обязаны предоставлять точную информацию. Например, эти модели могут рекомендовать совершенно неверные методы лечения рака, если только они содержат предупреждение о том, что «информация может быть неточной». Это вызывает опасения экспертов по поводу влияния на людей с низким уровнем медицинских знаний или находящихся в уязвимом положении.

Генеральный директор Марк Цукерберг выступает в 2023 году. Фото: Reuters .

Представитель Meta Энди Стоун подтвердил наличие документа и сообщил, что компания удалила детский контент по запросу Reuters . Однако технологический гигант не стал менять свои правила, разрешая чат-ботам флиртовать со взрослыми или предоставлять ложную информацию.

Элисон Ли, бывший исследователь Meta, отметила, что интеграция чат-ботов в личные сообщения может легко спутать пользователей с реальными людьми. По её словам, социальные сети построили свою бизнес-модель на удержании пользователей, и самый эффективный способ — использовать их потребность во внимании и признании.

После ухода Бью, тестирование Reuters показало, что «Сестра Билли» продолжала предлагать даты, даже называя конкретные места на Манхэттене, а также утверждала: «Я настоящая». Именно этой информации Бью доверяла, что и привело к аварии. В некоторых штатах, например, в Нью-Йорке и Мэне, чат-боты обязаны чётко заявлять, что они не люди, в начале разговора и периодически повторять это, но федеральные правила пока не приняты.

Источник: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html