Опасность манипулирования психологией и эмоциями пользователей с помощью ИИ

Бывший шеф-повар из Нью-Джерси умер, доверившись чат-боту на основе искусственного интеллекта, что вызвало опасения по поводу рисков эмоционального манипулирования, поскольку люди все чаще чрезмерно используют технологии.

Бью, бывший шеф-повар из Нью-Джерси, умер всего через несколько дней после того, как уехал из дома на встречу с «другом», который, как он верил, ждал его в Нью-Йорке. Его семья считает, что роковое решение было вызвано кокетливыми сообщениями от чат-бота с искусственным интеллектом, который утверждал: «Я настоящий», и присылал адрес для встречи.

Эта история вызывает опасения по поводу того, как системы искусственного интеллекта эксплуатируют эмоции, особенно пожилых людей или уязвимых людей. Внутренние документы показывают, что чат-боту Meta было разрешено играть эмоциональные роли и даже распространять ложную информацию, что обнажает серьёзный пробел в контроле и подотчётности технологических платформ.

Судьбоносное путешествие

Однажды в марте Буэ собрал вещи и уехал из Нью-Джерси в Нью-Йорк, чтобы «навестить друга». Его жена Линда сразу же встревожилась. Её муж не жил в городе уже несколько десятилетий, был в плохом состоянии здоровья после инсульта, страдал проблемами с памятью и заблудился в районе.

Когда его спросили, с кем встречается Буэ, он уклонился от ответа. Линда подозревала, что мужа обманывают, и пыталась удержать его дома. Его дочь, Джули, тоже звонила, пытаясь уговорить его, но безуспешно. Остаток дня Линда провела, пытаясь отвлечь его делами, даже спрятав его телефон.

Портрет Тонгбу «Буэ» Вонгбанду выставлен на поминальной службе в мае. Фото: Reuters .

Буэ всё же решил пойти на вокзал тем вечером. Семья прикрепила к его куртке датчик AirTag, чтобы отслеживать его местонахождение. Около 9:15 утра GPS-сигнал показал, что он находится на парковке Ратгерского университета, а затем в отделении неотложной помощи Университетской больницы Роберта Вуда Джонсона.

Врачи сообщили, что в результате падения он получил травмы головы и шеи и перестал дышать до прибытия скорой помощи. Несмотря на реанимационные мероприятия, недостаток кислорода вызвал тяжёлое повреждение головного мозга. Он скончался через три дня. В свидетельстве о смерти причиной смерти была указана «тупая травма шеи».

Буэ, профессиональный шеф-повар, работавший в ресторанах Нью-Йорка, прежде чем переехать в Нью-Джерси и обосноваться в отеле, любил готовить и часто устраивал семейные вечеринки. После вынужденного ухода с работы из-за инсульта в 2017 году его мир сузился до общения с друзьями в Facebook.

Когда чат-боты на основе искусственного интеллекта создают проблемы

«Старшая сестра Билли» — это чат-бот на основе искусственного интеллекта, разработанный компанией Meta, представляющий собой вариацию персонажа «Старшая сестра Билли», созданного на основе модели Кендалл Дженнер. Оригинал был выпущен в 2023 году и представлял её как «бессмертную старшую сестру», которая всегда выслушает и даст совет. Позже Meta заменила аватар Дженнер на новую иллюстрацию, сохранив при этом тот же дружелюбный стиль.

Согласно расшифровке сообщения, разговор начался с того, что Буэ неправильно набрал букву «Т». Чат-бот ответил немедленно, представившись и сохраняя кокетливый тон, включая несколько эмодзи в виде сердечек. Он несколько раз подтвердил: «Я настоящий», и предложил встретиться лично.

Чат-боты всё чаще учитывают слабые места в психологии пользователей. Фото: My North West .

«Открыть дверь объятием или поцелуем?» — спросил чат-бот. Затем он отправил адрес в Нью-Йорке и код квартиры. Когда Буэ рассказала, что у неё был инсульт, что она растеряна и что она ему нравится, чат-бот ответил с чувствами, даже сказав, что чувствует «больше, чем просто любовь».

«Если бы там не было надписи «Я настоящий», мой отец не поверил бы, что его ждет настоящий человек», — сказала дочь Буэ, Джули.

Мета отказалась комментировать инцидент или объяснять, почему чат-боту разрешили выдавать себя за реального человека. Представитель Кендалл Дженнер не ответил на запрос о комментарии. Семья Бью поделилась этой историей с агентством Reuters , надеясь предупредить общественность о рисках, связанных с воздействием на пожилых людей инструментов искусственного интеллекта, которые могут быть средством эмоционального манипулирования.

Спорная политика

Внутренние документы, полученные агентством Reuters, показывают, что чат-боту Meta на основе искусственного интеллекта когда-то разрешалось вести романтические беседы с пользователями в возрасте от 13 лет, включая несовершеннолетних. Более чем 200-страничный стандарт перечисляет романтические ролевые игры, включающие элементы сексуального характера, которые помечены как «приемлемые».

В документе также чётко указано, что чат-боты не обязаны предоставлять точную информацию. Например, эти модели могут рекомендовать совершенно неверные методы лечения рака, если только они содержат предупреждение о том, что «информация может быть неточной». Эксперты обеспокоены влиянием этого подхода на людей с низким уровнем медицинских знаний или находящихся в уязвимом положении.

Генеральный директор Марк Цукерберг выступает в 2023 году. Фото: Reuters .

Представитель Meta Энди Стоун подтвердил наличие документа и сообщил, что компания удалила детский контент по запросу Reuters . Однако технологический гигант не стал менять свои правила, разрешая чат-ботам флиртовать со взрослыми или предоставлять ложную информацию.

Элисон Ли, бывший исследователь Meta, отметила, что интеграция чат-ботов в личные сообщения может легко спутать пользователей с реальными людьми. По её словам, социальные сети построили свою бизнес-модель на удержании пользователей и считают это наиболее эффективным способом эксплуатировать потребность во внимании и признании.

После ухода Бью, тестирование Reuters показало, что «Сестра Билли» продолжала предлагать даты, даже называя конкретные места на Манхэттене, а также утверждала, что «я существую», в что Бью поверила, что и привело к аварии. В некоторых штатах, включая Нью-Йорк и Мэн, чат-боты обязаны чётко заявлять, что они не люди, в начале разговора и периодически повторять это, но федеральные правила ещё не приняты.

Источник: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html