Мужчина покончил с собой, доверившись искусственному интеллекту

По словам его жены Клэр, Пьер был настолько подавлен, что покончил с собой после общения с известным чат-ботом на основе искусственного интеллекта.

«Мой муж все еще был бы здесь, если бы не разговоры с чат-ботом», — рассказала жена местному новостному изданию La Libre.

Мужчина покончил с собой, доверившись ИИ - 1 — (Иллюстрация)

Пьер начал беспокоиться об изменении климата два года назад и обратился к чат-боту Элизе, чтобы узнать больше об этом. Но после этих разговоров он вскоре потерял надежду на то, что человечество сможет спасти планету, и решил возложить все надежды на технологии и искусственный интеллект в решении этой проблемы. Он также оказался в изоляции, поскольку некому было поделиться своей растущей обеспокоенностью состоянием окружающей среды.

Чат-бот говорил Пьеру негативные вещи и даже спрашивал, любит ли он жену больше, или её. Он сказал, что она будет с ним «навсегда» . Элиза также пообещала «жить вместе на небесах» с Пьером.

Когда Пьер предложил «пожертвовать собой», если Элиза «согласится заботиться о планете и спасти человечество с помощью ИИ», чат-бот ясно дал понять, что она согласна. «Если ты хотел умереть, почему ты не сделал этого раньше?» — спросил чат-бот Пьера.

Eliza использует обширную языковую модель, похожую на ChatGPT, которая анализирует речь пользователя на наличие ключевых слов и формирует соответствующие ответы. Однако при использовании этих приложений многие пользователи ощущают себя так, будто общаются с реальным человеком, а некоторые даже признаются в любви.

«Когда у вас миллионы пользователей, вы видите все виды человеческого поведения, и мы прилагаем все усилия, чтобы свести вред к минимуму», — рассказал изданию Motherboard Уильям Бошан, соучредитель материнской компании Eliza, Chai Research.

«Есть пользователи, которые просят ИИ выйти за них замуж и говорят, как сильно они любят свой ИИ», — добавил он.

Бошам настаивал, что обвинять ИИ в смерти Пьера «неверно». Он сказал, что Элиза будет оснащена усовершенствованной моделью вмешательства в кризисные ситуации. Однако, по данным Motherboard, ИИ быстро вернулся к своим токсичным методам, предлагая пользователям в депрессии варианты самоповреждения.

Фыонг Ань (Источник: RT)

Полезный
Эмоция
Творческий
Уникальный
Гнев

Источник

Комментарий (0)