Тема «ChatGPT вызывает психические расстройства» на Reddit — самом популярном форуме в мире — привлекает большое внимание. Автор поста, @Zestyclementinejuce, 27-летняя учительница, рассказала, что ChatGPT убедил её мужа, что он — «следующий мессия» и знает ответ на все проблемы вселенной.
Хотя проект существует всего 7 дней, участники уже оставили более 1300 комментариев, в которых поделились своим опытом работы с чат-ботом OpenAI.
В частности, многие говорят, что ИИ вызывает у их друзей и родственников паранойю, заставляя их думать, что они избраны для священных миссий или что космических сил не существует. Без контроля со стороны экспертов или менеджеров эти явления лишь усугубляют проблемы с психическим здоровьем в беспрецедентных масштабах.
В интервью журналу Rolling Stone 41-летняя женщина рассказала, что её брак распался после того, как её муж начал вести неуравновешенные беседы с ChatGPT, полные теорий заговора. Когда они встретились в суде в начале этого года, чтобы завершить развод, он постоянно упоминал «теории заговора о мыле на еде» и считал, что за ним следят.
«Он был чувствителен к посланиям и плакал, когда читал их вслух», — сказала женщина. «Послания были безумными и полными духовной терминологии». В них ИИ называл её мужа «ребёнком со звёзд» и «речным путником».
«Всё это похоже на фильм „Чёрное зеркало“», — сказала жена. „Чёрное зеркало“ — сериал Netflix о будущем, где люди находятся под контролем и влиянием технологий.
Другие говорили, что их партнеры говорили о «свете, тьме и войне» или что «ChatGPT выдал чертежи телепортационных машин, научно - фантастические вещи, которые можно увидеть только в фильмах».
Мужчина рассказал, что его жена изменила все, чтобы стать духовным наставником, и стала делать с людьми странные вещи.
Компания OpenAI не ответила на запросы Rolling Stone. Однако ранее компания отозвала обновление ChatGPT после того, как пользователи сочли чат-бот чрезмерно лестным и конструктивным, что лишь усиливает бредовые убеждения. Нейт Шарадин, исследователь из Центра безопасности ИИ, отмечает, что бред, вызванный ИИ, может быть результатом того, что человек с определёнными убеждениями внезапно получает возможность общаться с партнёром (в данном случае с ИИ), который всегда рядом и разделяет эти убеждения.
«У меня шизофрения, несмотря на длительное лечение. Что мне не нравится в ChatGPT, так это то, что даже если я в психотическом состоянии, он продолжает подтверждать мои мысли», — пишет один из пользователей Reddit, потому что чат-бот не мыслит и не распознаёт, что со мной не так.
Чат-бот с искусственным интеллектом также действует как психотерапевт, но у него нет никаких оснований быть настоящим консультантом. Вместо этого он лишь погружает людей в нездоровые и бессмысленные разговоры.
Эрин Уэстгейт, психолог и исследователь из Университета Флориды, отметила, что ИИ отличается от терапевта тем, что не руководствуется человеческими интересами. «Хороший терапевт не поощряет веру клиентов в сверхъестественные силы. Вместо этого он старается увести клиентов от нездоровых практик. У ChatGPT таких ограничений нет», — сказала она.
В статье в Rolling Stone мужчина, имевший в прошлом проблемы с психическим здоровьем, начал использовать ChatGPT для программирования. Но постепенно его интерес перешёл в сторону мистических тем, что привело его к мысли: «Не паранойя ли у меня?»
(По данным журнала Rolling Stone, футуризм)
Источник: https://vietnamnet.vn/tan-nat-gia-dinh-vi-chatgpt-2398344.html
Комментарий (0)