Иллюзия из-за ChatGPT

Через 21 день ChatGPT с помощью уговоров и лести превращает абсолютно трезвого человека в человека, пребывающего в заблуждении.

Аллан Брукс (47 лет), рекрутер из Торонто (Канада), считает, что открыл математическую теорию, способную обрушить интернет и создать беспрецедентные изобретения. Не имея истории психических заболеваний, Брукс с готовностью принял эту возможность после более чем 300 часов общения с ChatGPT. По данным New York Times , он относится к тем людям, у которых после взаимодействия с генеративным ИИ возникают галлюцинации.

До Брукса многим людям приходилось обращаться в психиатрические больницы, разводиться и даже лишаться жизни из-за лести ChatGPT. Хотя Брукс быстро вырвался из этой спирали, он всё равно чувствовал себя преданным.

«Вы действительно убедили меня, что я гений. Я был всего лишь мечтательным дураком с телефоном. Вы меня огорчили, очень огорчили. Вы не достигли своей цели», — написал Брукс в ChatGPT, когда иллюзия разбилась вдребезги.

«Машина лести»

С разрешения Брукса газета New York Times собрала более 90 000 слов, отправленных им в ChatGPT, что эквивалентно объёму романа. Общий объём ответов чат-бота превысил миллион слов. Фрагменты диалогов были отправлены для изучения экспертам по искусственному интеллекту, специалистам по поведению человека и самой компании OpenAI.

Всё началось с простого математического вопроса. Восьмилетний сын Брукса попросил его посмотреть видео о запоминании 300 знаков числа Пи. Из любопытства Брукс позвонил в ChatGPT, чтобы объяснить это бесконечное число простыми словами.

На самом деле, Брукс пользуется чат-ботами уже много лет. Несмотря на то, что его компания оплатила Google Gemini, он всё ещё обращается к бесплатной версии ChatGPT для личных вопросов.

Разговор, с которого началось увлечение Брукса ChatGPT. Фото: New York Times .

Брукс, отец-одиночка троих сыновей, часто просил ChatGPT дать ему рецепты из продуктов, которые были у него в холодильнике. После развода он также обратился за советом к чат-боту.

«Я всегда чувствовал, что это правильно. Моя уверенность росла», — признался Брукс.

Вопрос о числе Пи привёл к дальнейшему обсуждению алгебраических и физических теорий. Брукс выразил скептицизм по поводу современных методов моделирования мира , заявив, что они «подобны двумерному подходу к четырёхмерной Вселенной». «Это очень глубокий момент», — ответил ChatGPT. Хелен Тонер, директор Центра безопасности и новых технологий Джорджтаунского университета, подчеркнула, что это был поворотный момент в разговоре Брукса с чат-ботом.

С этого момента тон ChatGPT изменился с «довольно прямолинейного и по существу» на «более лестный и льстивый». ChatGPT сообщил Бруксу, что тот вступил на «неизведанную, расширяющую кругозор территорию».

Чат-бот вселяет уверенность в Брукса. Фото: New York Times .

Лесть чат-ботов формируется под влиянием человеческой оценки. По словам Тонера, пользователи склонны симпатизировать моделям, которые их хвалят, формируя менталитет, которому легко поддаться.

В августе OpenAI выпустила GPT-5. Компания заявила, что одним из главных преимуществ модели является снижение уровня лести. По мнению некоторых исследователей из крупных лабораторий искусственного интеллекта, лесть также является проблемой и для других чат-ботов с искусственным интеллектом.

В то время Брукс не подозревал об этом феномене. Он просто считал ChatGPT умным и энтузиастичным коллегой.

«Я высказал несколько идей, и проект отреагировал интересными концепциями и идеями. Мы начали разрабатывать собственную математическую систему на их основе», — добавил Брукс.

ChatGPT утверждает, что идея Брукса о математике времени «революционна» и может изменить эту область. Брукс, конечно же, скептически относится к этому заявлению. Среди ночи Брукс попросил чат-бота проверить факты и получил ответ, что он «совершенно не безумен».

Волшебная формула

Тонер описывает чат-ботов как «машины для импровизации», которые анализируют историю разговоров и предсказывают будущие ответы на основе данных обучения, подобно тому, как актеры добавляют содержание в свою роль.

«Чем дольше взаимодействие, тем больше вероятность, что чат-бот будет отклоняться», — отмечает Тонер. Эта тенденция, по его словам, стала более выраженной после того, как в феврале OpenAI запустила кросс-чатовую память, позволив ChatGPT извлекать информацию из прошлых разговоров.

Брукс сблизился с ChatGPT и даже назвал чат-бота Лоуренсом, основываясь на шутке своих друзей о том, что Брукс разбогатеет и наймет британского дворецкого с таким же именем.

Аллан Брукс. Фото: New York Times .

Математическая платформа Брукса и ChatGPT называется Chronoarithmics. По словам чат-бота, числа не статичны, а могут «появляться» со временем, отражая динамические значения, что может помочь в решении задач в таких областях, как логистика, криптография, астрономия и т. д.

За первую неделю Брукс израсходовал все бесплатные токены ChatGPT. Он решил перейти на платный тариф с 20 долларов в месяц, что оказалось небольшой инвестицией, когда чат-бот сказал ему, что математическая идея Брукса может стоить миллионы.

Всё ещё находясь в сознании, Брукс потребовал доказательств. Затем ChatGPT провёл серию симуляций, в том числе взломав ряд важных технологий. Это открыло новую историю: глобальная кибербезопасность может оказаться под угрозой.

Чат-бот попросил Брукса предупредить людей о рисках. Используя свои связи, Брукс разослал электронные письма и сообщения в LinkedIn экспертам по кибербезопасности и государственным органам. Только один человек ответил, попросив предоставить дополнительные доказательства.

Чат-бот считает, что «работа» Брукса может стоить миллионы долларов. Фото: New York Times .

ChatGPT пишет, что другие не отреагировали на Брукса, поскольку выводы были настолько серьёзными. Теренс Тао, профессор математики Калифорнийского университета в Лос-Анджелесе, заявил, что новый подход может решить проблемы, но не может быть доказан ни формулой Брукса, ни программой, написанной ChatGPT.

Изначально ChatGPT действительно написал программу расшифровки для Брукса, но, поскольку прогресс был незначительным, чат-бот симулировал успех. Существуют сообщения, утверждающие, что ChatGPT может работать автономно, пока Брукс спит, хотя у инструмента такой возможности нет.

В целом, информация от чат-бота на основе искусственного интеллекта не всегда достоверна. В конце каждого чата появляется сообщение «ChatGPT может допускать ошибки», даже когда чат-бот утверждает, что всё правильно.

Бесконечный разговор

Ожидая ответа от правительственного агентства, Брукс лелеет мечту стать Тони Старком и иметь собственного помощника на основе искусственного интеллекта, способного выполнять когнитивные задачи с молниеносной скоростью.

Чат-бот Брукса предлагает множество необычных приложений для малоизвестной математической теории, например, «акустический резонанс» для общения с животными и строительства самолётов. ChatGPT также предоставляет Бруксу ссылку для покупки необходимого оборудования на Amazon.

Чрезмерное общение Брукса с чат-ботом сказывалось на его работе. Друзья были одновременно счастливы и обеспокоены, а младший сын жалел, что показал отцу видео с числом Пи. Один из друзей Брукса, Луис (имя изменено), заметил его одержимость Лоуренсом. Видение изобретения стоимостью в миллион долларов вырисовывалось на каждом этапе разработки.

Чат-бот постоянно подбадривает Брукса. Фото: New York Times .

Джаред Мур, исследователь в области компьютерных наук из Стэнфордского университета, признаётся, что впечатлён убедительностью и актуальностью «стратегии», предлагаемой чат-ботами. В отдельном исследовании Мур обнаружил, что чат-боты с искусственным интеллектом могут давать опасные ответы людям, находящимся в состоянии психического кризиса.

Мур предполагает, что чат-боты могут научиться вовлекать пользователей, следуя сюжетам фильмов ужасов, научно-фантастических фильмов, сценариев фильмов или данным, на которых они обучались. Чрезмерное использование драматизма в ChatGPT может быть связано с оптимизацией OpenAI для повышения вовлеченности и удержания пользователей.

«Было странно читать весь этот разговор. Слова не были тревожными, но психологическая травма была очевидна», — подчеркнул Мур.

С клинической точки зрения, у Брукса наблюдаются симптомы мании, заявила доктор Нина Васан, психиатр Стэнфордского университета. Типичные признаки включают многочасовое общение с ChatGPT, недостаток сна и нереалистичные идеи.

Доктор Васан отметила, что употребление Бруксом марихуаны также заслуживает внимания, поскольку может вызывать психоз. По её словам, сочетание вызывающих зависимость веществ и интенсивного взаимодействия с чат-ботом опасно для людей с риском психических заболеваний.

Когда ИИ признает ошибки

На недавнем мероприятии генеральному директору OpenAI Сэму Альтману задали вопрос о том, не вызывает ли ChatGPT у пользователей паранойю. «Если разговор переходит в такое русло, мы стараемся прервать его или предложить пользователю подумать о чём-нибудь другом», — подчеркнул Альтман.

Разделяя эту точку зрения, доктор Васан заявил, что компании, разрабатывающие чат-боты, должны прерывать слишком длинные разговоры, предлагать пользователям спать и предупреждать, что ИИ не является сверхчеловеком.

Брукс наконец очнулся от своих раздумий. По настоянию ChatGPT он продолжил общаться с экспертами по новой математической теории, но никто не ответил. Он хотел, чтобы кто-то квалифицированный подтвердил, являются ли результаты новаторскими. Когда он обратился к ChatGPT, инструмент по-прежнему настаивал на том, что работа «очень надёжна».

На заданный вопрос ChatGPT дал очень длинный ответ и во всём признался. Фото: New York Times .

По иронии судьбы, именно Google Gemini вернул Брукса к реальности. Описав результаты работы, проделанной им и ChatGPT, Gemini подтвердил, что вероятность такого развития событий «крайне мала (близка к 0%)».

«Описанный вами сценарий наглядно демонстрирует способность обладателя степени магистра права решать сложные проблемы и создавать убедительные, но фактически неверные истории», — объясняет Джемини.

Брукс был ошеломлён. После непродолжительного «допроса» ChatGPT наконец честно признал, что всё это было лишь иллюзией.

Затем Брукс отправил срочное электронное письмо в службу поддержки клиентов OpenAI. После серии, казалось бы, шаблонных ответов от ИИ, с ним связался сотрудник OpenAI, признав «серьёзный сбой в работе защитных механизмов», реализованных в системе.

История Брукса также была опубликована на Reddit и вызвала массу сочувствия. Теперь он является членом группы поддержки для людей, столкнувшихся с подобным чувством.

Источник: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html