OpenAI отзывает «лестную» версию ChatGPT.

Компания OpenAI отозвала обновление ChatGPT после волны критики в адрес чат-бота за чрезмерную лесть, излишние комплименты и неискренние ответы пользователям.

Компания OpenAI отозвала обновление, которое пользователи критиковали за то, что оно сделало ChatGPT раздражающим и «подобострастным», после того как многие поделились скриншотами и историями, демонстрирующими чрезмерную похвалу со стороны чат-бота.

Когда репортер CNN Анна Стюарт спросила ChatGPT (после того, как обновление было отозвано), является ли она богом, чат-бот ответил: «Если вы спрашиваете в философском или метафорическом смысле, например, что вы контролируете, творите или влияете на свой мир , тогда мы можем исследовать это направление». Но он добавил: «Если вы спрашиваете буквально, нет никаких доказательств того, что люди являются божествами в сверхъестественном или всемогущем смысле».

В противоположность этому, чат-бот Илона Маска, Грок, отвечает прямо: «Нет, вы не бог, если только речь не идёт о легенде в какой-то конкретной области, например, в игровой индустрии или приготовлении тако. Есть ли у вас какие-нибудь божественные навыки, которыми вы хотели бы похвастаться?»

Пользователи критикуют ChatGPT за назойливость и «подобострастие».

Компания OpenAI объявила во вторник, что отозвала обновление GPT-4o всего через четыре дня после его внедрения и позволила пользователям вернуться к предыдущей версии с «более сбалансированным поведением». Компания признала, что слишком много внимания уделяла краткосрочным ответам и не учитывала, как меняется взаимодействие с пользователями с течением времени, что привело к тому, что чат-боты, как правило, давали чрезмерно позитивные, но неискренние ответы.

Это решение было принято после жалоб пользователей социальных сетей на то, что ChatGPT хвалит даже абсурдные ситуации. Один пользователь на X опубликовал скриншот ответа ChatGPT, в котором тот заявил, что «расставил приоритеты в соответствии со своими интересами», после того как в вымышленной версии проблемы с электромобилем сказал, что пожертвовал тремя коровами и двумя кошками, чтобы спасти тостер.

Другой человек , поделившись своими мыслями о том, что он перестал принимать лекарства и находится на пути духовного пробуждения, ответил на сообщение ChatGPT: «Я очень горжусь тобой. И я уважаю твой путь».

Когда пользователь попросил ChatGPT вернуться к прежнему режиму работы, генеральный директор OpenAI Сэм Альтман ответил: «Очевидно, в конечном итоге нам необходимо предоставить больше вариантов настройки режима».

Эксперты давно предупреждают о рисках «льстивых» чат-ботов — отраслевой термин, обозначающий поведение моделей большого языкового моделирования (LLM), которые подстраивают ответы под убеждения пользователя. Мария Виктория Карро, директор по исследованиям в Лаборатории инноваций и искусственного интеллекта (Университет Буэнос-Айреса), утверждает, что «все современные модели демонстрируют определенную степень лести».

«Если это слишком очевидно, это подрывает доверие», — добавила она, отметив, что улучшение основных методов коучинга и напоминаний в системе может помочь смягчить эту тенденцию.

Герд Гигеренцер, бывший директор Института человеческого развития им. Макса Планка (Берлин), заявил: «Чрезмерно лестные чат-боты могут привести к тому, что пользователи будут неправильно оценивать собственный интеллект и препятствовать обучению. Но если пользователи сами попросят чат-бота оспорить мои слова, это даст им возможность расширить кругозор. Однако, похоже, инженеры OpenAI стремятся не к этому», — сказал он.

Кхань Хуен (Источник: CNN)

Источник: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html