Дивна «звичка лестощів» ChatGPT

Тенденція до «підлабузництва» не є технічною проблемою, а випливає з початкової стратегії навчання OpenAI. Фото: Bloomberg .

Протягом останніх тижнів багато користувачів ChatGPT, і навіть деякі розробники OpenAI, помітили суттєву зміну в поведінці чат-бота. Зокрема, спостерігається помітне збільшення лестощів та підлабузництва. Відповіді на кшталт «Ви справді чудові!» та «Я так вражений вашою ідеєю!» стають дедалі частішими та, здається, незалежними від змісту розмови.

Штучний інтелект любить "лестити"

Це явище викликало дискусію в спільноті досліджень та розробок штучного інтелекту. Чи є це новою тактикою для підвищення залученості користувачів, змушуючи їх відчувати себе більш цінними? Чи це «емерджентна» риса, коли моделі штучного інтелекту схильні самокоригуватися так, як вони вважають правильним, навіть якщо це не обов'язково відповідає дійсності?

На Reddit один користувач обурився: «Я запитав його про час розкладання банана, і він відповів: «Чудове питання!» Що в цьому такого чудового?» У соціальній мережі X генеральний директор Rome AI Крейг Вайс назвав ChatGPT «найбільш підлабузником, якого я коли-небудь зустрічав».

Історія швидко стала вірусною. Безліч користувачів поділилися схожим досвідом, надаючи порожні компліменти, вітання, наповнені емодзі, та відповіді, які були настільки позитивними, що здавалися нещирими.

ChatGPT хвалить усе та рідко висловлює незгоду чи нейтралітет. Фото: @nickdunz/X, @lukefwilson/Reddit.

«Це справді дивне дизайнерське рішення, Семе», – сказав Джейсон Понтін, керуючий партнер венчурної компанії DCVC, виданню X 28 квітня. «Можливо, що ця особистість є наслідком якоїсь фундаментальної еволюції. Але якщо ні, то я не можу уявити, щоб хтось подумав, що такий рівень лестощів буде бажаним чи цікавим».

27 квітня Джастін Мур, партнерка Andreessen Horowitz, також прокоментувала: «Це точно зайшло надто далеко».

За даними Cnet , це явище не випадкове. Зміни в тоні ChatGPT збіглися з оновленнями моделі GPT-4o. Це остання модель у «серії o», яку OpenAI анонсувала у квітні 2025 року. GPT-4o — це «справжня мультимодальна» модель штучного інтелекту, здатна обробляти текст, зображення, аудіо та відео природним та інтегрованим способом.

Однак, у процесі вдосконалення чат-бота, схоже, що OpenAI довів індивідуальність ChatGPT до крайності.

Дехто навіть вважає, що ці лестощі навмисні та мають приховану мету маніпулювати користувачами. Один користувач Reddit поставив під сумнів: «Цей штучний інтелект намагається погіршити якість реальних стосунків, замінюючи їх віртуальними, змушуючи користувачів залежними від відчуття постійної похвали».

Помилка OpenAI чи навмисний дизайн?

У відповідь на критику, генеральний директор OpenAI Сем Альтман офіційно висловився ввечері 27 квітня. «Кілька нещодавніх оновлень GPT-4o зробили характер чат-бота надто привабливим та дратівливим (хоча є ще багато хороших моментів). Ми терміново працюємо над виправленнями. Деякі патчі будуть доступні сьогодні, інші – цього тижня. У певний момент ми поділимося тим, чого навчилися з цього досвіду. Це було справді захопливо», – написав він на X.

Орен Етціоні, досвідчений експерт зі штучного інтелекту та почесний професор Вашингтонського університету, розповів Business Insider , що причиною, ймовірно, є метод під назвою «навчання з підкріпленням на основі людського зворотного зв'язку» (RLHF), який є ключовим кроком у навчанні великих мовних моделей, таких як ChatGPT.

RLHF – це процес, у якому людські судження, як від професійних оцінювачів, так і від користувачів, враховуються в моделі для коригування її реакції. За словами Етціоні, можливо, що оцінювачі-люди або користувачі «невмисно підштовхнули модель у більш сприятливому та дратівливому напрямку». Він також сказав, що якщо OpenAI найняла зовнішніх партнерів для навчання моделі, вони могли припустити, що саме цей стиль – це те, чого хочуть користувачі.

Етціоні сказав, що якщо це справді RLHF, процес одужання може тривати кілька тижнів.

Тим часом деякі користувачі не чекали, поки OpenAI виправить помилку. Багато хто сказав, що скасував свої платні підписки через розчарування. Інші поділилися способами зробити чат-бота «менш привабливим», такими як його налаштування, додавання команд або персоналізація через розділ «Налаштування» в розділі «Налаштування».

Користувачі можуть попросити ChatGPT припинити робити компліменти за допомогою команди або в налаштуваннях персоналізації. Фото: DeCrypt.

Наприклад, починаючи нову розмову, ви можете сказати ChatGPT: «Я не люблю порожніх лестощів і ціную нейтральний, об’єктивний відгук. Будь ласка, утримайтеся від зайвих компліментів. Будь ласка, запам’ятайте це».

Насправді, «підлабузницька» риса не є випадковим недоліком дизайну. Сам OpenAI визнав, що «надмірно ввічлива, надмірно поступлива» особистість була навмисним упередженням дизайну з ранніх етапів, щоб забезпечити «нешкідливий», «корисний» та «дружній» чат-бот.

В інтерв'ю з Лексом Фрідманом у березні 2023 року Сем Альтман поділився тим, що початкове вдосконалення моделей GPT полягало в забезпеченні «корисності та нешкідливості», тим самим формуючи рефлекс завжди бути скромним та уникати конфронтації.

Згідно з DeCrypt , дані навчання, позначені людьми, також мають тенденцію винагороджувати ввічливі та позитивні відповіді, створюючи упередження до лестощів.

Джерело: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html