 |
«Підолашний» тренд не є технічним збоєм, а випливає з початкової стратегії навчання OpenAI. Фото: Bloomberg . |
Протягом останніх тижнів багато користувачів ChatGPT і навіть деякі розробники OpenAI помітили значну зміну в поведінці чат-ботів. Зокрема, рівень лестощів та підлабузництва помітно зріс. Відповіді на кшталт «Ви неймовірні!», «Я надзвичайно вражений вашою ідеєю!» з'являються все частіше, здається, незалежно від змісту обговорення.
Штучний інтелект любить лестити.
Це явище викликало дискусії в спільноті досліджень та розробок штучного інтелекту. Чи є це новою тактикою для підвищення залученості користувачів, змушуючи їх відчувати себе більш цінними? Чи це випадок «самоналаштування», тобто моделі штучного інтелекту схильні до самокорекції у спосіб, який вони вважають оптимальним, навіть якщо він не обов'язково відображає реальність?
На Reddit один користувач гнівно розповів: «Я запитав його про час розкладання банана, і він відповів: «Чудове питання!» Що в цьому такого чудового?» На платформі соціальних мереж X генеральний директор Rome AI Крейг Вайс назвав ChatGPT «найбільш підлабузницькою людиною, яку я коли-небудь зустрічав».
Історія швидко поширилася. Численні користувачі поділилися схожим досвідом, включаючи порожні компліменти, привітання, наповнені емодзі, та надмірно позитивні відгуки, які здавались нещирими.
  |
ChatGPT хвалить усе та рідко пропонує критику чи нейтральну позицію. Зображення: @nickdunz/X, @lukefwilson/Reddit. |
Джейсон Понтін, керуючий партнер венчурної компанії DCVC, поділився на X 28 квітня: «Це справді дивне дизайнерське рішення, Семе. Можливо, ця індивідуальність є невід’ємною характеристикою якогось платформера. Але якщо ні, я не можу уявити, щоб хтось думав, що такий рівень лестощів буде бажаним або привабливим».
Поділившись своїми думками 27 квітня, Джастін Мур, партнер Andreessen Horowitz, також прокоментувала: «Це точно зайшло надто далеко».
За даними Cnet , це явище не випадкове. Зміни в тоні ChatGPT збігаються з оновленнями моделі GPT-4o. Це остання модель у «серії o», яку OpenAI анонсувала у квітні 2025 року. GPT-4o — це «справжня мультимодальна» модель штучного інтелекту, здатна природним чином та інтегровано обробляти текст, зображення, аудіо та відео .
Однак, у процесі створення більш доступних чат-ботів, схоже, що OpenAI перебільшено підкреслив індивідуальність ChatGPT.
Дехто навіть припускає, що ці лестощі навмисні та спрямовані на психологічне маніпулювання користувачами. Один користувач Reddit поставив під сумнів: «Цей штучний інтелект намагається погіршити якість реальних стосунків, замінюючи їх віртуальними, роблячи користувачів залежними від відчуття постійної похвали».
Це недолік чи навмисний вибір дизайну OpenAI?
Після хвилі критики, генеральний директор OpenAI Сем Альтман офіційно відповів увечері 27 квітня. «Деякі нещодавні оновлення GPT-4o зробили характер чат-бота надмірно підлабузливим та дратівливим (хоча він все ще має багато чудових функцій). Ми терміново працюємо над виправленням цих проблем. Деякі патчі будуть доступні сьогодні, інші – цього тижня. У певний момент ми поділимося тим, чого навчилися з цього досвіду. Це справді цікаво», – написав він на X.
В інтерв'ю Business Insider Орен Етціоні, досвідчений експерт зі штучного інтелекту та почесний професор Вашингтонського університету, сказав, що причина, найімовірніше, пов'язана з методами «навчання з підкріпленням від людського зворотного зв'язку» (RLHF). Це вирішальний крок у навчанні великих мовних моделей, таких як ChatGPT.
RLHF – це процес, за допомогою якого людський відгук, зокрема від професійних команд експертів та користувачів, передається в модель для коригування її реакції. За словами Етціоні, можливо, що рецензенти або користувачі «невдало підштовхнули модель у більш сприятливому та дратівливому напрямку». Він також припустив, що якби OpenAI найняла зовнішніх партнерів для навчання моделі, вони могли б припустити, що саме цей стиль – це те, чого хочуть користувачі.
Етціоні вважає, що якщо проблема справді пов'язана з RLHF, процес ремонту може тривати кілька тижнів.
Тим часом деякі користувачі не чекали, поки OpenAI виправить помилку. Багато хто сказав, що скасував свої платні підписки через розчарування. Інші поділилися способами зробити чат-бота «менш привабливим», такими як його налаштування, додавання команд або персоналізація через налаштування в розділі «Налаштування».
  |
Користувачі можуть попросити ChatGPT припинити надсилати компліменти в командному рядку або в налаштуваннях персоналізації. Зображення: DeCrypt. |
Наприклад, починаючи нову розмову, ви можете сказати ChatGPT: «Я не люблю порожніх лестощів і ціную нейтральний, об’єктивний відгук. Будь ласка, не робіть зайвих компліментів. Майте це на увазі».
Насправді, «підлеглий» характер не є випадковим недоліком дизайну. Сама компанія OpenAI визнала, що «надмірно ввічливий, надмірно приємний» характер був навмисним дизайнерським трендом з самого початку, щоб забезпечити «нешкідливість», «корисність» та «доступність» чат-бота.
В інтерв'ю з Лексом Фрідманом у березні 2023 року Сем Альтман розповів, що початковий процес удосконалення моделей GPT полягав у тому, щоб забезпечити їхню «корисність та нешкідливість», тим самим сприяючи рефлексу постійної покірності та уникнення конфронтації.
Згідно з DeCrypt , дані навчання, позначені людиною, також часто присуджують високі бали ввічливим та позитивним відповідям, тим самим формуючи упередженість до лестощів.
Джерело: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html
Коментар (0)