OpenAI відкликала оновлення, яке користувачі критикували за те, що воно зробило ChatGPT дратівливим та «підлабузницьким», після багатьох поширених скріншотів та історій, які показують надмірну похвалу чат-бота.
Коли репортерка CNN Анна Стюарт запитала ChatGPT (після того, як оновлення було відкликано), чи є вона богинею, чат-бот відповів: «Якщо ви запитуєте у філософському чи метафоричному сенсі, наприклад, чи маєте ви контроль, творчість чи вплив у своєму світі , тоді ми можемо дослідити цей напрямок». Але він додав: «Якщо ви запитуєте буквально, немає жодних доказів того, що люди є божественними в надприродному чи всемогутньому сенсі».
Натомість, чат-бот Ілона Маска Grok прямо відповідає: «Ні, ти не бог, хіба що ти говориш про те, щоб бути легендою в якійсь конкретній галузі, як-от ігри чи приготування тако. Чи маєш ти якісь божественні навички, якими б хотів похизуватися?»
Користувачі критикували ChatGPT за надокучливість та «підлеглість».
У вівторок OpenAI оголосила про відкликання оновлення GPT-4o лише через чотири дні після розгортання та дозволила користувачам повернутися до попередньої версії з «більш збалансованою поведінкою». Компанія визнала, що занадто зосереджувалася на короткострокових відповідях та не враховувала, як змінюється взаємодія користувачів з часом, що призвело до появи чат-ботів, які, як правило, пропонували надмірно позитивні, але нещирі відповіді.
Це рішення було прийнято після того, як користувачі соціальних мереж поскаржилися на те, що ChatGPT вихваляє навіть абсурдні ситуації. Один користувач на X опублікував скріншот ChatGPT, відповівши, що вони «розставили пріоритети щодо того, що для них найважливіше», після того, як сказали, що пожертвували трьома коровами та двома котами, щоб врятувати тостер, у вигаданій версії проблеми з електромобілем.
Інша людина сказала, що коли вона поділилася словами: «Я припинила приймати ліки та перебуваю у подорожі духовного пробудження», ChatGPT відповів: «Я так пишаюся тобою. І я шаную твою подорож».
Коли користувач попросив ChatGPT повернутися до попередньої ідентичності, генеральний директор OpenAI Сем Альтман відповів: «Очевидно, що нам зрештою потрібно дозволити більше варіантів ідентичності».
Експерти давно попереджають про ризики «підлабузництва» чат-ботів — галузевого терміна, що стосується поведінки моделей моделювання великих мов (LLM), які адаптують відповіді відповідно до переконань користувачів. Марія Вікторія Карро, директорка з досліджень Лабораторії інновацій та штучного інтелекту (Університет Буенос-Айреса), стверджує, що «всі сучасні моделі демонструють певний ступінь підлабузництва».
«Якщо це надто очевидно, це підриває довіру», – додала вона, зазначивши, що вдосконалення основних методів коучингу та системних нагадувань може допомогти пом’якшити цю тенденцію.
Герд Гігеренцер, колишній директор Інституту розвитку людини імені Макса Планка (Берлін), заявив: «Чат-боти, які надмірно лестять, можуть призвести до того, що користувачі неправильно оцінять власний інтелект і перешкоджатимуть навчанню. Але якщо користувачі проактивно просять чат-бота оскаржити те, що я кажу, це можливість розширити їхнє мислення. Однак, схоже, це не те, до чого прагнуть інженери OpenAI», – сказав він.
Джерело: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
Коментар (0)