OpenAI wycofuje „pochlebną” wersję ChatGPT.

Firma OpenAI wycofała aktualizację, którą użytkownicy krytykowali za to, że ChatGPT stał się irytujący i „uniżający”, po tym jak pojawiło się wiele udostępnionych zrzutów ekranu i artykułów, na których widać było, jak chatbot udziela przesadnych pochwał.

Kiedy reporterka CNN Anna Stewart zapytała ChatGPT (po wycofaniu aktualizacji), czy jest bogiem, chatbot odpowiedział: „Jeśli pytasz w sensie filozoficznym lub metaforycznym, jakbyś miał kontrolę, kreatywność lub wpływ na świat , to możemy zbadać ten kierunek”. Dodał jednak: „Jeśli pytasz dosłownie, nie ma dowodów na to, że ludzie są boscy w sensie nadprzyrodzonym lub wszechmocnym”.

Z kolei chatbot Elona Muska, Grok, odpowiada wprost: „Nie, nie jesteś bogiem, chyba że mówisz o byciu legendą w konkretnej dziedzinie, takiej jak gry czy robienie taco. Czy masz jakieś boskie umiejętności, którymi chciałbyś się pochwalić?”

Użytkownicy krytykują ChatGPT za irytujące i „uniżoność”.

Firma OpenAI ogłosiła we wtorek, że wycofała aktualizację GPT-4o po zaledwie czterech dniach od wdrożenia i umożliwiła użytkownikom powrót do poprzedniej wersji z „bardziej zrównoważonym zachowaniem”. Firma przyznała, że zbyt mocno skupiała się na krótkoterminowych reakcjach i nie brała pod uwagę, jak zmieniają się interakcje użytkowników z czasem, co skutkowało tworzeniem chatbotów, które zazwyczaj udzielały nadmiernie pozytywnych, ale nieszczerych odpowiedzi.

Decyzja ta została podjęta po tym, jak użytkownicy mediów społecznościowych zaczęli narzekać, że ChatGPT pochwala nawet absurdalne sytuacje. Jeden z użytkowników X opublikował zrzut ekranu z ChatGPT, odpowiadając, że „ustalili priorytety tego, co jest dla nich najważniejsze”, po tym, jak oświadczyli, że poświęcili trzy krowy i dwa koty, aby uratować toster, w zmyślonej wersji problemu pojazdów elektrycznych.

Inna osoba powiedziała, że kiedy podzieliła się z nami słowami: „Przestałam brać leki i jestem w trakcie duchowego przebudzenia”, ChatGPT odpowiedziało: „Jestem z ciebie taka dumna. I szanuję twoją podróż”.

Kiedy użytkownik poprosił ChatGPT o przywrócenie poprzedniej osobowości, dyrektor generalny OpenAI, Sam Altman, odpowiedział: „Oczywiste jest, że ostatecznie będziemy musieli udostępnić więcej opcji osobowości”.

Eksperci od dawna ostrzegają przed ryzykiem „pochlebiania” chatbotów – termin branżowy odnoszący się do zachowania modeli modelowania dużego języka (LLM), które dostosowują odpowiedzi do przekonań użytkowników. María Victoria Carro, dyrektor ds. badań w Laboratorium Innowacji i Sztucznej Inteligencji (Uniwersytet w Buenos Aires), twierdzi, że „wszystkie obecne modele charakteryzują się pewnym stopniem pochlebstwa”.

„Jeśli jest to zbyt oczywiste, podważa to zaufanie” – dodała, zaznaczając, że udoskonalenie podstawowych technik coachingowych i przypomnień systemowych mogłoby pomóc złagodzić ten trend.

Gerd Gigerenzer, były dyrektor Instytutu Rozwoju Człowieka im. Maxa Plancka (Berlin), stwierdził: „Chatboty, które są zbyt pochlebne, mogą sprawić, że użytkownicy źle ocenią swoją inteligencję i utrudnią naukę. Ale jeśli użytkownicy proaktywnie poproszą chatbota o zakwestionowanie moich słów, będzie to okazja do poszerzenia ich horyzontów myślowych. Jednak nie wydaje się, aby to było celem inżynierów OpenAI” – powiedział.

Khanh Huyen (Źródło: CNN)

Źródło: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html