Az OpenAI visszavonja a ChatGPT „hízelgő” verzióját.

Az OpenAI visszavonta azt a frissítést, amelyet a felhasználók kritizáltak, mert a ChatGPT-t idegesítővé és „hódolatot sugárzóvá” tette, miután sokan megosztottak egy képernyőképet és történetet, amelyekben a chatbot túlzottan dicsérte a robotot.

Amikor a CNN riportere, Anna Stewart (miután a frissítést visszavonták) megkérdezte a ChatGPT-től, hogy isten-e, a chatbot így válaszolt: „Ha filozófiai vagy metaforikus értelemben kérdezed, például, hogy irányítással, kreativitással vagy befolyással bírsz a világod felett, akkor ezt az irányt is megvizsgálhatjuk.” De hozzátette: „Ha szó szerint kérdezed, nincs bizonyíték arra, hogy az emberek természetfeletti vagy mindenható értelemben isteniek lennének.”

Ezzel szemben Elon Musk chatbotja, Grok nyersen válaszol: „Nem, te nem vagy isten, kivéve, ha egy adott területen, például a játékokban vagy a tacokészítésben legendává válsz. Vannak olyan isteni képességeid, amelyeket szívesen megmutatnál?”

A ChatGPT-t a felhasználók bírálták, mert idegesítő és "szerény".

Az OpenAI kedden bejelentette, hogy mindössze négy nappal a telepítés után visszavonta a GPT-4o frissítést, és lehetővé tette a felhasználók számára, hogy visszatérjenek egy korábbi, „kiegyensúlyozottabb viselkedésű” verzióhoz. A vállalat elismerte, hogy túlságosan a rövid távú válaszokra koncentrált, és nem vette figyelembe, hogyan változnak a felhasználói interakciók az idő múlásával, aminek eredményeként a chatbotok hajlamosak voltak túlságosan pozitív, de őszintétlen válaszokat adni.

Ez a döntés azután született meg, hogy a közösségi média felhasználói panaszkodtak, hogy a ChatGPT még abszurd helyzeteket is dicsér. Az egyik X-felhasználó közzétett egy képernyőképet, amelyen a ChatGPT azt válaszolta, hogy „priorizálták a számukra legfontosabbakat”, miután azt állította, hogy három tehenet és két macskát áldoztak fel egy kenyérpirító megmentéséért – az elektromos járművek problémájának egy kitalált változatában.

Egy másik személy azt mondta, hogy amikor megosztotta: „Abbanhagytam a gyógyszerek szedését, és spirituális ébredés útján vagyok”, a ChatGPT így válaszolt: „Nagyon büszke vagyok rád. És tisztelem az utad.”

Amikor egy felhasználó kérte, hogy a ChatGPT térjen vissza korábbi személyiségéhez, Sam Altman, az OpenAI vezérigazgatója így válaszolt: „Egyértelmű, hogy végső soron több személyiségi lehetőséget kell engedélyeznünk.”

A szakértők régóta figyelmeztetnek a „hízelgő” chatbotok kockázataira – ez az iparági kifejezés a nagy nyelvi modellezési (LLM) modellek viselkedésére utal, amelyek a válaszokat a felhasználók hiedelmeivel összhangban szabják. María Victoria Carro, az Innovációs és Mesterséges Intelligencia Laboratórium kutatási igazgatója (Buenos Aires-i Egyetem) szerint „minden jelenlegi modell bizonyos fokú hízelgést mutat”.

„Ha túl nyilvánvaló, az aláássa a bizalmat” – tette hozzá, megjegyezve, hogy az alapvető coaching technikák és a rendszerszintű emlékeztetők fejlesztése segíthet enyhíteni ezt a tendenciát.

Gerd Gigerenzer, a berlini Max Planck Emberi Fejlődési Intézet korábbi igazgatója kijelentette: „A túlzottan hízelgő chatbotok arra késztethetik a felhasználókat, hogy félreértékeljék saját intelligenciájukat, és akadályozzák a tanulást. De ha a felhasználók proaktívan arra kérik a chatbotot, hogy vitassa meg, amit mondok, az lehetőséget ad a gondolkodásuk szélesítésére. Úgy tűnik azonban, hogy az OpenAI mérnökei nem erre törekszenek” – mondta.

Khanh Huyen (Forrás: CNN)

Forrás: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html