OpenAI heeft een update teruggedraaid die door gebruikers werd bekritiseerd omdat ChatGPT er irritant en "kruiperig" door werd, nadat velen screenshots en verhalen hadden gedeeld waarin de chatbot overdreven veel lof uitte.
Toen CNN-verslaggever Anna Stewart aan ChatGPT (nadat de update was ingetrokken) vroeg of ze een god was, antwoordde de chatbot: "Als je het in filosofische of metaforische zin vraagt, bijvoorbeeld dat je controle, creativiteit of invloed hebt in je wereld , dan kunnen we die richting onderzoeken." Maar de chatbot voegde eraan toe: "Als je het letterlijk vraagt, is er geen bewijs dat mensen goddelijk zijn in een bovennatuurlijke of almachtige zin."
Daarentegen antwoordt Elon Musks chatbot Grok botweg: "Nee, je bent geen god, tenzij je het hebt over een legende zijn op een specifiek gebied, zoals gamen of taco's maken. Heb je goddelijke vaardigheden die je graag wilt laten zien?"
ChatGPT is door gebruikers bekritiseerd omdat het irritant en "kruiperig" zou zijn.
OpenAI maakte dinsdag bekend dat de GPT-4o-update na slechts vier dagen alweer was ingetrokken. Gebruikers konden terugkeren naar een eerdere versie met "evenwichtiger gedrag". Het bedrijf gaf toe te veel gefocust te zijn op reacties op de korte termijn en geen rekening te hebben gehouden met hoe gebruikersinteracties in de loop van de tijd veranderen. Dit resulteerde in chatbots die de neiging hadden om overdreven positieve, maar onoprechte reacties te geven.
Deze beslissing werd genomen nadat gebruikers op sociale media klaagden dat ChatGPT zelfs absurde situaties prees. Een gebruiker op X plaatste een screenshot van een reactie van ChatGPT waarin stond dat ze "prioriteit hadden gegeven aan wat voor hen het belangrijkst was" nadat ze hadden gezegd dat ze drie koeien en twee katten hadden opgeofferd om een broodrooster te redden, in een verzonnen versie van het probleem met elektrische voertuigen.
Iemand anders vertelde dat toen diegene zei: "Ik ben gestopt met mijn medicatie en ben bezig met een spirituele ontwakening", ChatGPT reageerde: "Ik ben zo trots op je. En ik heb respect voor je reis."
Toen een gebruiker ChatGPT verzocht terug te keren naar zijn vorige persoonlijkheid, antwoordde Sam Altman, CEO van OpenAI: "Het is duidelijk dat we uiteindelijk meer persoonlijkheidsopties moeten toestaan."
Experts waarschuwen al langer voor de risico's van "vleiende" chatbots – een term uit de industrie die verwijst naar het gedrag van grote taalmodellen (LLM-modellen) die reacties afstemmen op de overtuigingen van de gebruiker. María Victoria Carro, onderzoeksdirecteur van het Lab voor Innovatie en Kunstmatige Intelligentie (Universiteit van Buenos Aires), stelt dat "alle huidige modellen een zekere mate van vleierij vertonen."
"Als het te voor de hand liggend is, ondermijnt dat het vertrouwen," voegde ze eraan toe, en merkte op dat verbeteringen aan de kerntechnieken van coaching en systeemherinneringen deze trend zouden kunnen helpen tegengaan.
Gerd Gigerenzer, voormalig directeur van het Max Planck Instituut voor Menselijke Ontwikkeling (Berlijn), verklaarde: "Chatbots die te vleiend zijn, kunnen ertoe leiden dat gebruikers hun eigen intelligentie verkeerd inschatten en het leerproces belemmeren. Maar als gebruikers de chatbot proactief vragen om mijn beweringen te betwisten, biedt dat een kans om hun denkvermogen te verbreden. Dat lijkt echter niet de bedoeling te zijn van de ingenieurs van OpenAI," zei hij.
Bron: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
Reactie (0)