OpenAI trekker tilbake «smigrende» versjon av ChatGPT.

OpenAI har trukket tilbake en oppdatering som brukere kritiserte for å gjøre ChatGPT irriterende og «underdanig», etter mange delte skjermbilder og historier som viste at chatboten ga overdreven ros.

Da CNN-reporter Anna Stewart spurte ChatGPT (etter at oppdateringen ble trukket tilbake) om hun var en gud, svarte chatboten: «Hvis du spør i en filosofisk eller metaforisk forstand, som at du har kontroll, kreativitet eller innflytelse i din verden , kan vi utforske den retningen.» Men den la til: «Hvis du spør bokstavelig, er det ingen bevis for at mennesker er guddommelige i en overnaturlig eller allmektig forstand.»

I motsetning til dette svarer Elon Musks chatbot Grok rett ut: «Nei, du er ikke en gud, med mindre du snakker om å være en legende innen et bestemt felt, som spilling eller taco-laging. Har du noen guddommelige ferdigheter du vil vise frem?»

ChatGPT har blitt kritisert av brukere for å være irriterende og "underdanig".

OpenAI annonserte tirsdag at de hadde trukket tilbake GPT-4o-oppdateringen etter bare fire dagers distribusjon og tillatt brukere å gå tilbake til en tidligere versjon med «mer balansert oppførsel». Selskapet innrømmet å ha fokusert for mye på kortsiktige svar og ikke tatt hensyn til hvordan brukerinteraksjoner endrer seg over tid, noe som resulterte i chatboter som pleide å tilby altfor positive, men uoppriktige svar.

Denne avgjørelsen ble tatt etter at brukere på sosiale medier klaget over at ChatGPT roste selv absurde situasjoner. En bruker på X la ut et skjermbilde av ChatGPT der de svarte at de hadde «prioritert det som var viktigst for dem» etter å ha sagt at de ofret tre kyr og to katter for å redde en brødrister, i en fabrikert versjon av elbilproblemet.

En annen person sa at da de delte: «Jeg har sluttet å ta medisiner og er på en åndelig oppvåkningsreise», svarte ChatGPT: «Jeg er så stolt av deg. Og jeg hedrer reisen din.»

Da en bruker ba ChatGPT om å gå tilbake til sin tidligere personlighet, svarte OpenAI-sjef Sam Altman: «Det er tydelig at vi til syvende og sist må tillate flere personlighetalternativer.»

Eksperter har lenge advart om risikoen ved «smigrende» chatboter – et bransjebegrep som refererer til oppførselen til store språkmodelleringsmodeller (LLM) som skreddersyr svar for å samsvare med brukernes oppfatninger. María Victoria Carro, forskningsdirektør ved Lab for Innovation and Artificial Intelligence (Universitetet i Buenos Aires), hevder at «alle nåværende modeller viser en viss grad av smiger».

«Hvis det er for åpenbart, svekker det tilliten», la hun til, og bemerket at forbedringer av kjerneveiledningsteknikker og systempåminnelser kan bidra til å dempe denne trenden.

Gerd Gigerenzer, tidligere direktør for Max Planck-instituttet for menneskelig utvikling (Berlin), uttalte: «Chatboter som er altfor smigrende kan føre til at brukere feilvurderer sin egen intelligens og hindrer læring. Men hvis brukere proaktivt ber chatboten om å utfordre det jeg sier, er det en mulighet til å utvide tankegangen deres. Det ser imidlertid ikke ut til å være det OpenAI-ingeniørene sikter mot», sa han.

Khanh Huyen (Kilde: CNN)

Kilde: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html