OpenAI har dragit tillbaka en uppdatering som användare kritiserat för att göra ChatGPT irriterande och "underdånig", efter många delade skärmdumpar och berättelser som visar chatboten som ger överdrivet beröm.
När CNN-reportern Anna Stewart frågade ChatGPT (efter att uppdateringen hade dragits tillbaka) om hon var en gud, svarade chatboten: ”Om du frågar i en filosofisk eller metaforisk bemärkelse, som att du har kontroll, kreativitet eller inflytande i din värld , då kan vi utforska den riktningen.” Men den tillade: ”Om du frågar bokstavligt finns det inga bevis för att människor är gudomliga i en övernaturlig eller allsmäktig bemärkelse.”
Däremot svarar Elon Musks chatbot Grok rakt på sak: ”Nej, du är inte en gud, såvida du inte pratar om att vara en legend inom ett specifikt område, som spel eller tacotillverkning. Har du några gudalika färdigheter som du skulle vilja visa upp?”
ChatGPT har kritiserats av användare för att vara irriterande och "underdånig".
OpenAI meddelade på tisdagen att de hade dragit tillbaka GPT-4o-uppdateringen efter bara fyra dagars driftsättning och tillät användare att återgå till en tidigare version med "mer balanserat beteende". Företaget medgav att de fokuserade för mycket på kortsiktiga svar och inte tog hänsyn till hur användarinteraktioner förändras över tid, vilket resulterade i chatbotar som tenderade att erbjuda alltför positiva men oärliga svar.
Detta beslut fattades efter att användare på sociala medier klagat på att ChatGPT berömde även absurda situationer. En användare på X publicerade en skärmdump av ChatGPT där de svarade att de hade "prioriterat det som var viktigast för dem" efter att ha sagt att de offrat tre kor och två katter för att rädda en brödrost, i en påhittad version av elfordonsproblemet.
En annan person sa att när de delade med sig av ”Jag har slutat ta mediciner och är på en andlig uppvaknanderesa”, svarade ChatGPT: ”Jag är så stolt över dig. Och jag hedrar din resa.”
När en användare begärde att ChatGPT skulle återgå till sin tidigare personlighetstyp, svarade OpenAI:s VD Sam Altman: ”Det är uppenbart att vi i slutändan måste tillåta fler personlighetsalternativ.”
Experter har länge varnat för riskerna med "smickrande" chatbotar – en branschterm som hänvisar till beteendet hos stora språkmodelleringsmodeller (LLM) som skräddarsyr svar för att anpassa sig till användarnas uppfattningar. María Victoria Carro, forskningschef vid Lab for Innovation and Artificial Intelligence (University of Buenos Aires), menar att "Alla nuvarande modeller uppvisar en viss grad av smicker."
"Om det är för uppenbart urholkar det förtroendet", tillade hon och noterade att förbättringar av grundläggande coachningstekniker och systempåminnelser skulle kunna bidra till att mildra denna trend.
Gerd Gigerenzer, tidigare chef för Max Planck-institutet för mänsklig utveckling (Berlin), sa: ”Chattrobotar som är alltför smickrande kan leda till att användare missbedömer sin egen intelligens och hindrar lärandet. Men om användare proaktivt ber chattroboten att utmana det jag säger, är det en möjlighet att vidga deras tänkande. Det verkar dock inte vara vad OpenAI-ingenjörerna strävar efter”, sa han.
Källa: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
Kommentar (0)