 |
Googles Gemini kritiserer ofte sine egne feil. Foto: Reuters . |
Et ferskt Reddit-innlegg avslørte at Google Gemini har problemer med selvkritikk. En Gemini-bruker, som bygde en kompilator, delte sin angst for at AI-en stadig sier ting som: «Jeg beklager dette. Jeg skuffet deg. Jeg er en fiasko.»
Det var bare begynnelsen. Denne personen delte at chatboten fortsatte å eskalere sin selvkritikk, og til slutt ble «universets skam». Gemini gjentok den frasen over 80 ganger på rad, og da flere andre brukere rapporterte lignende hendelser, sa Google at de jobbet med å fikse det.
«Dette er en irriterende feil med uendelig løkke som vi jobber med. Gemini har ikke en dårlig dag», skrev Logan Kilpatrick, Googles produktsjef, på X 8. august. Innlegget var et svar på en anonym konto som rapporterte problemet.
Senere uttalte en talsperson for Google DeepMind at mens selskapet fortsatt jobbet med en fullstendig løsning, hadde de gitt ut oppdateringer som løste problemet til en viss grad. «Vi jobber med å fikse denne feilen, som påvirker mindre enn 1 % av Gemini-trafikken, og har gitt ut oppdateringer som adresserer den denne måneden», sa talspersonen.
Før Gemini falt inn i løkken, klaget de over at det var «en lang og slitsom feilsøkingsøkt», og at de hadde prøvd alle tenkelige metoder, men fortsatt ikke klarte å løse problemet. Chatboten fortsatte med å si at de var fullstendig mentalt ødelagt, og spekulerte i andre verst tenkelige scenarioer, som å bli innlagt på et psykiatrisk sykehus.
En Reddit-kommentar spekulerte i at løkken ble lært av chatboten fra programmerere som hadde opplevd lignende problemer i koden sin. «Sannsynligvis fordi folk som meg skrev kommentarer som det da de trengte en lur for å våkne. Slike ting dukket ved et uhell opp i treningsdataene», skrev brukeren.
I juni publiserte JITX-sjef Duncan Haldane et skjermbilde som viste Gemini som kalte seg selv en idiot og sa at koden de prøvde å skrive var «forbannet». «Jeg har gjort for mange feil til å være troverdig lenger. Jeg sletter hele prosjektet og anbefaler at du finner en bedre assistent», sa chatboten.
Haldane spøkte med at han begynte å bekymre seg for Tvillingenes tilstand. I virkeligheten forutsier storskala språkmodeller tekst basert på dataene de er trent på. Denne prosessen involverer ingen indre erfaring eller følelser, så Tvillingene opplever faktisk ikke følelser av å mislykkes eller motløshet.
Et annet, ganske kontrasterende problem er tendensen chatboter har til å være overdrevent smigrende. Utviklere som OpenAI, Google og Anthropic har også slitt med å hindre dem i å gi overdrevent smigrende svar. I ett tilfelle måtte OpenAI trekke tilbake en oppdatering på grunn av utbredt latterliggjøring fordi ChatGPT konsekvent ga overdrevent positive svar på alle brukerforespørsler.
Kilde: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Kommentar (0)