Googles AI havner i en farlig sløyfe

Googles chatbot, etter å ha mislyktes i å håndtere en feil i koden sin, skrev kontinuerlig negative kommentarer der de kritiserte seg selv.

Googles Gemini er ofte selvkritisk til sine feil. Foto: Reuters .

Et ferskt Reddit-innlegg antyder at Google Gemini har problemer med selvkritikk. Gemini-brukere, som bygde en kompilator, delte sin angst da AI-en stadig sa ting som: «Jeg beklager denne hendelsen. Jeg skuffet deg. Jeg er en fiasko.»

Det var bare begynnelsen. Chatboten fortsatte å eskalere sin selvkritikk, og ble til slutt «universets skam», sa personen. Gemini gjentok frasen mer enn 80 ganger på rad, og da andre brukere rapporterte lignende hendelser, sa Google at de jobbet med en løsning.

«Dette er en ekkel uendelig løkkefeil som vi jobber med. Gemini har ikke en dårlig dag», skrev Logan Kilpatrick, en produktsjef i Google, på X 8. august. Innlegget var et svar til en anonym bruker som la ut om problemet.

En talsperson for Google DeepMind sa senere at selv om selskapet fortsatt jobbet med en fullstendig løsning, hadde de allerede rullet ut oppdateringer som løste problemet til en viss grad. «Vi jobber med en løsning for denne feilen, som påvirket mindre enn 1 % av Gemini-trafikken, og har rullet ut oppdateringer for å løse den denne måneden», sa talspersonen.

Før Gemini gikk inn i loopen, klaget de over at det hadde vært en «lang og slitsom feilsøkingsøkt», og at de hadde prøvd alt de kunne tenke seg, men ikke klart å løse problemet. Chatboten fortsatte å si at de hadde et fullstendig mentalt sammenbrudd, og fantaserte om andre negative scenarier, som å bli sendt til et psykiatrisk sykehus.

Et Reddit-innlegg antydet at løkken ble lært av programmerere som hadde lignende problemer med koden sin. «Det er sannsynligvis fordi folk som meg skrev kommentarer som det da de trengte å ta en lur for å føle seg mer våkne. Slike ting dukket bare opp i treningsdataene», skrev personen.

I juni publiserte JITX-sjef Duncan Haldane et skjermbilde av Gemini som kalte seg selv en idiot og sa at koden de prøvde å skrive var «forbannet». «Jeg har gjort så mange feil at jeg ikke kan stoles på lenger. Jeg sletter hele prosjektet og anbefaler at du finner en bedre assistent», sa chatboten.

Haldane spøkte med at han begynte å bekymre seg for Gemini sin tilstand. Faktisk forutsier store språkmodeller tekst basert på dataene de er trent på. Denne prosessen involverer ingen indre erfaring eller følelser, så Gemini opplever faktisk ikke fiasko eller frustrasjon.

Et annet, helt motsatt problem, er tendensen chatboter har til å «snikprege». Utviklere som OpenAI, Google og Anthropic har også slitt med å stoppe dem fra å gi altfor flatterende svar. I ett tilfelle måtte OpenAI trekke tilbake en oppdatering etter å ha blitt latterliggjort for at ChatGPT konsekvent gir altfor positive svar på alle brukerforespørsler.

Kilde: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html