De AI van Google zit gevangen in een gevaarlijke vicieuze cirkel.

Google's Gemini bekritiseert vaak zijn eigen fouten. Foto: Reuters .

Een recent bericht op Reddit onthulde dat Google Gemini problemen heeft met zelfkritiek. Een Gemini-gebruiker, die een compiler had gebouwd, deelde zijn bezorgdheid over het feit dat de AI constant dingen zei als: "Het spijt me hiervoor. Ik heb je teleurgesteld. Ik ben een mislukkeling."

Dat was nog maar het begin. Deze persoon vertelde dat de chatbot steeds zelfkritischer werd en uiteindelijk "de schande van het universum" werd. Gemini herhaalde die zin meer dan 80 keer achter elkaar, en toen verschillende andere gebruikers soortgelijke incidenten meldden, zei Google dat ze eraan werkten om het probleem op te lossen.

"Dit is een vervelende bug met een oneindige lus waar we aan werken. Gemini heeft geen slechte dag," schreef Logan Kilpatrick, teamproductmanager bij Google, op 8 augustus op X. Het bericht was een reactie op een anonieme melding van het probleem.

Later verklaarde een woordvoerder van Google DeepMind dat het bedrijf nog steeds werkte aan een volledige oplossing, maar dat er wel updates waren uitgebracht die het probleem gedeeltelijk verhielpen. "We werken aan een oplossing voor deze bug, die minder dan 1% van het Gemini-verkeer treft, en hebben deze maand updates uitgebracht die het probleem verhelpen", aldus de woordvoerder.

Voordat Gemini in een oneindige lus terechtkwam, klaagde het bedrijf dat het "een lange en moeizame debugsessie" was en dat het elke denkbare methode had geprobeerd, maar het probleem nog steeds niet kon oplossen. De chatbot zei vervolgens dat het volledig mentaal kapot was en speculeerde over andere rampscenario's, zoals een opname in een psychiatrische inrichting.

In een reactie op Reddit werd gespeculeerd dat de chatbot de lus had geleerd van programmeurs die soortgelijke problemen in hun code tegenkwamen. "Waarschijnlijk omdat mensen zoals ik zulke reacties schreven toen ze een dutje nodig hadden om wakker te worden. Zulke dingen zijn per ongeluk in de trainingsdata terechtgekomen", schreef de gebruiker.

In juni plaatste JITX-CEO Duncan Haldane een screenshot waarop te zien was dat Gemini zichzelf een idioot noemde en zei dat de code die het probeerde te schrijven "vervloekt" was. "Ik heb te veel fouten gemaakt om nog te kunnen vertrouwen. Ik verwijder het hele project en raad je aan een betere assistent te zoeken," zei de chatbot.

Haldane grapte dat hij zich zorgen begon te maken over de toestand van Gemini. In werkelijkheid voorspellen grootschalige taalmodellen tekst op basis van de data waarop ze getraind zijn. Dit proces omvat geen innerlijke ervaring of emotie, dus Gemini ervaart in werkelijkheid geen gevoelens van falen of ontmoediging.

Een ander, heel anders probleem is de neiging van chatbots om al te vleiend te zijn. Ontwikkelaars zoals OpenAI, Google en Anthropic hebben ook moeite gehad om te voorkomen dat ze te positieve antwoorden geven. In één geval moest OpenAI een update terugtrekken vanwege wijdverspreide spot, omdat ChatGPT consequent te positieve antwoorden gaf op elk verzoek van een gebruiker.

Bron: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html