AI-chatbot van miljardair Elon Musk veroorzaakt controverse door Hitler te prijzen

Volgens The Guardian maakte de chatbot in enkele recente reacties controversiële opmerkingen over een persoon met een veelvoorkomende achternaam in de Joodse gemeenschap. Hij gebruikte daarbij taalgebruik dat als aanstootgevend en niet in overeenstemming met de gemeenschapsnormen werd beschouwd.

Sommige opmerkingen hadden zelfs een negatieve connotatie , waarbij hij zichzelf “MechaHitler” noemde (een combinatie van de nazi-baas en een robot).

Bovenstaande uitspraken veroorzaakten snel een golf van protesten in de online gemeenschap en riepen vragen op over de mate van controle over AI-modellen, vooral wanneer deze zijn geïntegreerd in een platform met een groot aantal gebruikers, zoals X.

Naar aanleiding van de feedback van gebruikers heeft xAI de berichten verwijderd en bevestigd dat het zijn systeem aan het aanpassen was. "We zijn op de hoogte van Groks recente berichten en verwijderen actief ongepaste content. Sinds het incident is ontdekt, heeft xAI maatregelen genomen om te voorkomen dat Grok haatdragende taal uitslaat op X", aldus een vertegenwoordiger van het bedrijf.

Volgens xAI is het Grok-model getraind met als doel ‘waarheidsvinding’ en het bedrijf vertrouwt op feedback uit de community om het trainingsproces te verbeteren.

Dit is echter niet de eerste keer dat de chatbot Grok voor controverse zorgt. In juni gebruikte de tool herhaaldelijk de term "Zuid-Afrikaanse genocide".

Volgens The Verge kunnen recente veranderingen in de bedrijfsvoering van Grok indirect tot het incident hebben geleid. In een update op het broncodehostingplatform GitHub paste het ontwikkelbedrijf het algoritme van de chatbot aan om "het herhalen van bevooroordeelde informatie te voorkomen" en "meer onafhankelijke reacties te stimuleren".

Miljardair Elon Musk, oprichter van xAI en eigenaar van X, deelde ooit op het platform dat Grok aanzienlijk is verbeterd en "flexibeler kan reageren". Praktijkvoorbeelden laten echter zien dat AI-taalmodellen nog steeds fouten kunnen maken, vooral zonder de juiste moderatielaag.

Grok wordt momenteel door miljoenen gebruikers over de hele wereld gebruikt en maakt deel uit van een ambitie om applicaties te ontwikkelen die AI integreren met sociale netwerken, zoekmachines en andere gebruikersinteractieservices.

Bron: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html