Zorgen dat chatbot Grok een toename van misinformatie op internet veroorzaakt

De Grok-chatbot van Elon Musk stelt gebruikers in staat om AI-afbeeldingen van tekst te maken en deze op X te plaatsen, waaronder nepfoto's van politici als voormalig Amerikaans president Donald Trump en Amerikaans vicepresident Kamala Harris...

In tegenstelling tot andere gangbare AI-tools voor het maken van foto's, lijkt Musks Grok minder regelgeving te hebben. In de test van CNN bijvoorbeeld, creëerde Grok gemakkelijk nepfoto's van politici, waardoor kiezers werden misleid.

Afbeelding van Elon Musk gemaakt door chatbox Grok. (Bron: CNN)

Sommige X-gebruikers plaatsten ook afbeeldingen die Grok had gemaakt. Hierop zijn beroemdheden te zien die drugs roken, tekenfilmfiguren die mensen vermoorden en geseksualiseerde afbeeldingen van vrouwen in bikini's.

Volgens CNN uit Grok zijn zorgen dat AI een explosie van desinformatie op internet zou kunnen veroorzaken, vooral nu de Amerikaanse presidentsverkiezingen naderen.

Wetgevers, activistische groepen en leiders uit de techsector waarschuwen dat misbruik van dergelijke hulpmiddelen tot verwarring en chaos bij kiezers kan leiden.

Veel toonaangevende AI-bedrijven ter wereld hebben beleid ingevoerd om te voorkomen dat op AI gebaseerde hulpmiddelen voor het genereren van afbeeldingen worden gebruikt om politieke desinformatie te creëren. Onderzoekers hebben echter ontdekt dat gebruikers soms manieren vinden om de regels te omzeilen.

Verschillende bedrijven, zoals OpenAI, Meta en Microsoft, gebruiken technologie of labels om kijkers te laten weten welke afbeeldingen door hun AI zijn gegenereerd.

Sociale netwerken zoals YouTube, TikTok, Instagram en Facebook labelen ook door AI gegenereerde content in de feeds van gebruikers. Ze gebruiken technologie om de content zelf te detecteren of vragen gebruikers om aan te geven wanneer ze de content hebben geplaatst.

Op 16 augustus leek AI Grok enkele beperkingen op te leggen. De tool weigert nu afbeeldingen te genereren van politieke kandidaten of beroemde tekenfilmfiguren die gewelddadige handelingen plegen.

Bron: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html