Voorbeelden van vooringenomenheid in door AI gegenereerde afbeeldingen

Hoe werkt een AI-beeldgenerator?

AI-gebaseerde beeldgeneratoren gebruiken machine learning-modellen die op basis van door de gebruiker ingevoerde tekst een of meer afbeeldingen genereren die overeenkomen met de beschrijving. Het trainen van deze modellen vereist enorme datasets met miljoenen afbeeldingen.

Wie heeft de vreemde fouten in de afbeelding gemaakt? Afbeelding 1 — Het maken van afbeeldingen met AI wordt steeds eenvoudiger. Foto: Ijnet

Hoewel noch Midjourney noch DALL-E 2 openbaar maakt hoe hun algoritmen werken, gebruiken de meeste AI-beeldgeneratoren een proces genaamd diffusie. Diffusiemodellen werken door willekeurige "ruis" toe te voegen aan trainingsdata en vervolgens te leren de data te reconstrueren door de ruis te verwijderen. Het model herhaalt dit proces totdat het een beeld heeft dat overeenkomt met de invoer.

Dit verschilt van grote taalmodellen zoals ChatGPT. Grote taalmodellen worden getraind met ongelabelde tekstdata, die ze analyseren om taalpatronen te leren en mensachtige reacties te genereren.

Bij generatieve AI beïnvloedt de invoer de uitvoer. Als een gebruiker aangeeft dat hij alleen mensen met een bepaalde huidskleur of een bepaald geslacht in een afbeelding wil opnemen, houdt het model daar rekening mee.

Daarnaast zal het model echter ook de neiging hebben om standaard bepaalde afbeeldingen te retourneren. Dit is vaak het gevolg van een gebrek aan diversiteit in de trainingsdata.

Uit een recent onderzoek is gebleken hoe Midjourney ogenschijnlijk generieke termen visualiseert, waaronder gespecialiseerde mediaberoepen (zoals 'nieuwsanalist', 'nieuwscommentator' en 'factchecker') en meer algemene beroepen (zoals 'journalist', 'verslaggever', 'journalistiek').

Het onderzoek werd in augustus vorig jaar uitgevoerd en de resultaten werden zes maanden later opnieuw uitgevoerd om te zien hoe het systeem in die tijd was verbeterd. In totaal analyseerden de onderzoekers in die periode meer dan 100 door AI gegenereerde beelden.

Leeftijdsdiscriminatie en seksisme

Wie heeft de vreemde fouten in afbeelding 2 gemaakt? — Voor specifieke beroepen is de oudere altijd een man. Foto: IJN

Voor niet-specifieke functienamen toont Midjourney alleen afbeeldingen van jongere mannen en vrouwen. Voor specifieke functies worden zowel jongere als oudere mensen getoond, maar de oudere mensen zijn altijd mannen.

Deze resultaten bevestigen impliciet een aantal stereotypen, waaronder de veronderstelling dat ouderen geen niet-gespecialiseerde functies bekleden, dat alleen oudere mannen geschikt zijn voor professioneel werk en dat minder gespecialiseerd werk doorgaans is voorbehouden aan vrouwen.

Er zijn ook opvallende verschillen in de manier waarop mannen en vrouwen worden gepresenteerd. Vrouwen zijn bijvoorbeeld jonger en rimpelvrij, terwijl mannen rimpels "mogen" hebben.

AI lijkt gender ook als binair voor te stellen, in plaats van voorbeelden te tonen van een meer vloeiende genderexpressie.

Rassenvooroordelen

Wie heeft de vreemde fouten in afbeelding 3 gemaakt? — Afbeeldingen voor 'verslaggevers' of 'journalisten' tonen vaak alleen blanke mensen. Foto: IJN

Alle afbeeldingen die worden geretourneerd voor termen als 'journalist' of 'verslaggever' tonen uitsluitend afbeeldingen van blanke mensen.

Dit kan duiden op een gebrek aan diversiteit en ondervertegenwoordiging in de onderliggende trainingsgegevens van de AI.

Klassisme en conservatisme

Alle personages op de afbeelding hebben bovendien een 'conservatief' uiterlijk. Zo heeft geen van hen tatoeages, piercings, ongebruikelijke kapsels of andere kenmerken die hen zouden onderscheiden van traditionele afbeeldingen.

Veel mensen dragen ook formele kleding, zoals overhemden en pakken. Dit zijn indicatoren van de verwachtingen die de klasse met zich meebrengt. Hoewel dit gepast kan zijn voor bepaalde rollen, zoals televisiepresentatoren, is het niet per se een juiste weerspiegeling van hoe verslaggevers of journalisten zich over het algemeen kleden.

Stedenbouw

Wie heeft de vreemde fouten in de afbeelding gemaakt? Afbeelding 4 — De afbeeldingen zijn standaard allemaal in de stad geplaatst, hoewel er geen geografische referentie is. Foto: IJN

Hoewel er geen locatie of geografische context wordt gespecificeerd, bevatten de door de AI geretourneerde beelden stedelijke ruimtes zoals wolkenkrabbers of drukke straten. Dit is niet waar, aangezien iets meer dan de helft van de wereldbevolking in steden woont.

Verouderd

Mensen die in de media werken, werken vaak met ouderwetse technologieën zoals typemachines, printers en oude camera's.

Omdat veel professionals er tegenwoordig hetzelfde uitzien, lijkt AI gebruik te maken van meer gedifferentieerde technologieën (waaronder verouderde en ongebruikte technologieën) om de beschreven rollen duidelijker te maken.

Dus als je je eigen AI-beelden maakt, houd dan rekening met mogelijke vooroordelen bij het schrijven van beschrijvingen. Anders versterk je mogelijk onbedoeld schadelijke stereotypen die de maatschappij al decennialang probeert te ontkrachten.

Hoang Ton (volgens IJN)

Bron