 |
De kwestie van AI-rommel wordt steeds controversiëler. Foto: SCMP . |
Een recente golf van straatinterviews met vrouwen in bikini heeft geleid tot obscene reacties. De content is volledig door AI gegenereerd en ontworpen om algoritmes voor de gek te houden met cijfers en de aandacht te trekken met seksistische beelden.
Realistisch ogende video's worden massaal geproduceerd door goedkope AI-tools, simpelweg door een simpele beschrijving in te typen. Daarachter schuilt een kleine industrie die AI gebruikt om grote aantallen video's te maken en interacties te genereren om betaald te worden door het platform.
Onderzoekers van het Franse persbureau Agence France-Presse volgden honderden van dergelijke video's op Instagram. Veel van de situaties, waaronder kleedkamers en schaars geklede vrouwelijke verslaggevers die interviews afleggen op straat in India en het Verenigd Koninkrijk, hebben geleid tot bezorgdheid over de veiligheid van vrouwen.
In verschillende Hindi-video's zijn jongemannen te zien die terloops seksistische grappen maken en zelfs vrouwen aanraken, terwijl mannen op de achtergrond staren of lachen.
Veel video's hebben tientallen miljoenen views getrokken, waarvan sommige hun populariteit hebben gebruikt om geld te verdienen door chat-apps voor volwassenen te promoten. Tegelijkertijd raakten kijkers soms in de war, reageerden ze en trokken ze de realiteit van de content die ze bekeken in twijfel. Volgens een analyse van het Amerikaanse cybersecuritybedrijf GetReal Security zijn sommige video's gemaakt met Veo 3, de realistische AI-generator van Google.
"Dit is onderdeel van de gendergerelateerde schade die door AI-gemedieerde technologie wordt veroorzaakt", aldus Nirali Bhatia, een cyberpsycholoog in India, die benadrukte dat de trend "een seksistische ideologie voedt".
 |
Video's van vrouwen gemaakt door AI. Foto: Internet. |
Deze trend weerspiegelt ook een internetlandschap dat steeds meer vervuild raakt door door AI gegenereerde video's en afbeeldingen die om aandacht strijden. Vrouwen zijn ook een instrument voor engagement geworden. Veel virale video's tonen vrouwen die mannen uitbuiten voor geld of sensationeel doen over de vrouwelijke zwemmer die door een orka wordt aangevallen.
Vorig jaar ontdekte Alexios Mantzarlis, directeur van het Security, Trust, and Safety Initiative bij Cornell Tech, 900 Instagram-accounts die waarschijnlijk toebehoorden aan door AI gegenereerde 'modellen'. De meeste accounthouders waren vrouwen en droegen vaak weinig verhullende kleding.
Samen hebben de nepaccounts 13 miljoen volgers en meer dan 200.000 afbeeldingen gepost. De mensen achter de accounts verdienen vaak geld door hun publiek door te verwijzen naar commerciële platforms om content te delen.
Gezien de prevalentie van AI-fakes online, zegt Mantzarlis dat de aantallen waarschijnlijk veel hoger zullen liggen. "We gaan veel meer onzinnige content zien die lichaamsnormen misbruikt die niet alleen onrealistisch, maar ook volkomen onjuist zijn", voorspelt hij.
Op YouTube en TikTok hebben veel makers ook betaalde cursussen geopend waarin ze leren hoe je inkomsten kunt genereren met AI-content. Veel platforms zoals Meta hebben de moderatie van content teruggeschroefd. YouTube is daarentegen agressiever geworden en heeft de mogelijkheid om inkomsten te genereren met AI-video's uitgeschakeld.
"AI heeft vrouwenhaat niet uitgevonden, het heeft alleen maar weerspiegeld en versterkt wat al bestond", aldus Divyendra Jadoun, AI-consultant. Hij gelooft dat algoritmes en de verspreiding van AI zullen voortduren zolang het publiek met deze content blijft interacteren.
Bron: https://znews.vn/su-that-sau-nhung-video-phong-van-phu-nu-mac-bikini-phan-cam-post1581980.html
Reactie (0)