Risikoen for, at AI-værktøjer bliver 'forudindtagede' over for mænd.

Forskning viser, at kvinder er i mindretal i forskningslaboratorier inden for kunstig intelligens (AI) og bruger AI mindre på arbejdspladsen end mænd, hvilket skaber adskillige risici, herunder en øget kønsbias.

Manglen på kvinder, der arbejder inden for AI-området, kan skabe kønsbias i AI-systemer.

ILLUSTRATIVT FOTO: NGOC LONG

AI er gradvist ved at blive et velkendt værktøj i dagligdagen verden over. Ifølge eksperter er der dog også en "dobbelt kønsforskel" ved at opstå, da antallet af kvinder involveret i udvikling af AI-systemer stadig er lavt, og antallet af kvinder, der aktivt bruger AI, endnu ikke er stort.

Specifikt viste en undersøgelse foretaget af Oliver Wyman Forum i 2024 blandt 25.000 arbejdere, at 59 % af mændene bruger AI-genereringsværktøjer mindst én gang om ugen sammenlignet med 51 % af kvinderne. I aldersgruppen 18-24 år er forskellen endnu større: 71 % versus 59 %. Ifølge rapporten "Global Gender Gap" offentliggjort af World Economic Forum anslås det, at kvinder kun udgjorde omkring 30 % af den globale AI-arbejdsstyrke i 2023.

I anledning af den internationale kvindedag den 8. marts præsenterer avisen Thanh Nien eksperters meninger om at mindske kønsforskellen i AI-æraen, sammen med uddannelsesmuligheder og stipendier til vietnamesiske piger og kvinder inden for STEM-områder ( videnskab , teknologi, ingeniørvidenskab, matematik).

Vigtigheden af ​​"hvem der bygger AI"

Ifølge Dr. Nguyen Thi Thuy, seniorlektor i AI ved RMIT University Vietnam, er AI og ligestilling mellem kønnene tæt forbundet, fordi AI-systemer lærer af data fra den virkelige verden – hvor der findes langvarige kønsuligheder. Uden deltagelse fra forskellige grupper for at identificere problemet tidligt, kan disse fordomme let blive rodfæstet i systemet og sprede sig yderligere.

"AI kan blive forudindtaget, når der ikke er nok kvinder involveret i design og test. Hvis udviklingsteamet overvejende består af mænd, kan de overse blinde vinkler, der påvirker kvinder," sagde hun.

Fru Thuy nævnte Amazons eksperimentelle rekrutteringsværktøj fra 2018 som et eksempel. Trænet i jobansøgninger i teknologibranchen – en sektor domineret af mænd i mange år – lærte værktøjet automatisk at sænke scoren på ansøgninger, der indeholdt søgeord relateret til "kvinders", såsom "kvinders skakklubkaptajn", "uddannet fra en pigeskole" og stærke verber, der typisk findes i mandlige ansøgninger.

Amazon stoppede med at bruge dette værktøj efter at have opdaget biasen, men Dr. Thuy argumenterer for, at dette er et godt eksempel på, hvordan manglen på kvinder i design-, test- og gennemgangsprocesser kan tillade skjulte biaser at snige sig ind i AI-systemer og derefter blive forstærket.

Du vil måske også synes om

Pædagogikuniversitetet annoncerer nye hovedfag og uddannelsesprogrammer.HNN.VN - Om eftermiddagen den 4. juni afholdt University of Education, Hue University, en ceremoni for at annoncere det fælles uddannelsesprogram for industriel ingeniørvidenskab med INSA Centre Val de Loire (Republikken Frankrig) og de bacheloruddannelser i teknisk fysik, der er blevet godkendt til optagelse og træning.

Ifølge Dr. Thuy består mange nuværende AI-udviklingsteams overvejende af mænd med nogenlunde lignende baggrunde, så de er måske ikke klar over, hvor uretfærdigt systemet behandler kvinder eller folk fra ikke-vestlige kulturer.

"Det er afgørende at have flere kvinder, især asiatiske kvinder, involveret i AI-feltet, fordi et mangfoldigt team bringer forskellige livserfaringer, perspektiver og kulturel forståelse med sig, hvilket hjælper med at opdage og korrigere potentielle bias, før de spreder sig," sagde hun med henvisning til risikoen for, at AI misrepræsenterer østasiatiske ansigtstræk eller skaber følsomme billeder af asiatiske kvinder...

Det andet aspekt er adgangsniveauet til AI. Socialantropolog Catherine Earl, lektor ved RMIT University Vietnam, advarer om, at forskelle i hyppigheden af ​​brugen af ​​AI kan føre til forskelle i muligheder. For hvis kvinder (især unge kvinder eller dem uden en universitetsgrad) bruger AI mindre, risikerer de at gå glip af nye karrieremuligheder.

For kvinder på arbejdspladsen kan AI forværre langvarige uligheder, såsom reduceret adgang til finansiering, forfremmelser eller andre karriereudviklingsmuligheder. En McKinsey-rapport fra 2025 om kvinder på arbejdspladsen fremhæver en række områder, hvor kvinder kan være dårligere stillet i forhold til mænd, og disse risici kan være dybt forankret i AI-systemer, tilføjede Earl.

Eksperter understreger, at tilstedeværelsen af ​​asiatiske kvinder i AI-udviklingsteams er afgørende for at afbøde køns- og racefordomme.

ILLUSTRATIVT FOTO: NGOC LONG

At bygge bro over kønsforskellen i AI'ens tidsalder

Ifølge Earl vil både piger og drenge, kvinder og mænd med tillid bruge AI i deres dagligdag, hvis skoler og arbejdspladser ser brugen af ​​AI som en obligatorisk færdighed, der skal implementeres bredt. "At lukke forskellen mellem mænd og kvinder i brugen af ​​AI på nuværende tidspunkt bør betragtes som en grundlæggende uddannelsesopgave," udtalte hun.

På arbejdspladsen mener fru Earl, at vietnamesiske virksomheder kan tage føringen i at udvikle politikker og praksisser, der fremmer inklusionen af ​​kunstig intelligens blandt kvindelige medarbejdere og ledere. "Sponsorering af kvindelige medarbejderes karriereudvikling baseret på grundlæggende kunstig intelligens-færdigheder vil bidrage til at skabe lige vilkår og reducere risikoen for kønsdiskrimination på arbejdspladsen," anbefalede hun.

I mellemtiden understregede Dr. Thuy vigtigheden af ​​at fremme kvinders deltagelse i AI-forskning og -udvikling. Løsningerne omfatter at tilbyde stipendier, karrierevejledning og lederudviklingsforløb for at tilskynde flere unge kvinder til at komme ind i branchen og avancere yderligere i deres karriere.

Du vil måske også synes om

Styrkelse af Nationalforsamlingens styringskomité for videnskabelig og teknologisk udviklingFormanden for Nationalforsamlingen, Tran Thanh Man, underskrev resolution nr. 278/NQ-UBTVQH16 om konsolidering af Nationalforsamlingens styringskomité for udvikling af videnskab, teknologi, innovation og digital transformation.

Faktisk promoveres disse løsninger kraftigt i Vietnam i samarbejde med mange parter. For eksempel har Saigon Children's Charity (Ho Chi Minh City) implementeret "PowHERful"-initiativet i mange år til gavn for tusindvis af kvindelige studerende over hele landet. For nylig uddannede dette initiativ 50 "talentfulde" kvindelige studerende og tillod dem at organisere STEM-oplevelsesdage på deres egne skoler for deres jævnaldrende med det mål at nå ud til 1.000 mennesker.

Ved hvert arrangement deltager eleverne i en række praktiske aktiviteter såsom logikbaserede tænkeudfordringsspil, praktisk samling og præsentation af STEM-modeller i grupper, deltagelse i STEM-vidensquizzer og netværk med fagfolk inden for området... "Tilgangen 'kvindelige studerende leder den næste generation' hjælper ikke kun eleverne med at gribe STEM an på en mere tilgængelig måde, men giver dem også mulighed for at udvikle selvtillid, lederevner og logisk tænkning," sagde en repræsentant for organisationen.

I mellemtiden har den britiske regering for nylig annonceret to stipendieprogrammer for vietnamesiske kvindelige studerende, der ønsker at tage en kandidatgrad i Storbritannien. Hvert stipendium er på mindst £40.000 (ca. 1,4 milliarder VND) og dækker studieafgifter, leveomkostninger, rejseomkostninger, visum, sygeforsikring og engelskundervisning. Derudover vil succesfulde ansøgere modtage adskillige ikke-økonomiske fordele, såsom muligheder for at komme i kontakt med eksperter inden for STEM-områder.

"Uddannelse er fundamentet for innovation og fremskridt, og støtte til kvinder inden for STEM-fag er nøglen til at opbygge en bedre og mere åben fremtid for alle," sagde James Shipton, direktør for British Council i Vietnam, om stipendieprogrammet "Women in STEM".

Kilde: https://thanhnien.vn/nguy-co-cong-cu-ai-thien-vi-nam-gioi-185260306110016291.htm