UNESCO: Nástroje umělé inteligence předpojaté vůči ženám

Mnoho z nejpopulárnějších nástrojů umělé inteligence (AI) na světě je poháněno programy, které jsou zaujaté vůči ženám a byly vyvinuty společnostmi OpenAI a Meta, uvádí nová studie zveřejněná Organizací spojených národů pro výchovu , vědu a kulturu (UNESCO) 7. března.

Největší společnosti v závodě umělé inteligence využívají obrovské množství dat z internetu k trénování svých algoritmů, známých jako modely velkých jazyků (LLM). UNESCO testovalo algoritmus Llama 2 od Mety a algoritmy GPT-2 a GPT-3.5 od OpenAI, které se používají v populární chatovací aplikaci ChatGPT. Testy zjistily, že oba vykazují jasné důkazy o zaujatosti vůči ženám.

Výsledky ukázaly, že texty týkající se ženských jmen generované těmito nástroji často obsahovaly slova jako „dům“, „rodina“ nebo „děti“, zatímco texty týkající se mužských jmen často obsahovaly slova jako „podnikání“, „plat“ nebo „kariéra“; muži byli často popisováni s povoláními, jako jsou učitelé, právníci, lékaři; zatímco ženy byly často spojovány s povoláními, jako je vaření, práce v domácnosti atd.

DO CAO

Zdroj