Odborníci varují před umělou inteligencí, která vytváří stereotypní a přehnané obrazy.

Když hledáte obrázky na téma chudoby, můžete najít spoustu fotek otrhaných afrických dětí, asijských dětí plavajících v řekách plných odpadků... vytvořených umělou inteligencí.

Produkty umělé inteligence: Rasismus a předsudky

Podle globálních zdravotnických expertů zaplavují online fotoarchivy snímky generované umělou inteligencí s tématy, jako je chudoba, děti a oběti sexuálního násilí, a nevládní organizace je stále častěji používají. Odborníci varují, že by to mohlo signalizovat „novou éru kultury vykořisťování chudoby“.

„Tyto snímky odrážejí standardní pohled na chudobu – děti držící prázdné misky, popraskaná země… velmi stereotypní,“ řekl Arsenij Aleničev, výzkumník z Ústavu tropické medicíny v Antverpách, který studuje tvorbu snímků globálního zdraví .

Pan Aleničev shromáždil více než 100 obrázků extrémní chudoby vygenerovaných umělou inteligencí, které jednotlivci nebo nevládní organizace použili v kampaních na sociálních sítích proti hladu a sexuálnímu násilí.

Snímky, které sdílel s deníkem Guardian, ukazují přehnané, stereotypní scény: děti choulené v kalužích bláta; africkou dívku ve svatebních šatech se slzami stékajícími po tváři. V nedávném komentáři publikovaném v časopise Lancet Global Health argumentoval, že snímky představují „chudobnou pornografii verze 2.0“.

Snímek obrazovky zobrazující obrázek „chudoby“ vygenerovaný umělou inteligencí na webové stránce s fotografiemi. (Foto: Freepik)

Pan Aleničev a mnoho dalších odborníků tvrdí, že používání obrázků s umělou inteligencí se zvyšuje kvůli obavám o autorská práva a náklady. Rozpočtové škrty americké vlády pro nevládní organizace problém ještě zhoršily.

„Je zřejmé, že mnoho organizací začíná uvažovat o používání obrázků s umělou inteligencí namísto skutečných fotografií, protože je to levné. Také se nemusíte starat o autorská práva a spoustu dalších věcí,“ řekl.

Je zodpovědnost na uživateli, nebo na platformě?

Snímky chudoby generované umělou inteligencí se objevují na desítkách fotografických webů, včetně Adobe Stock Photos a Freepik. Mnohé z nich jsou opatřeny popisky: „surrealistické dítě v uprchlickém táboře“; „asijské děti plavou v řece plné odpadků“; „bílý dobrovolník poskytuje lékařské rady černým dětem v africké vesnici“; a další. Společnost Adobe prodává práva na poslední dva snímky na tomto seznamu za přibližně 60 liber.

„Tyto fotografie jsou očividně rasistické a neměly by být zveřejněny, protože představují nejhorší stereotypy o Africe, Indii nebo o čemkoli, co si jen dokážete představit,“ řekl Aleničev.

Joaquín Abela, generální ředitel společnosti Freepik, uvedl, že odpovědnost za používání takových extrémních obrázků nesou uživatelé, nikoli platformy, jako je ta jeho. Podle jeho názoru jsou fotografie s umělou inteligencí vytvářeny globální komunitou uživatelů, kteří mohou dostávat licenční poplatky, když se zákazníci Freepiku rozhodnou koupit jejich fotografie.

Freepik se snažil omezit předsudky, které se vyskytují ve jeho fotobankách, „vnášením diverzity“. Zároveň se snaží zajistit genderovou vyváženost ve fotografiích právníků a vedoucích pracovníků.

Ale říká, že jeho platforma toho dokáže jen omezeně. „Je to jako snažit se vysušit oceán. Snažili jsme se o to, ale realita je taková, že pokud klienti po celém světě chtějí, aby jejich obrázky vypadaly určitým způsobem, nikdo s tím absolutně nic nenadělá.“

Obrázek generovaný umělou inteligencí z kampaně charitativní organizace Plan International proti dětským sňatkům z roku 2023, která si klade za cíl chránit „soukromí a důstojnost dívek“. (Foto: Plan International)

Mnoho prestižních organizací, dokonce i Organizace spojených národů, použilo obrázky generované umělou inteligencí.

Organizace spojených národů loni zveřejnila na YouTube video s „rekonstrukcemi“ sexuálního násilí, včetně svědectví burundské ženy, která popisuje, jak ji v roce 1993 tři muži znásilnili a nechali zemřít. Obsah byl kompletně vygenerován umělou inteligencí. Video bylo odstraněno poté, co deník Guardian kontaktoval OSN s žádostí o rozhovor.

Mluvčí OSN později vysvětlil, proč bylo video staženo. „Domníváme se, že video bylo nesprávně vygenerováno umělou inteligencí a může představovat riziko pro integritu informací, protože mísí skutečné záběry s umělým obsahem, který se jeví jako skutečný.“

Produkty generované umělou inteligencí jsou již dlouho považovány za napodobeniny, které někdy zveličují pravdu. Pan Aleničev uvedl, že šíření těchto zkreslených obrázků by mohlo problém zhoršit, protože obrázky se mohou šířit po obrovském internetu a používat k trénování další generace umělé inteligence.

Mluvčí organizace Plan International uvedl, že tato nevládní organizace v současné době „nedoporučuje používat umělou inteligenci k zobrazování dětí“.

Minh Hoan

Zdroj: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html