Pravda o fotce „Nám čtyřem je 90 let“

Obrázky/videa generované umělou inteligencí přitahují na sociálních sítích desítky tisíc interakcí, což vede k tomu, že si je mnoho lidí plete se skutečnými obrázky/videi.

Obrázky generované umělou inteligencí přitahují na Facebooku tisíce interakcí.

„Jsme čtyři sestry, dnes nám je 90 let, čekáme na vaše gratulace.“ Popisek byl doplněn kolážovou fotografií, na které jsou čtyři malé holčičky nahoře a čtyři staré dámy dole, všechny s úsměvem na tvářích, a přilákal více než 45 000 lajků, téměř 9 000 komentářů a více než 500 sdílení.

Níže je mnoho příspěvků, které blahopřejí čtyřem „staříkům“ ke zdraví a chválí jejich krásu. Jedná se však o kresbu vytvořenou umělou inteligencí. Účet, který ji sdílel, tento obrázek sám ani nevytvořil, ale převzal jej ze zahraničního zdroje.

Díky vývoji nástrojů umělé inteligence, jako jsou Copilot, Midjourney nebo DALL-E, mohou uživatelé vytvářet vysoce realistické snímky pouze jedním příkazem.

Není těžké najít obrázky generované umělou inteligencí na sociálních sítích. Obrázky často obsahují témata rodiny a života, apelují na emoce a přitahují mnoho interakcí.

Navzdory jejich širokému rozšíření není pro každého snadné rozlišit mezi obrázky generovanými umělou inteligencí a běžnými obrázky. Kromě pouhého „lajkování“ může být tento obsah zneužit ke škodlivým účelům, jako je vydávání se za jinou osobu a šíření falešných zpráv.

Nástroj „Jako rybaření“ na sociálních sítích

Na Facebooku, Instagramu nebo X mohou uživatelé snadno narazit na obrázky/ videa vytvořená umělou inteligencí. Obsah jako „jsme 4 sestry“ nebo „tato dívka nakreslila portrét svého zesnulého otce, ale nikdo ji nepodpořil“... přitahuje desítky tisíc interakcí a tisíce komentářů.

Obrázky se týkají hlavně rodiny, lásky, smutku... Většina komentářů vyjadřovala soucit s příspěvkem, většina z nich nepoznala, že obrázek vytvořila umělá inteligence. Mnoho účtů, které příspěvek zveřejnily, to také jasně neuvedlo.

Některé obrázky generované umělou inteligencí jsou na Facebooku zaměňovány za skutečné fotografie.

Podle odborného recenzenta Le Cong Minh Khoi se na Facebooku stále častěji objevuje obsah s umělou inteligencí. Mnoho příspěvků je platformou doporučováno s vysokou mírou zapojení, ale většina z nich není jasně označena jako vytvořené umělou inteligencí.

„Lidé s malým kontaktem s technologiemi ten rozdíl sotva poznají. Tisíce komentářů pod příspěvkem jsou jen soucitné, třeba ‚tak dojemné‘.“

„Umělá inteligence pokročila do bodu, kdy některé nové modely dokáží opravit běžné chyby, jako jsou ruce a zuby. Sám musím obrázky znovu kontrolovat. Bez notifikačních štítků umělé inteligence by je uživatelé téměř nedokázali rozpoznat,“ sdělil pan Khoi.

Podle průzkumu zveřejněného v březnu 2024 Univerzitou ve Waterloo (Kanada) dokázalo pouze 61 % z 260 účastníků průzkumu rozlišit mezi fotografiemi lidí generovanými umělou inteligencí a fotografiemi skutečných lidí, což je méně, než očekávali výzkumníci (85 %).

Některý obsah generovaný umělou inteligencí přitahuje desítky tisíc interakcí.

Jako člověk, který pravidelně pracuje na sociálních sítích, pan Khoi poznamenal, že obrázky/videa vytvořené umělou inteligencí jsou zneužívány ke zvýšení počtu zhlédnutí, interakcí nebo dokonce k páchání podvodů.

„Obsah s umělou inteligencí může snadno způsobit, že diváci budou psychologicky manipulováni, budou věřit věcem, které nejsou pravdivé, a dokonce je mohou zlákat k nákupu nekvalitních produktů nebo k víře v upravené reklamy, konspirační teorie...,“ dodal pan Khoi.

Studie zveřejněná v květnu 2024 společnostmi Google a Duke University (USA) dokonce ukázala, že mezi formami šíření dezinformací je popularita obrázků s umělou inteligencí téměř stejná jako popularita textu a běžných upravených fotografií.

Jak rozlišit obrázky generované umělou inteligencí?

Kvalita obrázků generovaných umělou inteligencí se neustále zlepšuje, takže je těžké je odlišit od skutečných fotografií. Uživatelé se však při pozorném pohledu stále mohou spolehnout na některé detaily.

Umělá inteligence často generuje obrázky na základě dat z jiných obrázků, takže nástroje mohou mít potíže s méně proškolenými detaily.

Podle bezpečnostního experta Ngo Minh Hieu jsou ruce a prsty pozoruhodnými detaily, protože umělá inteligence má často potíže s jejich napodobením, což vede k obrázkům s nadbytečnými nebo deformovanými prsty.

Obrázek herce Ryana Reynoldse vygenerovaný umělou inteligencí. Foto: @joinrealmai/X .

Vezměte si tuto fotku Ryana Reynoldse. I když je většina z ní realistická, prsty na Reynoldsově pravé ruce mají nepřirozený tvar. Text na jeho bundě je také zcela bezvýznamný. To je jasné znamení, že obrázek vytvořila umělá inteligence, protože ta dosud nevytvořila přesný text ani loga.

Dále je možné sledovat světelné a stínové efekty v obrázku. Pokud je úhel osvětlení nebo stínu neobvyklý, je pravděpodobné, že obrázek byl generován umělou inteligencí.

U obsahu, který sdílí stejný kontext, by uživatelé měli zkontrolovat duplicitní údaje, protože umělá inteligence má často potíže s generováním zcela odlišných prvků.

Podle BBC je to příklad „příliš dokonalé“. Obrázek zpěvačky Ariany Grande níže vypadá velmi realisticky, ale když se podíváte pozorně, uvidíte, že její obličej je příliš hladký, takže fotografie je velmi ostrá. Uspořádání plameňáků v pozadí také není dobré.

Obrázek zpěvačky Ariany Grande vygenerovaný umělou inteligencí. Foto: @agswaffle/Instagram .

Pokud je obsah ve formátu videa, je třeba zkontrolovat například pohyby rtů, které nemusí odpovídat řeči, mrkání očí, které se jen zřídka nebo je nepřirozené, rozmazanou texturu pleti...

A konečně, pokud si stále nejste jisti ohledně obličeje, ruky nebo osvětlení, měli byste provést zpětné vyhledávání na Googlu a podobných nástrojích, abyste určili zdroj.

„Pokud máte pochybnosti o pravosti obrázku, můžete použít zpětný vyhledávač a zkontrolovat, zda se obrázek již někde jinde neobjevil,“ dodal pan Hieu.