Deepfake o válce v Gaze vyvolává obavy ohledně umělé inteligence

Obrázky, které si online prohlédly miliony lidí, jsou deepfakes vytvořené pomocí umělé inteligence. Pokud se podíváte pozorně, můžete vidět varovné signály: podivně zakřivené prsty nebo oči, které září nepřirozeným světlem.

Pobouření, které tyto deepfake snímky vyvolávají, je však skutečné.

Fotografie z války mezi Izraelem a Hamásem živě a bolestně ilustrují nebezpečí umělé inteligence jako nástroje propagandy, používaného k vytváření realistických obrazů.

Od začátku bojů minulý měsíc se na sociálních sítích šíří digitálně upravené fotografie, které se používají k vytváření falešných tvrzení o odpovědnosti za oběti nebo k uvedení lidí v omyl ohledně zvěrstev, která se nikdy nestala.

Deepfake snímky z války v Gaze vyvolávají nové obavy (obrázek 1) — Palestinec sbírá své věci z trosek v Gaze. Foto AP.

Technologický pokrok se děje stále častěji a s malým dohledem. To jasně ukazuje riziko, že se umělá inteligence stane další formou zbraně, a nabízí včasný pohled na to, co se stane v budoucích konfliktech, volbách a dalších významných událostech.

„Než se to zlepší, bude to mnohem horší,“ řekl Jean-Claude Goldenstein, generální ředitel společnosti CREOpoint, technologické společnosti se sídlem v San Franciscu a Paříži, která využívá umělou inteligenci k posuzování platnosti online stížností.

Jeho společnost sestavila databázi nejvirálnějších deepfake obrázků z Gazy. „Obrázky, videa a zvuk: s kreativní umělou inteligencí je to krok vpřed, jaký jste ještě neviděli,“ řekl.

Imran Ahmed, generální ředitel Centra pro boj proti digitální nenávisti, neziskové organizace, která sleduje dezinformace související s válkou, uvedl, že propagandisté, kteří takové snímky vytvářejí, jsou zkušení v cílení na nejhlubší impulsy a úzkosti lidí.

Čím děsivější obrázek, tím je pravděpodobnější, že si ho uživatelé zapamatují a budou ho sdílet, čímž neúmyslně šíří další dezinformace. Podobné dezinformace generované umělou inteligencí se skutečně začaly virálně šířit od rusko-ukrajinského konfliktu.

Každý nový konflikt nebo volební období představuje nové příležitosti pro šiřitele dezinformací. To vede mnoho expertů na umělou inteligenci a politologů k varování před riziky v nadcházejícím roce, kdy se v několika zemích, včetně Spojených států, Indie, Pákistánu, Ukrajiny, Indonésie a Mexika, budou konat významné volby.

Riziko, že by umělá inteligence a sociální média mohla být zneužita k šíření lží mezi americkými voliči, znepokojilo zákonodárce z obou stran ve Washingtonu. Na nedávném slyšení o nebezpečích technologie deepfake americký poslanec Gerry Connolly, demokrat za Virginii, uvedl, že USA musí investovat do financování vývoje nástrojů umělé inteligence určených k boji proti jiným umělým inteligencím.

Efektivní reakce na politické a sociální výzvy, které představují dezinformace generované umělou inteligencí, bude vyžadovat jak lepší technologie, tak i lepší regulaci, uvedl profesor David Doermann z University of Buffalo.

Mai Anh (podle AP)

Zdroj