Boj proti Deepfake, kdy se umělá inteligence stává zároveň „zbraní“ i „štítem“
Ve věku umělé inteligence už konfrontace mezi kyberzločinci a bezpečnostními společnostmi není jen technologickým závodem, ale snahou o znovuzískání důvěry narušené stále sofistikovanějším falešným obsahem.
Když to, co vidíte a slyšíte, už není důvěryhodné.
Ještě před pár lety mohli uživatelé identifikovat deepfakey podle poměrně „hrubých“ znaků, jako jsou nepřirozené výrazy obličeje, nesourodé pohyby úst nebo neobvyklé pohyby očí. Tyto metody se však s rozvojem technologie umělé inteligence rychle staly zastaralými.
V současné době dokáže umělá inteligence reprodukovat obrazy a hlasy s velmi vysokou přesností, a dokonce simulovat jemné vibrace lidského hlasu. V experimentu novinářky Gaby Del Valleové vytvořil systém umělé inteligence falešnou verzi, která dokázala téměř přesvědčivě udržet konverzaci.
V každodenním životě může intuice stále pomáhat lidem odhalit anomálie. Na pracovišti nebo při finančních transakcích – kde se informace zpracovávají rychle a čas je klíčový – se však tyto podezřelé signály snadno přehlédnou, což zvyšuje riziko podvodu.
Deepfake se již neomezují pouze na online zábavní obsah; kyberzločinci je nyní zneužívají k organizovaným podvodům. Mohou shromažďovat veřejně dostupná data na sociálních sítích, aby si vytvořili „hlasovou banku“ zaměstnanců ve firmě, a poté pomocí umělé inteligence vydávat se za vedoucí pracovníky nebo kolegy a telefonovat s žádostmi o převod peněz.
Škody způsobené těmito incidenty jsou značné. Každý deepfake podvod může firmy stát stovky tisíc dolarů. Znepokojivé je, že tyto scénáře často zneužívají pocit naléhavosti oběti – například vydávání se za milovanou osobu s žádostí o pomoc – což ji nutí velmi rychle zpomalit.
„Hašení ohně ohněm“ s využitím umělé inteligence
Aby se s tím vypořádali, mnoho bezpečnostních startupů volí opačný přístup: k detekci deepfaků využívá samotnou umělou inteligenci.
Jedním z běžných přístupů je model „učitel-učeň“ ve strojovém učení. Systém je trénován s využitím velkého množství reálných i falešných dat, aby se naučil identifikovat technické stopy, které lidé pouhým okem nevidí.
Tento přístup vytváří nepřetržitou smyčku: s tím, jak se deepfake stávají sofistikovanějšími, je nutné neustále vylepšovat detekční systémy, aby s nimi držely krok. Zdá se tedy, že závod nemá konce.
Výzva však spočívá v tom, že náklady na vytváření falešného obsahu se díky širokému používání modelů umělé inteligence stávají stále levnějšími, zatímco detekce a obrana vyžadují podstatně více zdrojů.
Jedním z nových přístupů je zavedení standardů pro ověřování původu obsahu, které uživatelům pomohou zjistit, odkud data pocházejí a zda byla upravena. Toto řešení však stále čelí riziku padělání, pokud neexistuje důkladný systém ověřování.
V dlouhodobém horizontu se předpokládá, že nástroje pro detekci deepfake se stanou výchozí vrstvou ochrany, integrovanou přímo do prohlížečů, digitálních platforem nebo internetové infrastruktury – podobně jako dnes hraje antivirový software.
Zdroj: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm
Komentář (0)