Jak identifikovat podvody, které zneužívají Deepfake

Deepfake je nyní velkým problémem, protože počet podvodů založených na technologiích neustále roste.

Po průzkumu fór na darknetu, kde kyberzločinci často operují, bezpečnostní experti zjistili, že Deepfake k podvodům používá tolik zločinců, že poptávka po něm daleko převyšuje nabídku softwaru Deepfake, který je v současné době na trhu.

Odborníci společnosti Kaspersky předpovídají, že vzhledem k převyšující poptávce nabídku se počet podvodů Deepfake bude zvyšovat a budou mít rozmanitější a sofistikovanější formy: od nabízení vysoce kvalitního videa s vydáváním se za někoho jiného až po používání obrázků celebrit ve falešných živých streamech na sociálních sítích se slibem dvojnásobné částky, kterou jim oběť poslala.

Podle informačního referenčního systému Regula se 37 % podniků po celém světě setkalo s hlasovým podvodem Deepfake a 29 % se stalo obětí videí Deepfake.

Tato technologie se stala hrozbou pro kybernetickou bezpečnost ve Vietnamu, kde kyberzločinci často používají falešné videohovory, aby se vydávali za jiné osoby a půjčili si peníze od jejich příbuzných a přátel.

Deepfake videohovor může trvat jen minutu, což obětem ztěžuje rozlišení mezi skutečným a falešným.

Deepfake se postupně stává „noční můrou“ v sofistikovaných online podvodech.

„ Deepfake se stal noční můrou pro ženy a společnost. Kyberzločinci zneužívají umělou inteligenci (AI) k vkládání tváří obětí do pornografických fotografií a videí, stejně jako v propagandistických kampaních.“

„Cílem těchto forem je manipulovat s veřejným míněním šířením nepravdivých informací, a dokonce poškozovat pověst organizací nebo jednotlivců, “ uvedla paní Vo Duong Tu Diem, regionální ředitelka společnosti Kaspersky pro Vietnam.

Přestože je umělá inteligence zneužívána zločinci ke zlým účelům, jednotlivci i firmy mohou stále používat samotnou umělou inteligenci k identifikaci deepfakes, čímž snižují pravděpodobnost úspěchu podvodů.

Uživatelé budou mít proto k dispozici některá užitečná řešení, jak se chránit před podvody, jako je například používání softwaru pro detekci obsahu generovaného umělou inteligencí (využívá pokročilé algoritmy k analýze a určení úrovně úprav obrázků/videí/zvuků).

Pro deepfake videa existují nástroje, které dokáží detekovat nesourodé pohyby úst a řeči. Některé programy jsou dokonce dostatečně výkonné, aby detekovaly abnormální průtok krve pod kůží analýzou rozlišení videa, protože lidské žíly mění barvu, když srdce pumpuje krev.

Kromě toho existuje také vodoznak, který slouží jako identifikační znak v obrázcích, videích atd. a pomáhá autorům chránit autorská práva k produktům s umělou inteligencí. Tato funkce se může stát zbraní proti Deepfake, protože pomáhá sledovat původ platformy, která vytváří umělou inteligenci. Uživatelé s určitou úrovní technologických znalostí mohou najít způsob, jak sledovat původ obsahu a porovnat, jak byla původní data upravena „rukou“ umělé inteligence.

V současné době některé nově vznikající technologie používají šifrovací algoritmy k vkládání hash hodnot v nastavených časových intervalech do videa. Pokud bylo video upraveno, hash hodnota se změní a uživatelé si tak mohou ověřit, zda byl obsah pozměněn, či nikoli.

V minulosti existovalo několik tutoriálů o hledání anomálií ve videích, například barevných odchylek, nepřirozených pohybů svalových skupin, očí... Umělá inteligence je však stále chytřejší, takže tyto hodnoty ne vždy dávají správné výsledky.

Proces ověřování spolehlivosti videí již není založen na pouhém oku, ale vyžaduje technologické nástroje vytvořené za účelem prevence a detekce falešného obsahu.

Khanh Linh

Zdroj