Jak identifikovat podvody zneužívající technologii Deepfake.

Deepfakes jsou nyní velkým problémem, protože počet podvodů využívajících tuto technologii neustále roste.

Po prozkoumání fór na darknetu, kde kyberzločinci často působí, bezpečnostní experti zjistili, že tolik zločinců používá software Deepfake k podvodům, že poptávka po něm daleko převyšuje nabídku softwaru Deepfake, který je v současné době na trhu k dispozici.

Vzhledem k tomu, že poptávka převyšuje nabídku, experti společnosti Kaspersky předpovídají nárůst podvodů Deepfake se stále rozmanitějšími a sofistikovanějšími metodami: od poskytování vysoce kvalitních videí s vydáváním se za osoby jiné než osoby až po používání obrázků celebrit ve falešných živých streamech na sociálních sítích se slibem zdvojnásobení množství těchto videí, které oběti zašlou.

Podle informačního referenčního systému Regula se 37 % podniků po celém světě setkalo s podvody Deepfake využívajícími hlasové komunikace a 29 % se stalo obětí podvodů Deepfake využívajících video komunikaci.

Tato technologie se stala hrozbou pro kybernetickou bezpečnost Vietnamu, kde kyberzločinci často používají falešné videohovory, aby se vydávali za jiné osoby a půjčili si peníze od jejich příbuzných a přátel.

Deepfake videohovor může trvat pouhou minutu, což obětem velmi ztěžuje rozlišení mezi skutečným a falešným hovorem.

Deepfakes se postupně stávají „noční můrou“ sofistikovaných online podvodů.

„ Deepfakes se staly noční můrou pro ženy a společnost. Kyberzločinci zneužívají umělou inteligenci (AI) k vkládání tváří obětí na pornografické obrázky a videa, a také v propagandistických kampaních.“

„Tyto formy manipulace si kladou za cíl ovládat veřejné mínění šířením dezinformací, a dokonce poškozovat pověst organizací nebo jednotlivců, “ uvedla paní Vo Duong Tu Diem, regionální ředitelka společnosti Kaspersky Vietnam.

Přestože je umělá inteligence zneužívána zločinci k nekalém účelům, jednotlivci i firmy mohou stále využívat umělou inteligenci k identifikaci deepfakes, čímž snižují pravděpodobnost úspěšných podvodů.

Uživatelé budou mít proto k dispozici několik užitečných řešení, jak se chránit před podvody, například pomocí softwaru pro detekci obsahu generovaného umělou inteligencí (který využívá pokročilé algoritmy k analýze a určení rozsahu úprav obrázků/videí/zvuku).

Pro deepfake videa nyní existují nástroje, které pomáhají identifikovat nesourodé pohyby mezi ústy a řečí. Některé programy jsou dokonce dostatečně „výkonné“ na to, aby detekovaly abnormální průtok krve pod kůží analýzou rozlišení videa, protože když srdce pumpuje krev, žíly v těle mění barvu.

Vodoznaky navíc slouží jako identifikační znaky v obrázcích, videích atd., což pomáhá autorům chránit autorská práva k jejich produktům s umělou inteligencí. Tato funkce se může stát zbraní proti deepfakes, protože pomáhá vysledovat původ platformy, která umělou inteligenci vytvořila. Technicky zdatní uživatelé mohou najít způsoby, jak vysledovat zdroj obsahu a porovnat, jak umělá inteligence upravila původní data.

V současné době některé nově vznikající technologie používají šifrovací algoritmy k vkládání hash hodnot v nastavených časových intervalech do videa. Pokud bylo video upraveno, hash hodnota se změní, což uživatelům umožňuje ověřit, zda byl obsah pozměněn.

Dříve existovaly určité pokyny pro vyhledávání anomálií ve videích, jako je zkreslení barev, nepřirozené pohyby svalů, pohyby očí atd. S rostoucí inteligencí umělé inteligence však tyto hodnoty ne vždy poskytují přesné výsledky.

Proces ověřování důvěryhodnosti videí se již nespoléhá na vizuální kontrolu, ale vyžaduje technologické nástroje určené k prevenci a detekci falešného obsahu.

Khanh Linh

Zdroj