Případ vydávání se za Putina

Nedávný incident zfalšování obrazu a hlasu ruského prezidenta Vladimira Putina pomocí technologie deepfake vyvolal poplach ohledně nového typu „zbraně“ v konfliktu na Ukrajině.

Ruský prezident Vladimir Putin. (Zdroj: Reuters)

Kreml vydal 5. června naléhavé prohlášení, v němž uvedl, že videoklip ruského prezidenta Vladimira Putina vysílaný v mnoha rozhlasových a televizních stanicích v oblastech hraničících s Ukrajinou je deepfake vytvořený hackery.

Falešné video, skutečný dopad

V projevu hlas ruského prezidenta Vladimira Putina, vytvořený pomocí deepfake technologie, oznámil, že v ruských oblastech Belgorod, Voroněž a Rostov byl vyhlášen stav nouze kvůli nadcházejícím útokům ukrajinských sil. Falešný Putin také vyzval obyvatele těchto oblastí, aby evakuovali své domovy a hledali útočiště hlouběji v Rusku.

Deepfake je technologie, která využívá umělou inteligenci (AI) k přenesení obrazu a hlasu osoby do videa jiné osoby. Technologie Deepfake shromažďuje obraz obličeje subjektu a poté tento obličej ve videu nahrazuje obličejem jiné osoby. V případě zvukových souborů deepfake používá hlasovou nahrávku skutečné osoby k naučení počítače mluvit přesně jako daná osoba.

Rádio Mir , jedna ze stanic zasažených útokem, uvedlo, že incident trval asi 40 minut. Mezitím se na sociálních sítích začaly šířit i televizní klipy z falešného Putinového videa. K incidentu se zatím nepřihlásila žádná osoba ani organizace.

Poté, co se klip stal virálním, mluvčí Kremlu Dmitrij Peskov prohlásil, že vyhlášení stanného práva bylo dílem hackerů.

„Rozhodně se nekoná (vyhlášení stanného práva). V některých oblastech skutečně došlo k hackerskému útoku. Bylo mi řečeno, že k hackerskému útoku došlo i v Rádiu Mir a na některých dalších kanálech. Všichni hackeři byli nyní eliminováni a informační kanály jsou opět pod kontrolou,“ řekl Dmitrij Peskov ruské tiskové agentuře TASS.

List Kyiv Post také informoval, že administrativní centrum Belgorodské oblasti označilo videozprávu za deepfake, jehož cílem je „šířit strach mezi pokojnými obyvateli Belgorodu“.

Hanna Ljubakovová, běloruská novinářka a nerezidentní členka Atlantické rady, sdílela televizní klip ukazující falešný obraz pana Putina.

Datový vědec Arsenij Chachalin, expert na umělou inteligenci (AI), při hodnocení incidentu uvedl, že tento hack by mohl být typickým příkladem použití deepfake k vyzbrojení v rusko-ukrajinském konfliktu.

Není to však poprvé, co byla v tomto konfliktu použita technologie deepfake. V prvních týdnech ruské speciální vojenské operace v únoru 2022 bylo zveřejněno deepfake video ukrajinského prezidenta Volodymyra Zelenského. V tomto deepfake videu pan Zelenskyj zřejmě vyzývá své vojáky, aby složili zbraně a vzdali se. Video bylo rychle odstraněno, ale na sociálních sítích se již široce rozšířilo.

V propagandě má technologie deepfake přesvědčivý vojenský nebo politický efekt, je to zbraň, která může mít obrovský dopad. (Zdroj: socialmediasafety)

Nová populární zbraň

Plukovník Philip Ingram, bývalý důstojník britské vojenské rozvědky a tvůrce politiky Severoatlantické aliance (NATO), v rozhovoru pro časopis Politico Europe o Putinově imitaci uvedl, že deepfake příspěvky údajně vytvořené ze skutečných čísel představují rostoucí riziko ve světě ovlivněném umělou inteligencí.

Podle této osoby přináší technologie deepfake v propagandě přesvědčivé vojenské nebo politické efekty, jedná se o zbraň, která může mít obrovský dopad.

„Mám podezření, že se jedná o novou zbraň hromadného ničení,“ dodal plukovník Philip Ingram. Jako příklad uvedl situaci před několika týdny, kdy se na Twitteru stala virální falešná fotografie bombardování Pentagonu, která způsobila propad akciového trhu o 500 miliard dolarů, než se zotavil.

Profesor Hany Farid z Kalifornské univerzity v Berkeley (USA), expert na digitální média, varoval, že by lidé neměli být překvapeni takovými věcmi v současném kontextu, kdy lidé vytvářejí a nasazují nástroje k manipulaci s realitou v kombinaci s mediálními kanály, jako je televize, rádio, internet..., které mohou okamžitě ovlivnit miliardy dolarů. Mnoho agentů s různými účely tyto technologie zneužívá.

„To platí zejména v době, kdy se naši regulátoři nesnažili poskytnout technologickému sektoru odpovídající ochranu, zatímco Silicon Valley nadále rychle roste a narušuje svět,“ zdůraznil profesor Hany Farid.

Zdroj