Deepfakes jsou na vzestupu, stačí biometrické ověřování v boji proti podvodům s umělou inteligencí?

Jen za poslední dva roky jsme byli svědky šíření falešných tváří, syntetických hlasů a kompletně zinscenovaných videohovorů, jejichž cílem je oklamat lidi, firmy a organizace.

Autentizace obličeje se ve Vietnamu používá velmi oblíbeně - Foto: QUANG DINH

Tváře, hlasy a dokonce i živé videohovory ... jsou zfalšovány tak přesvědčivě, že dokážou obejít tradiční bezpečnostní opatření.

Pan MILKO RADOTIC (viceprezident společnosti iProov pro asijsko- pacifický region)

Generativní umělá inteligence (AI) a deepfakes vedou nejen k dezinformacím, ale také k podvodům. Tyto nástroje umožňují zločincům vytvářet tisíce přesvědčivých falešných identit ve velkém měřítku, což jim umožňuje páchat stejný podvod opakovaně.

To je názor pana Milka Radotiće, viceprezidenta společnosti iProov – jednoho z předních světových poskytovatelů technologií biometrického ověřování –, který má na starosti asijsko- pacifický region, v rozhovoru pro Tuoi Tre.

* S ohledem na rozvoj umělé inteligence a jejích aplikací, jaké jsou podle vás nejděsivější hrozby, kterým budou vietnamští uživatelé v kyberprostoru v blízké budoucnosti čelit?

- Jedním z nejzávažnějších rizik, kterým Vietnam v blízké budoucnosti čelí, je podvod se syntetickou identitou. Na rozdíl od tradičních krádeží identity, kdy zločinci berou informace od skutečné osoby, podvodníci nyní používají k vytvoření zcela nové, neexistující identity údaje, jako je jméno, adresa nebo číslo občanského průkazu.

Tyto falešné identity pak mohou být použity k otevření účtů, žádostem o úvěr nebo převodům peněz přes hranice. Tuto hrozbu činí tak alarmující to, že je neuvěřitelně obtížné ji odhalit. Protože identita je „částečně skutečná“ a „částečně falešná“, dokáže obejít mnoho kontrol, které banky a platformy používají.

Pak je tu vzestup pokročilých technologií deepfake, které tak přesvědčivě zfalšují obličeje, hlasy a dokonce i živé videohovory, že dokáží obejít tradiční bezpečnostní opatření.

Pan Milko Radotić, viceprezident pro asijsko-pacifický region společnosti iProov

* Dokážou uživatelé rozlišit, zda je obsah (fotografie, video, článek...) generován umělou inteligencí?

- Realita je taková, že většina lidí to nedokáže. Náš výzkum v iProov zjistil, že 99,9 % účastníků nedokázalo rozpoznat deepfaky.

I pokročilé detekční nástroje s tím mají potíže. Při testování v reálném prostředí jsou automatizované nástroje pro detekci deepfake téměř o polovinu přesnější než v laboratorních podmínkách.

Například nástroj může zaznamenat obrázek vygenerovaný umělou inteligencí, ale zcela přehlédnout video se záměnou obličeje. Podobně systémy trénované na významných veřejných osobnostech mohou dobře fungovat s politiky nebo celebritami, ale bez větší digitální stopy se potýkat s běžnými lidmi.

Je to opravdu závod ve zbrojení, protože jakmile se zlepší detekce, podvodníci se okamžitě přizpůsobí.

* Jak můžeme zlepšit naši schopnost identifikovat hrozby ze strany umělé inteligence a deepfaků a bránit se jim, pane?

- Pro vietnamské uživatele je nejlepší obranou zdravý skepticismus. Pokud máte pocit, že něco není v pořádku, i když právě hovoříte se svým šéfem, bankou nebo rodinou, pozastavte hovor a ověřte si to prostřednictvím jiného důvěryhodného kanálu. Nespoléhejte se pouze na to, co vidíte nebo slyšíte na obrazovce.

Odpovědnost za zavedení silnější ochrany by neměla nést uživatel, ale organizace. Například banky a platformy se obracejí na biometrické ověřování s detekcí živosti, aby ověřily, že je daná osoba skutečná, správná a v daném okamžiku fyzicky přítomna.

Toto jsou ochranná opatření, která pomáhají zabránit velkému úspěchu deepfake podvodů.

* Aplikace biometrického ověřování, která se ve Vietnamu široce uplatňuje, je také účinným obranným řešením, pane?

- Dá se říci, že Vietnam je v používání biometrického ověřování poměrně pokročilý, s více než 120 miliony ověřených osobních záznamů a více než 1,2 miliony ověřených účtů firemních zákazníků. Banky také zaznamenávají výrazný pokles podvodů. Toto tempo růstu je skutečně působivé. Výzvy však přetrvávají.

Vzhledem k tomu, že podvody založené na umělé inteligenci se stávají sofistikovanějšími, musí se technologie neustále vyvíjet, aby si udržely náskok. Biometrie, zejména ověřování obličeje, má jedinečnou sílu: kombinuje silné zabezpečení s bezproblémovým uživatelským zážitkem. Tato rovnováha je klíčová pro budování důvěry uživatelů a podporu jejich přijetí.

* Jaké strategie jsou podle vašeho názoru potřebné ke zvýšení povědomí veřejnosti a rozšíření aplikace biometrického ověřování mezi uživateli?

- Ve Vietnamu rapidně roste úroveň důvěry a akceptace biometrického ověřování. Většina lidí si již odemyká telefony obličejem nebo otiskem prstu, takže je přirozené, že se tento zvyk rozšíří i do bankovního sektoru.

Připočtěte k tomu rychlý růst digitálního bankovnictví a silný tlak ze strany vlády a vidíme, že úroveň uživatelského komfortu roste rychleji než na mnoha sousedních trzích.

Výzvou je však nyní rozsah. Biometrické ověřování musí být použitelné nejen technicky zdatnými lidmi, ale i staršími generacemi, lidmi s nižší digitální gramotností a základními uživateli chytrých telefonů.

Existují tři klíčové strategie pro budování širší důvěry. Zaprvé, biometrické systémy musí fungovat napříč zařízeními a napříč uživateli a musí být inkluzivní pro lidi všech věkových kategorií a schopností. Ověřování by mělo být jednoduché, rychlé a intuitivní, bez problémů.

Banky a regulátoři musí uživatelům ukázat skutečné výhody, od rychlejšího přihlašování až po prokázané snížení podvodů, a to na příkladech z reálného života.

Cílem je, aby se biometrie nestala jen doplňkovým bezpečnostním prvkem, ale nejpřirozenějším a nejdůvěryhodnějším způsobem online interakce. Jakmile se tak stane, bude se její přijetí přirozeně rozšiřovat.

Důsledky jsou velmi vážné.

Podle Globální asociace forenzních účetních se očekává, že počet incidentů deepfake na celém světě mezi lety 2023 a 2025 vzroste desetinásobně, což představuje více než 900% nárůst za dva roky. Důsledky jsou závažné. Společnost Deloitte odhaduje, že podvody založené na umělé inteligenci budou banky a jejich zákazníky do roku 2027 stát až 40 miliard dolarů.

Ve Vietnamu roste a je stále zřetelnější hrozba generativní umělé inteligence a technologie deepfake. V roce 2024 zaznamenalo Ministerstvo informační bezpečnosti (dříve Ministerstvo informací a komunikací) více než 220 000 hlášení o online podvodech a podvodech, z nichž většina se týkala finančního a bankovního sektoru. Vzhledem k tomu, že stále více spotřebitelů upřednostňuje digitální transakce, se Vietnam stal atraktivním cílem.

Jediný podvod může mít zničující následky, vymazat rodinné úspory nebo podkopat důvěru v infrastrukturu digitálního bankovnictví. Proto je důvěra pro finanční začlenění zásadní.

Musí používat pokročilou technologii biometrického ověřování

Ukradené identity, vyčerpané účty, neoprávněný přístup k citlivým údajům a rozsáhlé podvody mohou podle Milka Radotiće narušit důvěru veřejnosti v digitální finanční systém, který je základem finanční inkluze a digitálního růstu.

Proto musí být banky a platformy ve Vietnamu o krok napřed. Základní hesla nebo OTP kódy už prostě nestačí. Je třeba přejít na pokročilou technologii biometrického ověřování s detekcí živosti v reálném čase, která ověřuje, zda je daná osoba skutečná, správná a v daném okamžiku přítomna.

„Toto opatření v kombinaci s neustálými aktualizacemi zabezpečení pomáhá být o krok napřed před rychle se vyvíjejícími hrozbami,“ uvedl Milko Radotić.

Zpět k tématu

CTNOST

Zdroj: https://tuoitre.vn/deepfake-lan-tran-xac-thuc-sinh-trac-hoc-co-du-chong-lua-dao-bang-ai-20251016231113396.htm