Předcházení podvodům a ochrana osobních údajů v éře umělé inteligence.

V bankovním a finančním sektoru se data stala životodárnou krví ekonomiky. Od digitalizačních procesů až po modely digitálního bankovnictví se všechny činnosti točí kolem shromažďování, analýzy a využívání dat. V této souvislosti se ochrana osobních údajů a prevence podvodů stávají stále důležitějšími.

Když se technologie stane „dvousečnou zbraní“

Umělá inteligence (AI) nepopiratelně otevírá nebývalé příležitosti pro růst a inovace. V bankovním sektoru pomáhá AI optimalizovat provoz, zlepšovat zákaznickou zkušenost a vytvářet digitální ekosystémy, které propojují firmy, partnery a uživatele.

V modelu digitálního bankovnictví hrají data ústřední roli. Banky nejen poskytují finanční služby, ale také vytvářejí platformy, sdílejí data a hluboce se zapojují do hodnotového řetězce podnikání.

Pan Pham Tien Dung, viceguvernér Vietnamské státní banky, uvedl, že umělá inteligence (AI) není jen hnací silou inovací a zlepšení provozní efektivity, ale také zásadně mění metody řízení a provozu finančních institucí. AI je v současné době předmětem výzkumu a uplatňování v mnoha oblastech, jako je hodnocení úvěruschopnosti, hodnocení zákazníků, odhalování podvodů, automatizace procesů a zlepšování kvality služeb. To přispívá ke zvýšení provozní efektivity systému a rozšíření přístupu k finančním službám pro jednotlivce i firmy.

Aplikace chytrých zdravotnických kiosků, kterou HDBank implementovala v nemocnicích, přispívá k zefektivnění postupů, snížení přeplněnosti nemocnic a podpoře digitální transformace ve zdravotnictví. (Foto: ANH TUAN)

Podle odborníků však právě tento vývoj zneužívají i high-tech zločinci. Zatímco dříve se podvody spoléhaly hlavně na jednoduché scénáře, jako jsou falešné zprávy a e-maily, nyní vstoupily do nové fáze s výrazně vyšší úrovní sofistikovanosti.

Technologie deepfake umožňuje vysoce realistickou rekonstrukci hlasů, obrázků a dokonce i videí. S pouhými několika vstupními daty, jako jsou krátké zvukové klipy nebo osobní fotografie, mohou systémy umělé inteligence vytvářet falešný obsah, který je pouhým okem téměř nerozeznatelný od skutečného obsahu. Četné případy po celém světě ukazují, že firmy byly podvedeny o velké částky peněz prostřednictvím online schůzek, jejichž všichni účastníci byli produktem technologie deepfake.

Je pozoruhodné, že umělá inteligence jde nad rámec pouhého vydávání se za oběť. Tyto systémy dokáží analyzovat data, vytvářet profily obětí, personalizovat scénáře a interagovat v reálném čase. To znamená, že podvody již nejsou izolovaným incidentem, ale postupně se stávají rozsáhlým, soběstačným „průmyslem“.

Rizika plynoucí z úniků dat

Podle docenta Dr. Dang Ngoc Duca, ředitele Institutu finančních technologií Univerzity Dai Nam, je digitálně řízené bankovnictví vyšší fází vývoje digitálního bankovnictví, kde finanční instituce nejen slouží podnikům, ale také s nimi spolupracují a vytvářejí pro ně novou hodnotu prostřednictvím dat a digitálních ekosystémů.

Čím více se však sdílení dat rozšiřuje, tím větší jsou rizika. Pan Tran Quoc Chinh, místopředseda představenstva skupiny CMC a generální ředitel CMC Cyber ​​​​Security, se domnívá, že největší výzvou dneška nespočívá v technologiích, ale v důvěře. „Banky i firmy stále váhají se sdílením dat, protože i malá zranitelnost se může rozšířit celým ekosystémem,“ zdůraznil pan Chinh.

V kontextu, kdy data již nejsou omezena na jednu organizaci, ale jsou propojena napříč různými stranami, od bank a podniků až po fintech společnosti, se riziko úniků a neoprávněného zneužití výrazně zvýšilo. Zejména v případě úniku osobních údajů mohou zločinci využít umělou inteligenci k vytváření sofistikovaných podvodů, které se zaměřují na psychologii a chování jednotlivých obětí.

Seminář „Bezpečnost dat a kybernetická bezpečnost v éře národního pokroku“ uspořádaly noviny Nhan Dan. (Foto: THANH DAT)

Na základě praktické implementace odborníci identifikovali tři hlavní překážky, které brání zabezpečení dat a prevenci podvodů v digitálním prostředí. Zaprvé, chybí důvěra ve sdílení dat. Bez transparentních mechanismů týkajících se vlastnictví, rozsahu použití a odpovědnosti je nepravděpodobné, že by strany byly ochotny navazovat hlubší vazby.

Za druhé, chybí technická standardizace, zejména u API. Skutečnost, že každá banka a každý systém používá jiný standard připojení, plýtvá zdroji pro firmy a zvyšuje bezpečnostní rizika.

Za třetí, bezpečnostní možnosti nedrží krok s tempem rozvoje. V mnoha případech organizace rozšiřují své ekosystémy rychleji, než dokáží kontrolovat rizika, což vede k bezpečnostním mezerám. To se netýká jen bank; samotné podniky, zejména malé a střední podniky (MSP), čelí četným omezením v oblasti technologií, správy a povědomí o bezpečnosti. Přitom jsou to skupiny, které jsou nejvíce zranitelné vůči phishingovým útokům.

Zlepšení právního rámce a posílení sociální kapacity.

Vzhledem k této situaci je naléhavě nutné zlepšit právní rámec pro ochranu osobních údajů a kybernetickou bezpečnost. Ruma Balasubramanian, prezidentka asijsko-pacifického a japonského regionu společnosti Check Point Software Technologies, tvrdí, že umělá inteligence mění jak obchodní inovace, tak i kybernetická bezpečnostní rizika a vytváří naléhavou potřebu vývoje pokročilých a flexibilních bezpečnostních strategií. Tradiční bezpečnostní metody postupně odhalují svá omezení tváří v tvář novým hrozbám.

Paní Ruma Balasubramanian, prezidentka asijsko-pacifického a japonského regionu společnosti Check Point Software Technologies. (Foto: DO BAO)

Proto je zapotřebí paralelní přístup, který současně navrhuje a vyvíjí umělou inteligenci bezpečným a kontrolovaným způsobem a zároveň ji využívá jako nástroj k posílení obranných schopností, odhalování a prevenci podvodných aktivit.

Odborníci naznačují potřebu stanovit jasný právní rámec pro sdílení dat, včetně vlastnických práv, rozsahu použití a odpovědnosti v případě incidentů. Současně by měly být stanoveny společné standardy pro technickou konektivitu, zejména API, aby se vytvořil základ pro bezpečný a synchronizovaný rozvoj digitálního ekosystému. Dále by měly být posíleny kontrolované testovací mechanismy, které umožní nasazení nových modelů v pečlivě monitorovaném prostředí před jejich rozšířením.

Stejně důležitým faktorem je posílení bezpečnostních možností pro firmy i jednotlivce. Ve věku umělé inteligence se každý jednotlivec může stát článkem bezpečnostního řetězce. Jediný neopatrný čin, jako je sdílení osobních údajů, kliknutí na podezřelé odkazy nebo důvěra v podvodný hovor, může vést k vážným následkům.

Ve skutečnosti boj s podvody v oblasti high-tech již není pouze odpovědností vládních agentur nebo technologických organizací. Je to společenský boj, ve kterém se musí každý jednotlivec i firma proaktivně přizpůsobit. Vzhledem k rychlému rozvoji umělé inteligence se předpokládá, že podvodné schémata budou stále sofistikovanější a budou kombinovat více kanálů od e-mailu a sociálních médií až po telefonní hovory a video. Hranice mezi pravdou a lží se stírá, což představuje významnou výzvu pro digitální důvěru.

Naopak samotná umělá inteligence je používána jako „štít“ k odhalování a prevenci podvodů. Závod mezi zločinci a obrannými mechanismy proto bude pokračovat donekonečna. V tomto závodě může být technologie nástrojem, ale konečným rozhodujícím faktorem zůstávají lidské bytosti.

Povědomí, porozumění a vědomé úsilí o ochranu osobních údajů jsou první a nejdůležitější „obrannou linií“. Když každý jednotlivec ví, jak se chránit, každá firma považuje bezpečnost za základ a každá organizace jedná zodpovědně, pak se digitální ekosystém může udržitelně rozvíjet a transformovat technologii z rizika na hnací sílu budoucnosti.

DUC BAO

Zdroj: https://nhandan.vn/phong-chong-lua-dao-bao-ve-du-lieu-ca-nhan-trong-ky-nguyen-ai-post960168.html