Umělá inteligence utváří budoucnost – 2. část: Výzvy, které s ní přicházejí.

Potenciál s sebou nese riziko.

Umělá inteligence (AI) se nepopiratelně stále více ukazuje jako mocný nástroj na podporu pracovníků a usnadnění života lidí. Tyto technologické produkty jsou však jako „dvousečná zbraň“, když je zlomyslní aktéři zneužívají k podvodům a kybernetickým útokům.

Varování týkající se informační bezpečnosti od Ministerstva informací a komunikací ( Ministerstvo informací a komunikací ) nebo od Asociace pro kybernetickou bezpečnost uvádějí četné zaznamenané případy podvodů s využitím technologie umělé inteligence. Například paní Nguyen Thanh T, administrativní pracovnice v Hanoji, si chatovala s kamarádkou přes Facebook Messenger. Poté, co se rozloučila a ukončila konverzaci, jí kamarádka náhle znovu napsala zprávu, v níž si přála půjčit peníze a požádala o bankovní převod. Přestože se jméno na účtu shodovalo s jménem její kamarádky, paní T. začala mít podezření a požádala o videohovor k ověření. Kamarádka ochotně souhlasila, ale hovor trval jen několik sekund kvůli nestabilnímu síťovému připojení.

Poté, co paní T. ve videohovoru uviděla tvář své kamarádky a poznala její hlas, převedla peníze. Teprve poté, co byl převod úspěšný, si však uvědomila, že se chytila ​​do hackerské pasti.

Nejen paní T, ale mnoho dalších obětí, včetně přátel a příbuzných, bylo podvedeno podobným způsobem. Částka peněz, kterou podvodníci připravili o identitu s využitím Deep Fake a nástrojů pro manipulaci s hlasem, dosáhla desítek milionů VND.

Dalším ukázkovým příkladem využití umělé inteligence k odcizení majetku je případ pana NTH, který byl pomocí telefonu s Androidem oklamán k instalaci malwarového odkazu. Podvodníci odtud získali kontrolu nad jeho telefonem a bankovními účty, aby mohli převádět peníze třetí straně. Malware navíc automaticky kontaktoval jeho stávající kontakty a odesílal automatické zprávy s žádostí o převod peněz.

Pan NTH uvedl, že podvodník, který se vydával za „ policistu “, zavolal na jeho telefonní číslo a požádal o ověření osobní identifikace. Vzhledem ke svému věku, neznalosti technologií a důvěřivosti oběť předala svůj telefon třetí straně, aby se řídila pokyny podvodníka, což vedlo ke stažení a instalaci škodlivé aplikace „DichVuCong.apk“ do jeho telefonu.

Pan Tran Nguyen Chung, vedoucí oddělení bezpečnosti informačních systémů (Agentura pro informační bezpečnost), uvedl: „S rozvojem technologie umělé inteligence se bude odhalování a rozlišování mezi skutečným a falešným obsahem v kyberprostoru stávat stále obtížnějším a kdokoli se může stát terčem nebo obětí kybernetických útoků zločinců využívajících technologii umělé inteligence. Zda se však někdo stane obětí, závisí na úrovni jeho znalostí a potřebných informacích.“

Tento typ podvodu poháněného umělou inteligencí není specifický pouze pro Vietnam; existuje v mnoha zemích po celém světě. V současné době agentury, organizace a velké technologické korporace spolupracují na nalezení technických řešení, jak jej odhalit a předcházet mu v jeho zárodku.

V současné době je klíčovým opatřením zintenzivnění propagandy a zvýšení povědomí veřejnosti o metodách, taktikách a způsobech, jak identifikovat a čelit této sofistikované formě podvodu, a tím snížit a omezit dopad deepfakes na online aktivity. Proaktivní varování by měla být vydávána prostřednictvím masmédií, když se objeví nové formy podvodů.

„V případě obdržení vydíracích hovorů obsahujících citlivé obrázky nebo videa je třeba, aby lidé zůstali klidní, ověřili si a důkladně prošetřili zdroj obrázků nebo videí,“ uvedl pan Tran Nguyen Trung.

Podle výzkumné zprávy „Identifikace rizik pro globální ekonomiku v roce 2024“ Ekonomické univerzity (UEB) Vietnamské národní univerzity v Hanoji je jedním z rizik ovlivňujících globální ekonomiku riziko v technologickém sektoru. Zpráva tvrdí, že ačkoli se umělá inteligence rychle rozvíjí, manažerské politiky s jejím vývojem nedrží krok. Dezinformace šířené umělou inteligencí, zejména v roce s řadou voleb po celém světě, jako byl tento, představovaly a nadále představují významné výzvy pro globální bezpečnost, politiku, obranu a mír.

V rozhovoru s reportérem deníku Tin Tuc náměstek ministra vědy a technologií Nguyen Hoang Giang uvedl: „Premiér vydal rozhodnutí č. 127/2021 o národní strategii výzkumu, vývoje a aplikace umělé inteligence do roku 2030. Ministerstvo vědy a technologií, stejně jako další ministerstva a sektory, jej za účelem realizace rozhodně a synchronně provádějí. Ministerstvo spravedlnosti se zabývá právními aspekty, Ministerstvo informací a komunikací se zabývá digitálními technologiemi a Ministerstvo vědy a technologií podporuje, zkoumá a rozvíjí Průmysl 4.0; zkoumá a aplikuje informační technologie ve prospěch rozvoje digitálních a chytrých měst. S rychlým a silným rozvojem se však objevily i negativní aspekty a rizika umělé inteligence, když je zneužívána jako nástroj kyberkriminality za účelem podvodů, vydávání se za jinou osobu, vyhrožování a krádeže majetku atd.“

Ministerstvo vědy a technologií a vláda v současnosti, vedle výzkumu, aktivně budují také právní rámec a poučují se ze zkušeností jiných rozvinutých zemí, aby sektor umělé inteligence ve Vietnamu mohl uvolnit svůj potenciál, podpořit rozvoj a zajistit přísnou kontrolu, etické standardy a lidská práva v oblasti umělé inteligence.“

Rychlý rozvoj nástrojů umělé inteligence vyvolal mnoho otázek týkajících se lidských práv, etiky, soukromí, informační bezpečnosti a právní odpovědnosti. Ve srovnání se zbytkem světa se Vietnam stále nachází v raných fázích vývoje umělé inteligence. Proto jsou zapotřebí specifické předpisy a zásady pro umělou inteligenci, které budou vhodné pro všechny aspekty života, ekonomiky a společnosti ve Vietnamu.

Naléhavé vydání právního regulačního rámce.

Zvládání nevýhod umělé inteligence je také tématem, které se diskutuje v několika zemích. Evropský parlament schválil první základní kodex chování na světě pro regulaci umělé inteligence. Mnoho technologických expertů se domnívá, že tento kodex pomůže EU dosáhnout dvou cílů: minimalizovat negativní dopad technologického rozvoje na uživatele a dohnat dominantní postavení klíčových konkurentů na trhu.

Krátce poté Valné shromáždění OSN přijalo rezoluci o umělé inteligenci (AI), která poskytla globální podporu mezinárodnímu úsilí o zajištění toho, aby tato nová technologie prospívala všem zemím, respektovala lidská práva a byla „bezpečná, zabezpečená a důvěryhodná“.

Pan Vu Ngoc Son, technický ředitel akciové společnosti National Cyber ​​Security Technology, uvedl: „Umělá inteligence je technologie, která slouží lidským zájmům a podporuje automatizaci mnoha různých provozních procesů. Je to mocný nástroj používaný k různým účelům, jako je poskytování služeb odpovídání na otázky, výroba softwaru atd. Umělá inteligence má však i svou nevýhodu, když se dostane do nesprávných rukou za účelem vytváření podvodného obsahu a malwaru k útoku na uživatele. Umělá inteligence proto není nástrojem výhradně pro vytváření produktů nebo páchání trestné činnosti; důležitou otázkou je, „jak“ se umělá inteligence používá.“

„Domnívám se, že stávající předpisy a právní rámec dosud nedrží krok s rychlým rozvojem umělé inteligence. Budeme potřebovat čas na vytvoření a implementaci politik, které omezí rizika zneužití umělé inteligence ke škodlivým účelům, jež by ovlivňovaly lidská práva, ale i sociální zabezpečení, pořádek a bezpečnost,“ poznamenal pan Vu Ngoc Son.

Dr. Dang Minh Tuan, ředitel institutu CMC ATI, uvedl: „Na jedné straně musíme pokračovat ve výzkumu a vývoji nových technologií, aktualizovat a studovat metody používané ke škodlivým účelům s využitím umělé inteligence. Na druhé straně musíme také prosazovat poctivost ve vědě a práci. V souladu s tím musí dojít k úpravám a investicím do konkrétních politik týkajících se tohoto nástroje ve Vietnamu. Zejména můžeme nástroje umělé inteligence použít také k detekci škodlivého obsahu a kódu. Umělá inteligence je jako „dvousečná zbraň“, která vytváří nepřetržitý, probíhající a neustále se zlepšující proces s konečným cílem sloužit lidským zájmům.“

Odborníci tvrdí, že potřeba zodpovědné kontroly nad vývojem high-tech produktů je klíčová, protože neschopnost regulovat a ovládat technologie povede k nepředvídatelným důsledkům, způsobí ztráty ekonomice a ovlivní jednotlivce i společnost jako celek.

Vydání specifických a transparentních předpisů nejen pomůže předcházet rizikům, která může umělá inteligence představovat, a zmírňovat je, ale také pomůže Vietnamu přilákat pozornost a investice od předních světových technologických společností a podpořit rozvoj domácího odvětví informačních technologií a umělé inteligence.

Závěrečný článek: Paralelní vývoj a řízení umělé inteligence.

Zdroj: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238