Umělá inteligence utváří budoucnost – 2. část: Výzvy, které s ní přicházejí

Potenciál s sebou nese riziko

Je nepopiratelné, že umělá inteligence (AI) se stále více ukazuje jako mocný nástroj na podporu pracovníků a usnadnění lidského života. Tyto technologické produkty jsou však jako „dvousečná zbraň“, když je zneužívají zločinci k páchání podvodů a útoků v kyberprostoru.

Ve varovných bulletinech Ministerstva informační bezpečnosti ( Ministerstva informací a komunikací ) nebo Asociace pro kybernetickou bezpečnost bylo zmíněno mnoho zaznamenaných případů podvodů s využitím technologií umělé inteligence. Například paní Nguyen Thanh T - administrativní pracovnice v Hanoji - se při chatování s kamarádkou přes Facebook Messenger rozloučila a ukončila konverzaci, ale náhle se vrátila k textové zprávě, kde požádala o půjčku peněz a převod peněz na bankovní účet. Přestože se jméno na účtu shodovalo se jménem kamarádky, paní T to měla podezření, a tak požádala o videohovor k ověření. Kamarádka okamžitě souhlasila, ale hovor trval jen několik sekund kvůli „přerušované síti“.

Když paní T. ve videohovoru uviděla tvář své kamarádky a hlas byl také správný, převedla peníze. Teprve poté, co byl převod úspěšný, si však uvědomila, že se chytila ​​do hackerské pasti.

Nejen paní T, ale i mnoho dalších obětí, přátel a příbuzných, bylo podvedeno stejným způsobem. Částka peněz, kterou padouši získali vydáváním se za uživatele pomocí nástrojů a hlasů Deep Fake, dosáhla desítek milionů dongů.

Dalším typickým příkladem využití umělé inteligence k přivlastnění si aktiv je případ pana NTH. Při použití telefonu s Androidem podvodníci nastražili past s pokyny k instalaci malwarového odkazu. Odtud převzali kontrolu nad telefonem a bankovními účty, aby mohli převést peníze třetí straně. Malware navíc automaticky kontaktoval dostupné kontaktní informace a odesílal automatické zprávy s žádostí o převod peněz.

Pan NTH uvedl, že podvodník se vydával za „ policistu “, zavolal na jeho telefonní číslo a požádal ho o ověření jeho osobních identifikačních údajů. Protože byl starý, neznalý technologií a důvěřivý, oběť předala svůj telefon třetí osobě, aby ho požádala, aby se řídil pokyny podvodníka, a tím si stáhla a nainstalovala škodlivou aplikaci „DichVuCong.apk“ do svého telefonu.

Pan Tran Nguyen Chung, vedoucí oddělení bezpečnosti informačních systémů (oddělení informační bezpečnosti), uvedl: „S rozvojem technologie umělé inteligence se ztíží detekce a rozlišování mezi skutečným a falešným obsahem v kyberprostoru a kdokoli se může stát terčem, obětí kybernetických útoků zločinců využívajících technologii umělé inteligence. Zda se obětí stane, však závisí na tom, zda je každý člověk vybaven potřebnými znalostmi a informacemi.“

Tato situace s podvody v oblasti technologií umělé inteligence se neobjevuje jen ve Vietnamu, ale i v mnoha zemích po celém světě. V současné době agentury, organizace a velké technologické korporace spolupracují na nalezení opatření a technických řešení, jak ji odhalit a předcházet jí od základu.

V současném období je důležitým opatřením podpora propagandy, zvyšování povědomí lidí o metodách, tricích a způsobech, jak rozpoznat a vypořádat se s touto sofistikovanou formou padělání, s cílem snížit a omezit dopad deepfake na aktivity v kyberprostoru. Proaktivně vydávat rozsáhlá varování v masmédiích, když se objeví nový vývoj a formy podvodů.

„V případě vydírání s citlivými obrázky nebo videi je třeba, aby lidé zůstali klidní, ověřili si a pečlivě prozkoumali původ obrázků a videí,“ řekl pan Tran Nguyen Trung.

Podle výzkumné zprávy „Identifikace rizik pro globální ekonomiku v roce 2024“ vypracované Ekonomickou univerzitou (UEB) při Vietnamské národní univerzitě v Hanoji je jedním z rizik ovlivňujících globální ekonomiku riziko v technologickém sektoru. Zpráva uvádí, že v kontextu rychlého rozvoje umělé inteligence nedokážou manažerské politiky držet krok s jejím rozvojem. Dezinformace, které umělá inteligence poskytuje, zejména v roce s mnoha volbami ve světě, jako byl tento, představují mnoho problémů pro bezpečnost, politiku, obranu a mír na celém světě.

V rozhovoru s reportéry deníku Tin Tuc náměstek ministra vědy a technologií Nguyen Hoang Giang uvedl: „Premiér vydal rozhodnutí č. 127/2021 o národní strategii výzkumu, vývoje a aplikace umělé inteligence do roku 2030. Ministerstvo vědy a technologií, stejně jako další ministerstva a odvětví, provádí drasticky a synchronně implementaci, například Ministerstvo spravedlnosti zkoumá právní aspekty, Ministerstvo informací a komunikací zkoumá digitální technologie, Ministerstvo vědy a technologií také podporuje, zkoumá a rozvíjí Průmysl 4.0 a zkoumá a aplikuje rozvoj informačních technologií, které slouží rozvoji digitálních a chytrých měst. S rychlým a silným rozvojem se však objevují i ​​negativní aspekty a rizika umělé inteligence, když je zneužívána jako nástroj kyberzločinců za účelem podvodů, vydávání se za jinou osobu, vyhrožování, přivlastňování majetku atd.“

Ministerstvo vědy a technologií a vláda doposud spolu s výzkumem aktivně budují také právní rámec, přičemž se učí ze zkušeností jiných rozvinutých zemí, aby oblast umělé inteligence ve Vietnamu mohla rozvíjet svůj potenciál, podporovat rozvoj a zároveň přísně kontrolovat, zajišťovat etiku a humanitu v oblasti umělé inteligence.

Rychlý rozvoj nástrojů umělé inteligence vyvolal mnoho otázek týkajících se lidských práv, etiky, soukromí, informační bezpečnosti a právní odpovědnosti. Ve srovnání se světem se Vietnam stále nachází v raných fázích vývoje umělé inteligence. Proto je zapotřebí specifických předpisů a politik v oblasti umělé inteligence, které by byly vhodné pro všechny aspekty života, ekonomiky a společnosti ve Vietnamu.

Naléhavě vydat právní rámec

Zvládání temné stránky umělé inteligence je také tématem, které se diskutuje v několika zemích. Evropský parlament schválil první soubor základních pravidel pro regulaci umělé inteligence na světě. Mnoho technologických expertů se domnívá, že tento soubor pravidel pomůže EU dosáhnout obou cílů: minimalizovat negativní dopad technologického rozvoje na uživatele a zároveň dohnat dominantní postavení klíčových konkurentů na trhu.

Krátce poté Valné shromáždění OSN přijalo rezoluci o umělé inteligenci (AI), která poskytla globální podporu mezinárodnímu úsilí o zajištění toho, aby tato nová technologie prospívala všem zemím, respektovala lidská práva a byla „bezpečná, zabezpečená a důvěryhodná“.

Pan Vu Ngoc Son, technický ředitel společnosti National Cyber ​​Security Technology Joint Company, uvedl: „Umělá inteligence je technologie, která slouží lidským zájmům a podporuje automatizaci mnoha různých fází provozu. Je to mocný nástroj používaný k mnoha různým účelům, jako je poskytování služeb otázek a odpovědí, výroba softwaru atd. Umělá inteligence má však i negativní stránku, když se dostane do rukou zločinců s cílem vytvářet podvodný obsah a škodlivé kódy k útoku na uživatele. Umělá inteligence tedy není nástrojem určeným konkrétně pro vytváření produktů nebo páchání trestné činnosti, ale důležitou otázkou je, „jak“ umělou inteligenci používat.“

„Myslím, že sankce a právní koridory skutečně neodpovídají tempu rozvoje umělé inteligence. Budeme potřebovat čas na vytvoření a zavedení politik, které omezí rizika umělé inteligence, pokud je používána ke špatným účelům a ovlivňuje lidská práva, ale i bezpečnost, pořádek a sociální jistotu,“ řekl pan Vu Ngoc Son.

Dr. Dang Minh Tuan, ředitel institutu CMC ATI, uvedl: „Na jedné straně musíme i nadále zkoumat a vyvíjet nové technologie, aktualizovat a studovat metody využívání umělé inteligence ke špatným účelům. Na druhé straně musíme také prosazovat poctivost ve vědě i v práci. V souladu s tím musí ve Vietnamu dojít k úpravám a investicím do obsahu a specifických politik pro tento nástroj. Zejména můžeme nástroje umělé inteligence použít také k detekci škodlivého obsahu a kódu. Umělá inteligence je jako „dvousečná zbraň“, která vytváří nepřetržitý proces dopadu a neustále se zlepšuje s konečným cílem sloužit lidským zájmům.“

Odborníci tvrdí, že je nutné zodpovědně řídit vývoj high-tech produktů, protože neschopnost regulovat a ovládat technologie povede k nepředvídatelným důsledkům, které způsobí ztráty ekonomice a ovlivní každého jednotlivce i celou společnost.

Vydání specifických a transparentních předpisů nejen pomůže předcházet rizikům, která může umělá inteligence způsobit, a minimalizovat je, ale také pomůže Vietnamu přilákat pozornost a investice od předních světových technologických podniků a podpořit rozvoj domácího odvětví informačních technologií a umělé inteligence.

Závěrečný článek: Paralelní vývoj a řízení umělé inteligence

Zdroj: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238