Hanojská úmluva, experti navrhují „digitální imunitu vůči výzvám umělé inteligence“

Podplukovník, PhD, kriminolog Dao Trung Hieu uvedl, že rozvoj umělé inteligence (AI) zásadně mění způsob, jakým lidé vytvářejí, přijímají a ověřují informace. Technologie jako deepfake, syntetické hlasy nebo umělé obrazy stírají hranici mezi skutečným a falešným jako nikdy předtím.

Podplukovník, PhD, odborník na kriminologii Dao Trung Hieu. Foto: NVCC.

Podle statistik Europolu (2024) je dnes přibližně 90 % online obsahu na různých úrovních zasaženo umělou inteligencí, z čehož 15 % vykazuje známky úmyslného padělání.

Ve Vietnamu ministerstvo veřejné bezpečnosti zaznamenalo sérii trestních případů využití umělé inteligence k vydávání se za příbuzné, bankovní úředníky nebo státní agentury za účelem přivlastnění si majetku, přičemž některé případy způsobily ztráty až do výše desítek miliard dongů.

Znepokojivé nejsou jen materiální škody, ale také narušování společenské důvěry, která je základem všech lidských vztahů. Když se podaří znovu vytvořit pravdu, důvěra, která je základem všech společenských vztahů, se stává prvním terčem útoku.

„Výše uvedené jevy nejsou jen transformací kriminálních nástrojů, ale přetvářením prostoru kriminálního chování se zcela novými charakteristikami: nehmotné, přeshraniční, anonymní a samoučící se,“ řekl vrchní plukovník Dao Trung Hieu.

Transformace struktury kriminálního chování v éře umělé inteligence

Podplukovník Dao Trung Hieu uvedl, že zločiny v éře umělé inteligence již nejsou omezeny fyzickým prostorem. Trestné činy jsou páchány prostřednictvím datových modelů, algoritmů a automatizovaných systémů generování dat, což umožňuje jednotlivcům nebo organizacím falšovat pravost všech typů informací.

Pokud jsou u tradičních zločinů hlavním základem fyzické stopy (důkazy, místa činu, svědci), pak u high-tech zločinů jsou klíčem stopy digitální. Umělá inteligence pomáhá zločincům dosáhnout dvou nebezpečných schopností: syntetické reality, která vede příjemce k víře v něco, co neexistuje, a eroze atribuce, která ztěžuje lokalizaci původu chování.

Z kriminologického hlediska je možné pozorovat změnu ve struktuře čtyř prvků trestného činu:

Zaprvé, Subjekt již není jednotlivec, ale může to být automatizovaný systém nebo skupina lidí, kteří jej ovládají na dálku;

Za druhé, porušeným objektem není jen majetek, čest nebo data, ale také společenská důvěra – nehmotná hodnota, ale má zásadní význam;

Za třetí, prostředky páchání trestných činů jsou naprogramované, samy se učí, je obtížné je kontrolovat a lze je donekonečna replikovat;

Za čtvrté, sociální důsledky se neomezují pouze na ekonomické škody, ale rozšiřují se i na psychologii, morálku a národní bezpečnost.

„Umělá inteligence tak nejen podporuje lidi v kreativitě a produkci, ale také restrukturalizuje deviantní chování, čímž se koncept „digitální kriminologie“ stává novým výzkumným směrem moderní kriminální vědy ,“ řekl pan Hieu.

Přechod od tradičního vyšetřování k vyšetřování v datovém prostoru

Pan Hieu uvedl, že vznik trestných činů založených na umělé inteligenci nutí vyšetřovací orgány inovovat své pracovní modely. Místo vyšetřování po události je nutné vyšetřovat data paralelně, shromažďovat a analyzovat tok informací v průběhu daného chování.

Výzkumují se techniky, jako je analýza stop pomocí umělé inteligence, které umožňují získávání specifických vlastností každého generativního modelu podobně jako „digitální otisky prstů“ v digitální forenzní analýze.

Ve Vietnamu profesionální jednotky Ministerstva veřejné bezpečnosti koordinovaly s technologickými podniky vytvoření databáze vzorků pro rozpoznávání hlasu, obličeje a videa vytvořených umělou inteligencí.

Spolu s tím je třeba zlepšit i právní infrastrukturu. Do studií na změnu trestního zákoníku je nutné doplnit trestný čin „využití umělé inteligence k páchání trestných činů“ a zároveň musí existovat specifické předpisy týkající se odpovědnosti vlastníků a provozovatelů systémů umělé inteligence.

Důležitější je posunout se od myšlení „hledání viníka“ k myšlení „proaktivní prevence“. V době, kdy se falešné video může šířit rychleji než oficiální oznámení, se klíčovým faktorem stává schopnost rychle reagovat a koordinovat všechny strany, včetně státu, podniků a komunity.

Digitální imunita, „protilátky“ v éře umělé inteligence

Podplukovník Dr. Dao Trung Hieu zdůraznil koncept „digitální imunity“, což je schopnost společnosti sebeidentifikovat a reagovat na falešné informace. Pro vybudování digitální imunity je podle něj nutné spojit tři skupiny řešení.

Slavnostní podpis Úmluvy OSN proti kyberkriminalitě se konal v Hanoji 25. října. Foto: Vláda.

Zaprvé, vybudovat flexibilní a evoluční právní koridor, který zajistí rovnováhu mezi kontrolou a inovacemi. Zákony by neměly umělou inteligenci „rámovat“, ale měly by být flexibilní, aby se přizpůsobily rychlým změnám v technologiích, a zároveň zajistit princip dvojí odpovědnosti – jednotlivci nebo organizace používající umělou inteligenci musí být odpovědné za produkty, které vytvářejí.

Za druhé, zavést národní mechanismus identifikace obsahu generovaného umělou inteligencí prostřednictvím standardů digitálního ověřování původu (vodoznak umělé inteligence, kód původu). Digitální platformy by měly být povinny označovat nebo ověřovat obsah generovaný umělou inteligencí, což uživatelům pomůže rozlišovat mezi skutečným a falešným obsahem již od fáze jeho přijetí.

Za třetí, vzdělávání a sociální média představují dlouhodobou obrannou linii. Zákony mohou regulovat chování, ale pouze vzdělávání může regulovat povědomí. Integrace znalostí o bezpečnosti dat, dovednostech rozpoznávání falešných zpráv a technologické etice do všeobecného vzdělávání a univerzitních osnov vytvoří třídu občanů s „digitálními protilátkami“, což je udržitelný základ pro bezpečnou společnost.

Podle pana Hieua není umělá inteligence jen technologickým pokrokem, ale také morální a právní zkouškou lidstva. Když stroje dokáží znovu vytvořit pravdu, lidé jsou nuceni naučit se, jak chránit jedinou víru, kterou nelze naprogramovat.

Vietnam se musí proaktivně ujmout vedení tím, že vybuduje flexibilní právní rámec, posílí spolupráci veřejného a soukromého sektoru v oblasti prevence kriminality v oblasti umělé inteligence a bude podporovat vzdělávání obyvatel v oblasti digitální imunity.

„Bezpečná společnost ve věku umělé inteligence není ta s nejsilnějšími firewally, ale ta s nejostýchavějšími občany. Pokud jsou data palivem digitálního věku, pak je důvěra motorem. Bez důvěry se jakýkoli systém zhroutí, bez ohledu na to, jak pokročilá je technologie,“ zdůraznil kriminolog.

Dne 25. října se v Hanoji konal slavnostní podpis Úmluvy OSN proti kyberkriminalitě s tématem „Boj proti kyberkriminalitě – sdílení odpovědnosti – pohled do budoucnosti“. Hanojská úmluva je považována za důležitý krok při budování prvního globálního právního rámce pro koordinaci společného úsilí v reakci na kyberkriminalitu. Jedná se o historický milník nejen pro mezinárodní společenství, ale také potvrzuje roli a postavení Vietnamu na mezinárodní scéně.

Zdroj: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html