Hanojská úmluva: Odborníci navrhují „digitální imunitu“ tváří v tvář výzvám umělé inteligence.

Na základě analýzy dopadu umělé inteligence na digitální důvěru navrhují experti rámec přístupu „digitální imunity“, jehož cílem je vytvořit bezpečnou společnost v datovém věku.

Podle podplukovníka, doktora a experta na kriminologii Dao Trung Hieua vývoj umělé inteligence (AI) zásadně změnil způsob, jakým lidé vytvářejí, přijímají a ověřují informace. Technologie jako deepfake, syntetizované hlasy a umělé obrazy rozmazávaly hranice mezi pravdou a lží jako nikdy předtím.

Podplukovník, lékař, expert na kriminologii Dao Trung Hieu. Foto: Poskytl respondent.

Podle statistik Europolu (2024) obsahuje přibližně 90 % současného online obsahu v různé míře prvky generované umělou inteligencí, přičemž 15 % vykazuje známky úmyslného padělání.

Ve Vietnamu ministerstvo veřejné bezpečnosti zaznamenalo řadu případů, kdy zločinci použili umělou inteligenci k vydávání se za příbuzné, bankovní úředníky nebo vládní činitele za účelem krádeže majetku, přičemž některé případy vedly ke ztrátám desítek miliard dongů.

Znepokojivým aspektem nejsou jen materiální škody, ale i narušování společenské důvěry, která je základem všech lidských vztahů. Když lze pravdu rekonstruovat, důvěra, která je základem všech společenských vztahů, se stává prvním terčem útoku.

„Tyto jevy nejsou jen transformací nástrojů zločinu, ale přetvářením prostoru pro kriminální chování se zcela novými charakteristikami: nehmotné, přeshraniční, anonymní a samouk,“ uvedl podplukovník Dao Trung Hieu.

Transformace struktur kriminálního chování v éře umělé inteligence.

Podplukovník Dao Trung Hieu prohlásil, že zločin v éře umělé inteligence již není omezen fyzickým prostorem. Trestné činy jsou páchány prostřednictvím datových modelů, algoritmů a automatizovaných systémů generování dat, což umožňuje jednotlivcům nebo organizacím falšovat pravost jakéhokoli typu informací.

Zatímco v tradiční kriminalitě jsou primárním základem fyzické důkazy (důkazy, místa činu, svědci), v high-tech kriminalitě jsou klíčem důkazy digitální. Umělá inteligence umožňuje zločincům dosáhnout dvou nebezpečných schopností: syntetické reality, která vede příjemce k přesvědčení o něčem, co neexistuje, a eroze atribuce, která ztěžuje vysledování původu činu.

Z kriminologického hlediska lze pozorovat změnu ve struktuře čtyř prvků trestného činu:

Zaprvé, subjektem již není jeden jedinec, ale může to být automatizovaný systém nebo skupina lidí, kteří jej ovládají na dálku;

Za druhé, předmětem porušení není jen majetek, pověst nebo data, ale společenská důvěra – nehmotná hodnota, která má zásadní význam;

Za třetí, prostředky páchání trestných činů jsou naprogramované, samy se učí, je obtížné je kontrolovat a lze je donekonečna replikovat;

Za čtvrté, sociální důsledky sahají nad rámec ekonomických ztrát a ovlivňují psychologii, morálku a národní bezpečnost.

„Umělá inteligence tak nejen pomáhá lidem v kreativitě a produkci, ale také restrukturalizuje deviantní chování, čímž se koncept ‚digitální kriminologie‘ stává novým výzkumným směrem v moderní kriminální vědě ,“ řekl pan Hieu.

Přechod od tradičního vyšetřování k vyšetřování v datovém prostoru.

Pan Hieu argumentoval, že vznik zločinů páchaných pomocí umělé inteligence nutí vyšetřovací orgány inovovat své pracovní modely. Místo vyšetřování po události je třeba vyšetřovat souběžně s daty, shromažďovat a analyzovat tok informací v průběhu činu.

Výzkumují se techniky, jako je analýza stop pomocí umělé inteligence, které umožňují získávání charakteristik každého generačního vzoru, podobně jako „digitální otisky prstů“ v digitální forenzní analýze.

Ve Vietnamu spolupracují operační jednotky Ministerstva veřejné bezpečnosti s technologickými společnostmi na vytvoření databáze vzorků rozpoznávání hlasu, obličeje a videa generovaných umělou inteligencí.

Dále je třeba zlepšit i právní infrastrukturu. Je nezbytné doplnit do revidovaného trestního zákoníku trestný čin „využití umělé inteligence k páchání trestných činů“ a musí existovat i specifická pravidla týkající se odpovědnosti vlastníků a provozovatelů systémů umělé inteligence.

Ještě důležitější je, že se musíme posunout od myšlení „hledání viníka“ k myšlení „proaktivní prevence“. V době, kdy se falešné video může šířit rychleji než oficiální oznámení, se schopnost rychle reagovat a efektivně koordinovat kroky mezi zúčastněnými stranami, včetně vlády, podniků a komunity, stává klíčovou.

Digitální imunita, „protilátky“ v éře umělé inteligence.

Jedním z konceptů, které zdůrazňuje podplukovník Dr. Dao Trung Hieu, je „digitální imunita“, což je schopnost společnosti rozpoznat falešné informace a reagovat na ně. Domnívá se, že k vybudování digitální imunity jsou nezbytné tři skupiny řešení.

Slavnostní podpis Úmluvy OSN proti kyberkriminalitě se konal v Hanoji 25. října. Foto: Vláda.

Zaprvé musíme vybudovat flexibilní a vyvíjející se právní rámec, který zajistí rovnováhu mezi kontrolou a inovacemi. Zákony by neměly umělou inteligenci „rámovat“, ale měly by být flexibilní, aby se přizpůsobily rychlým technologickým změnám, a zároveň by měly zajistit princip dvojí odpovědnosti – jednotlivci nebo organizace používající umělou inteligenci musí nést odpovědnost za produkty, které vytvářejí.

Za druhé, zavést národní mechanismus identifikace obsahu generovaného umělou inteligencí prostřednictvím standardů digitálního původu (vodoznaky umělé inteligence, kódy původu). Digitální platformy by měly být povinny označovat nebo ověřovat obsah generovaný umělou inteligencí, což uživatelům pomůže rozlišovat mezi pravým a falešným obsahem od okamžiku jeho přijetí.

Za třetí, vzdělávání a sociální média představují dlouhodobé obranné linie. Zákony mohou regulovat chování, ale pouze vzdělávání může regulovat povědomí. Integrace znalostí o bezpečnosti dat, dovedností v identifikaci falešných zpráv a technologické etiky do všeobecného vzdělávání a univerzitních osnov vytvoří třídu občanů s „digitálními protilátkami“, což je udržitelný základ pro bezpečnou společnost.

Podle pana Hieua není umělá inteligence jen technologickým pokrokem, ale také zkouškou lidské etiky a právního postavení. Když stroje dokáží znovu vytvořit pravdu, lidé jsou nuceni naučit se, jak chránit svá přesvědčení – to je jediná věc, kterou nelze naprogramovat.

Vietnam se musí proaktivně ujmout vedení tím, že vybuduje flexibilní právní rámec, posílí spolupráci veřejného a soukromého sektoru v prevenci trestných činů souvisejících s umělou inteligencí a bude podporovat vzdělávání svých občanů v oblasti digitální imunity.

„Bezpečná společnost ve věku umělé inteligence není ta s nejsilnějším firewallem, ale ta s nejbdělejšími občany. Pokud jsou data palivem digitálního věku, pak je důvěra motorem. Bez důvěry se jakýkoli systém zhroutí, bez ohledu na to, jak pokročilá je technologie,“ zdůraznil kriminolog.

Dne 25. října se v Hanoji konal slavnostní podpis Úmluvy OSN proti kyberkriminalitě s tématem „Boj proti kyberkriminalitě – sdílení odpovědnosti – směrem k budoucnosti“. Hanojská úmluva je považována za významný krok při budování prvního globálního právního rámce pro koordinaci společného úsilí v boji proti kyberkriminalitě. Jedná se o historický milník nejen pro mezinárodní společenství, ale také potvrzuje roli a postavení Vietnamu na mezinárodní scéně.

Zdroj: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html