Hanoi-konventionen, experter föreslår "digital immunitet" mot AI-utmaningar

Överstelöjtnant, PhD, kriminolog Dao Trung Hieu sa att utvecklingen av artificiell intelligens (AI) i grunden har förändrat hur människor skapar, tar emot och verifierar information. Tekniker som deepfakes, syntetiska röster eller artificiella bilder gör att gränsen mellan verklighet och falskhet suddas ut som aldrig förr.

Överstelöjtnant, PhD, kriminologiexperten Dao Trung Hieu. Foto: NVCC.

Enligt Europols statistik (2024) har cirka 90 % av onlineinnehållet idag AI-ingripande på olika nivåer, varav 15 % visar tecken på avsiktlig förfalskning.

I Vietnam har ministeriet för offentlig säkerhet registrerat en rad brottmål där AI använts för att utge sig för att vara släktingar, banktjänstemän eller statliga myndigheter för att tillägna sig egendom, där vissa fall orsakat förluster på upp till tiotals miljarder dong.

Det som är oroande är inte bara de materiella skadorna, utan också urholkningen av socialt förtroende, grunden för alla mänskliga relationer. När sanningen kan återskapas har förtroendet, som är grunden för alla sociala relationer, blivit det första angreppsmålet.

”Ovanstående fenomen är inte bara en omvandling av kriminella verktyg, utan en omformning av det kriminella beteendets utrymme, med helt nya egenskaper: immateriella, gränsöverskridande, anonyma och självlärande”, sa överste Dao Trung Hieu.

Förvandlingen av kriminellt beteende i AI-eran

Överstelöjtnant Dao Trung Hieu sa att brott i AI-eran inte längre är begränsade av fysiskt utrymme. Brottsliga handlingar utförs genom datamodeller, algoritmer och automatiserade genereringssystem, vilket gör det möjligt för individer eller organisationer att förfalska äktheten hos alla typer av information.

Om fysiska spår (bevis, brottsplatser, vittnen) är den huvudsakliga grunden i traditionella brott, så är digitala spår nyckeln i högteknologiska brott. AI hjälper brottslingar att uppnå två farliga förmågor: syntetisk verklighet, vilket får mottagaren att tro på något som inte existerar, och attributionserosion, vilket gör det svårt att lokalisera ursprunget till beteendet.

Ur ett kriminologiskt perspektiv är det möjligt att se en förändring i strukturen av de fyra elementen i brottslighet:

För det första är Subjektet inte längre en enskild individ utan kan vara ett automatiserat system eller en grupp människor som fjärrstyr det;

För det andra är det kränkta objektet inte bara egendom, heder eller data, utan också social tillit – ett immateriellt värde men av grundläggande betydelse;

För det tredje är medlen för att begå brott programmerade, självlärande, svåra att kontrollera och kan replikeras i all oändlighet;

För det fjärde stannar de sociala konsekvenserna inte vid ekonomisk skada, utan sprider sig till psykologi, moral och nationell säkerhet.

”Således stöder artificiell intelligens inte bara människor i kreativitet och produktion, utan omstrukturerar även avvikande beteenden, vilket gör konceptet ’digital kriminologi’ till en ny forskningsinriktning inom modern kriminalvetenskap ”, sa Hieu.

Att gå från traditionell utredning till utredning inom dataområdet

Hieu sa att framväxten av AI-baserade brott tvingar utredningsmyndigheter att förnya sina arbetsmodeller. Istället för att utreda i efterhand är det nödvändigt att undersöka data parallellt, samla in och analysera informationsflödet allt eftersom beteendet äger rum.

Tekniker som AI-spåranalys forskas på, vilka möjliggör hämtning av specifika egenskaper hos varje generativ modell, liknande "digitala fingeravtryck" inom digital forensik.

I Vietnam har professionella enheter inom ministeriet för offentlig säkerhet samarbetat med teknikföretag för att bygga en databas med röst-, ansikts- och videoigenkänningsexempel skapade av AI.

Utöver det behöver även den rättsliga infrastrukturen förbättras. Det är nödvändigt att lägga till brottet att ”använda artificiell intelligens för att begå brott” i utredningarna för att ändra brottsbalken, och samtidigt måste det finnas specifika regler om ansvaret för ägare och operatörer av AI-system.

Det som är viktigare är att gå från en tankegång som ”jagar den skyldige” till en som ”proaktivt förebyggande”-tankegång. I en tid där en falsk video kan spridas snabbare än ett officiellt tillkännagivande blir förmågan att snabbt reagera och samordna mellan alla parter, inklusive staten, företag och samhället, en nyckelfaktor.

Digital immunitet, "antikroppar" i AI-eran

Ett koncept som betonades av överstelöjtnant Dr. Dao Trung Hieu är "digital immunitet", vilket är samhällets förmåga att självidentifiera och reagera på falsk information. För att bygga digital immunitet är det enligt honom nödvändigt att sammanföra tre grupper av lösningar.

Undertecknandet av FN:s konvention mot it-brottslighet ägde rum i Hanoi den 25 oktober. Foto: Regeringen.

Först, bygg en flexibel och evolutionär rättslig korridor som säkerställer en balans mellan kontroll och innovation. Lagar bör inte "inrama" AI, utan måste vara flexibla för att anpassa sig till snabba teknikförändringar, samtidigt som principen om dubbelt ansvar säkerställs – individer eller organisationer som använder AI måste vara ansvariga för de produkter de skapar.

För det andra, inrätta en nationell identifieringsmekanism för AI-genererat innehåll, genom standarder för digital ursprungsautentisering (AI-vattenmärke, ursprungskod). Digitala plattformar bör vara skyldiga att märka eller verifiera AI-genererat innehåll, vilket hjälper användare att skilja mellan äkta och falskt redan från mottagningsstadiet.

För det tredje är utbildning och sociala medier en långsiktig försvarslinje. Lagar kan reglera beteende, men bara utbildning kan reglera medvetenhet. Att integrera kunskap om datasäkerhet, färdigheter i att identifiera falska nyheter och tekniketik i allmän utbildning och universitetens läroplaner kommer att skapa en klass av medborgare med "digitala antikroppar", en hållbar grund för ett tryggt samhälle.

Enligt Hieu är artificiell intelligens inte bara ett tekniskt framsteg, utan också ett moraliskt och juridiskt test av mänskligheten. När maskiner kan återskapa sanningen tvingas människor lära sig att skydda den enda övertygelse som inte kan programmeras.

Vietnam behöver proaktivt ta ledningen genom att bygga en flexibel rättslig ram, förbättra offentlig-privat samarbete i förebyggande av AI-brottslighet och främja utbildning i digital immunitet för folket.

”Ett säkert samhälle i den artificiella intelligensens tidsålder är inte det med de starkaste brandväggarna, utan det med de mest uppmärksamma medborgarna. Om data är den digitala tidsålderns bränsle, då är förtroende motorn. Utan förtroende kollapsar alla system, oavsett hur avancerad tekniken är”, betonade kriminologen.

Den 25 oktober ägde undertecknandet av FN:s konvention mot it-brottslighet rum i Hanoi med temat "Bekämpning av it-brottslighet - Delat ansvar - Framtidsutsikter". Hanoikonventionen anses vara ett viktigt steg i att bygga den första globala rättsliga ramen för att samordna gemensamma insatser för att hantera it-brottslighet. Detta är en historisk milstolpe inte bara för det internationella samfundet utan bekräftar också Vietnams roll och ställning på den internationella arenan.

Källa: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html