Hanoi-konvensjonen, eksperter foreslår «digital immunitet» mot AI-utfordringer

Oberstløytnant, PhD, kriminolog Dao Trung Hieu sa at utviklingen av kunstig intelligens (KI) har endret måten folk skaper, mottar og verifiserer informasjon på en dyp måte. Teknologier som deepfake, syntetiske stemmer eller kunstige bilder gjør at grensen mellom ekte og falskt blir uklar som aldri før.

Oberstløytnant, PhD, kriminologiekspert Dao Trung Hieu. Foto: NVCC.

Ifølge Europol-statistikk (2024) har omtrent 90 % av nettinnholdet i dag AI-intervensjon på ulike nivåer, hvorav 15 % viser tegn til forsettlig forfalskning.

I Vietnam har departementet for offentlig sikkerhet registrert en rekke straffesaker der det har vært brukt kunstig intelligens til å utgi seg for å være slektninger, bankfunksjonærer eller statlige etater for å tilegne seg eiendom, hvor noen tilfeller har ført til tap på opptil titalls milliarder dong.

Det som er bekymringsfullt er ikke bare den materielle skaden, men også erosjonen av sosial tillit, grunnlaget for alle menneskelige relasjoner. Når sannheten kan gjenskapes, har tillit, som er grunnlaget for alle sosiale relasjoner, blitt det første angrepsmålet.

«Fenomenene ovenfor er ikke bare en transformasjon av kriminelle verktøy, men en omforming av rommet for kriminell atferd, med helt nye egenskaper: immaterielle, grenseoverskridende, anonyme og selvlærende», sa oberstleder Dao Trung Hieu.

Transformasjonen av kriminell atferdsstruktur i AI-æraen

Oberstløytnant Dao Trung Hieu sa at forbrytelser i AI-æraen ikke lenger er begrenset av fysisk rom. Kriminelle handlinger utføres gjennom datamodeller, algoritmer og automatiserte genereringssystemer, som lar enkeltpersoner eller organisasjoner forfalske ektheten til alle typer informasjon.

Hvis fysiske spor (bevis, åsteder, vitner) er hovedgrunnlaget i tradisjonell kriminalitet, er digitale spor nøkkelen i høyteknologisk kriminalitet. AI hjelper kriminelle med å oppnå to farlige evner: syntetisk virkelighet, som får mottakeren til å tro på noe som ikke eksisterer, og attribusjonserosjon, som gjør det vanskelig å finne opprinnelsen til atferden.

Fra et kriminologisk perspektiv er det mulig å se en endring i strukturen til de fire elementene i kriminalitet:

For det første er ikke Subjektet lenger et enkelt individ, men kan være et automatisert system, eller en gruppe mennesker som fjernstyrer det;

For det andre er det krenkede objektet ikke bare eiendom, ære eller data, men også sosial tillit – en immateriell verdi, men av grunnleggende betydning;

For det tredje er metodene for å begå forbrytelser programmerte, selvlærende, vanskelige å kontrollere og kan replikeres i det uendelige;

For det fjerde stopper ikke de sosiale konsekvensene ved økonomisk skade, men sprer seg til psykologi, moral og nasjonal sikkerhet.

«Dermed støtter ikke kunstig intelligens bare mennesker i kreativitet og produksjon, men omstrukturerer også avvikende atferd, noe som gjør konseptet «digital kriminologi» til en ny forskningsretning innen moderne kriminalvitenskap », sa Hieu.

Går fra tradisjonell etterforskning til etterforskning i datarommet

Hieu sa at fremveksten av AI-basert kriminalitet tvinger etterforskningsbyråer til å innovere arbeidsmodellene sine. I stedet for å etterforske i etterkant, er det nødvendig å undersøke data parallelt, samle inn og analysere informasjonsflyten mens atferden finner sted.

Teknikker som AI-sporanalyse forskes på, som muliggjør henting av spesifikke funksjoner i hver generative modell, på samme måte som «digitale fingeravtrykk» i digital rettsmedisin.

I Vietnam har profesjonelle enheter i Departementet for offentlig sikkerhet koordinert med teknologibedrifter for å bygge en database med tale-, ansikts- og videogjenkjenningseksempler laget av AI.

I tillegg til dette må også den juridiske infrastrukturen forbedres. Det er nødvendig å inkludere forbrytelsen «bruk av kunstig intelligens til å begå forbrytelser» i utredningene for å endre straffeloven, og samtidig må det være spesifikke forskrifter om ansvaret til eiere og operatører av AI-systemer.

Det viktigste er å gå fra en «jakt på synderen»-tankegang til en «proaktiv forebygging»-tankegang. I en tid der en falsk video kan spre seg raskere enn en offisiell kunngjøring, blir evnen til raskt å reagere og koordinere mellom alle parter, inkludert staten, bedrifter og lokalsamfunnet, en nøkkelfaktor.

Digital immunitet, «antistoffer» i AI-æraen

Et konsept som ble vektlagt av oberstløytnant dr. Dao Trung Hieu er «digital immunitet», som er samfunnets evne til å identifisere seg selv og reagere på falsk informasjon. For å bygge digital immunitet er det ifølge ham nødvendig å samle tre grupper av løsninger.

Signeringsseremonien for FNs konvensjon mot nettkriminalitet fant sted i Hanoi 25. oktober. Foto: Myndighetene.

Først, bygg en fleksibel og evolusjonær juridisk korridor, som sikrer en balanse mellom kontroll og innovasjon. Lover bør ikke «ramme inn» AI, men må være fleksible for å tilpasse seg raske endringer i teknologi, samtidig som prinsippet om dobbelt ansvar sikres – individer eller organisasjoner som bruker AI må være ansvarlige for produktene de lager.

For det andre, etabler en nasjonal identifikasjonsmekanisme for AI-generert innhold, gjennom standarder for digital opprinnelsesautentisering (AI-vannmerke, provenienskode). Digitale plattformer bør være pålagt å merke eller verifisere AI-generert innhold, slik at brukerne kan skille mellom ekte og falskt helt fra mottaksstadiet.

For det tredje er utdanning og sosiale medier en langsiktig forsvarslinje. Lover kan regulere atferd, men bare utdanning kan regulere bevissthet. Å integrere kunnskap om datasikkerhet, ferdigheter i gjenkjenning av falske nyheter og teknologietikk i generell utdanning og universitetsplaner vil skape en klasse borgere med «digitale antistoffer», et bærekraftig grunnlag for et trygt samfunn.

Ifølge Hieu er kunstig intelligens ikke bare et teknologisk fremskritt, men også en moralsk og juridisk test av menneskeheten. Når maskiner kan gjenskape sannheten, blir folk tvunget til å lære hvordan de kan beskytte den eneste troen som ikke kan programmeres.

Vietnam må proaktivt ta ledelsen ved å bygge et fleksibelt juridisk rammeverk, styrke offentlig-privat samarbeid innen forebygging av AI-kriminalitet og fremme opplæring i digital immunitet for folket.

«Et trygt samfunn i den kunstige intelligensens tidsalder er ikke det med de sterkeste brannmurene, men det med de mest årvåkne innbyggerne. Hvis data er drivstoffet i den digitale tidsalderen, er tillit motoren. Uten tillit kollapser ethvert system, uansett hvor avansert teknologien er», understreket kriminologen.

Den 25. oktober fant signeringsseremonien for FNs konvensjon mot nettkriminalitet sted i Hanoi, med temaet «Bekjempelse av nettkriminalitet – Deling av ansvar – Fremtidsutsikter». Hanoi-konvensjonen regnes som et viktig skritt i å bygge det første globale juridiske rammeverket for å koordinere felles innsats for å håndtere nettkriminalitet. Dette er en historisk milepæl, ikke bare for det internasjonale samfunnet, men bekrefter også Vietnams rolle og posisjon på den internasjonale arenaen.

Kilde: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html