Ytterligere hensyn for å sikre mer omfattende risikostyring for kunstig intelligens

Om morgenen 26. april holdt den stående komiteen for vitenskap, teknologi og miljø et verksted ved hovedkvarteret til nasjonalforsamlingens etater – 22 Hung Vuong, Hanoi – for å bidra med ideer til å fullføre lovutkastet om digital teknologiindustri. Delegatene foreslo og vurderte derfor tilleggsbestemmelser for å sikre en mer fullstendig risikostyring for kunstig intelligens, og lokale myndigheter kan konsulteres under godkjenningsprosessen for testing.

Nestleder i komiteen for vitenskap, teknologi og miljø, Nguyen Phuong Tuan, ledet workshopen. Deltakerne på workshopen var viseministeren for vitenskap og teknologi , representanter fra departementene for offentlig sikkerhet, finans, justis, utdanning og opplæring, bedrifter innen digital teknologi, eksperter og forskere.

Lovforslaget om digital teknologibransjen består av 7 kapitler og 57 artikler. Lovforslaget er bygget på grunnlag av selektiv arv av relevante bestemmelser fra loven om informasjonsteknologi og dokumenter som veileder implementeringen av informasjonsteknologibransjen; i samsvar med gjeldende rettssystem for investering, finans, vitenskap og teknologi og synkronisert med relaterte lovprosjekter for å sikre enhet og synkronisering i rettssystemet, noe som letter implementering og anvendelse.

Lovutkastet om digital teknologiindustri er bygget opp i tett overensstemmelse med de politiske gruppene som er enstemmig godkjent av regjeringen: Aktiviteter innen digital teknologiindustri, digitale teknologiprodukter og -tjenester; Sikring av utviklingen av digital teknologiindustri. Lovutkastet viser nye og mer drastiske perspektiver i tilnærmingen til utviklingen av den digitale teknologiindustrien i Vietnam, spesielt med overlegen preferansepolitikk for utenlandske investorer, samt politikk for innenlandske bedrifter for å delta i dette feltet med mange muligheter. Med viktige endringer forventer mange eksperter, representanter for foreninger og bedrifter at Vietnam kan bli det ledende reisemålet i Sørøst-Asia for investorer i digital teknologi. For å gjøre denne forventningen til virkelighet, må Vietnam styrke seg og skape forutsetninger for å tiltrekke seg investeringer i utviklingen av den digitale teknologiindustrien.

Konferansescene.

Sikre mer omfattende risikostyring for AI

På workshopen fokuserte delegatene på å bidra til forskrifter om mekanismen for kontrollert testing av produkter og tjenester som bruker digital teknologi og kunstig intelligens (KI) som foreslått i lovutkastet.

For tiden promoteres KI sterkt i mange land, med potensial for anvendelse i mange forskjellige felt og bransjer, og det skapes kontinuerlig nye produkter. Et KI-system med høy risiko er imidlertid et KI-system som kan forårsake alvorlig risiko og skade på menneskers helse, menneskerettigheter og interesser, offentlige interesser og sosial orden og sikkerhet. Derfor utvikler og utsteder departementer og avdelinger, basert på den faktiske situasjonen, retningslinjer for etiske regler for utvikling, utplassering og bruk av kunstig intelligens-systemer på sine respektive felt.

Fru Chu Thi Hoa – assisterende direktør ved Institutt for strategi og rettsvitenskap i Justisdepartementet, sa at når man utvikler, tilbyr og bruker kunstig intelligens, er det nødvendig å sikre fleksibilitet og tilpasningsevne; regelmessig evaluert, revidert og supplert for å raskt møte praktiske behov. Samtidig må den være mangfoldig og inkluderende, egnet for stadig bredere dekning på alle felt, fordi utvikling, utrulling og bruk av kunstig intelligens vil bli mer og mer mangfoldig i fremtiden.

Lovutkastet om digital teknologiindustri fastsetter forbudte handlinger i artikkel 11 (inkludert handlinger relatert til KI). Ifølge fru Chu Thi Hoa bør imidlertid lovutkastkomiteen merke seg at det i tillegg til å fastsette forbudte handlinger, også er nødvendig å legge til bestemmelser som begrenser rettigheter, samtidig som det tas hensyn til typer handlinger som bare kan utføres under visse betingelser (for eksempel bruk av høyrisiko-KI). Bestemmelser om begrensning av rettigheter for å overholde paragraf 2, artikkel 14 i grunnloven av 2013 bør fastsettes i juridiske dokumenter. Derfor bør lovutkastkomiteen vurdere å legge til flere for å sikre en mer fullstendig risikostyring for KI.

Lokale myndigheter kan bli konsultert under godkjenningsprosessen for forsøket.

I en kommentar til den kontrollerte testmekanismen som er foreslått i lovutkastet om digital teknologiindustri, sa Nguyen Duc Lam fra Institute for Policy Research and Media Development - IPS at lokale myndigheter, i stedet for å få myndighet til å godkjenne testmekanismen, kan støtte bedrifter som deltar i testmekanismen, for eksempel ved å finansiere, legge til rette for bygging, utvikle partnerskap, skatteinsentiver eller opprette lokale innovasjonssentre som opererer parallelt med det nasjonale sandkasseinitiativet. Lokale myndigheter kan konsulteres i godkjenningsprosessen for testing, spesielt hvis forretningsinnovasjonen er viktig for lokalsamfunnet, for eksempel i smarte byer eller lokale finansteknologiinitiativer.

Det utarbeidende organet for lovprosjektet kan legge til følgende bestemmelser om ansvaret til departementer, departementale etater og provinsielle folkekomiteer (hvis noen). I tillegg er det nødvendig å offentliggjøre informasjon om testprosedyrer og -mekanismer; veiledningsdokumenter; kontaktpunkter for departementer, departementale etater og provinsielle folkekomiteer på den elektroniske informasjonsportalen, slik at bedrifter enkelt kan slå opp, lære og kontakte. Statlige etaters ansvar er å forklare offentligheten når bedrifter som deltar i testmekanismer forårsaker betydelig skade for forbrukere eller mislykkes; og å utstede transparente rapporter som beskriver ytelsen og resultatene av testene.

Når det gjelder bedrifter, kan de anlegge klager eller søksmål mot tilsynsorganet hvis de mener at organet ikke har utført sine plikter ordentlig. For eksempel hvis organet opptrer vilkårlig, ignorerer reglene; ikke gir tilstrekkelig og korrekt veiledning, noe som forårsaker skade for virksomheten; forsinker gjennomgang og godkjenning, noe som forårsaker skade for virksomheten; eller diskriminerer i godkjennings- og tilsynsprosessen.

Som avslutning på workshopen bekreftet nestleder i komiteen for vitenskap, teknologi og miljø, Nguyen Phuong Tuan, viktigheten av å bidra til forskriftene om mekanismen for kontrollert testing av produkter og tjenester som bruker digital teknologi og kunstig intelligens, som er foreslått i lovutkastet om digital teknologiindustri. Kommentarene fra workshopen er et viktig grunnlag for at lovutkastet og vurderingsorganet skal kunne fullføre lovutkastet før det sendes inn til nasjonalforsamlingen for behandling og diskusjon på den kommende niende sesjonen.

Ifølge den elektroniske informasjonsportalen til Vietnams nasjonalforsamling

Kilde: https://mst.gov.vn/xem-xet-bo-sung-de-dam-bao-day-du-hon-ve-quan-ly-rui-ro-doi-voi-tri-tue-nhan-tao-197251101210619706.htm