Lovforslag om kunstig intelligens: Menneskesentrert, balansert og harmonisk styring

Nasjonalforsamlingens leder Tran Thanh Man taler på møtet

Nestleder i nasjonalforsamlingen, Le Minh Hoan, ledet møtet.

Ettermiddagen 17. november avga nasjonalforsamlingens stående komité, under ledelse av nestleder i nasjonalforsamlingen Le Minh Hoan, uttalelser om lovutkastet om kunstig intelligens.

Risikobasert styring, klassifisering av AI i fire nivåer

I en kort presentasjon av lovutkastet sa vitenskaps- og teknologiminister Nguyen Manh Hung at lovutkastet består av 8 kapitler og 36 artikler som regulerer fremme av forskning, utvikling, levering, utplassering og bruk av kunstig intelligens-systemer; rettigheter og plikter for relevante organisasjoner og enkeltpersoner og statlig forvaltning av kunstig intelligens-aktiviteter i Vietnam.

Spesielt presenterer kapittel II i lovutkastet om klassifisering og håndtering av kunstig intelligens-systemer etter risiko en risikobasert håndteringstilnærming, som klassifiserer kunstig intelligens i fire nivåer og pålegger tilsvarende forpliktelser. Følgelig klassifiseres kunstig intelligens-systemer etter risiko, med fire risikonivåer, inkludert: uakseptabel risiko: systemet har potensial til å forårsake alvorlig, uopprettelig skade; høy risiko: systemet kan forårsake skade på liv, helse, rettigheter og legitime interesser; middels risiko: systemet har potensial til å forvirre, manipulere eller lure brukere; lav risiko: de resterende tilfellene.

Vitenskaps- og teknologiminister Nguyen Manh Hung presenterte et sammendrag av lovutkastet om kunstig intelligens.

Leverandører må selvklassifisere systemet før sirkulasjon og er ansvarlige for klassifiseringsresultatene. For systemer med middels og høy risiko må leverandører varsle Vitenskaps- og teknologidepartementet via informasjonsportalen. Vedkommende myndighet har rett til å kontrollere og revurdere klassifiseringen.

Lovutkastet fastsetter ansvaret for åpenhet, merking og ansvarlighet. Spesifikt må distributøren tydelig varsle og merke innhold som er laget eller redigert med falske elementer, simulerer ekte mennesker (deepfakes) som kan forårsake misforståelser, eller innhold laget av kunstig intelligens for kommunikasjons- og reklameformål. Leverandører og distributører må forklare behandlingsresultatene fra høyrisikosystemer når berørte personer ber om det.

Når det gjelder håndtering av hendelser, spesifiserer lovutkastet at partene er ansvarlige for å raskt reparere, suspendere eller trekke tilbake systemet og rapportere via informasjonsportalen.

Utviklingen av loven om kunstig intelligens er svært nødvendig og haster. Derfor foreslo vitenskaps- og teknologiministeren at lovutkastet om kunstig intelligens legges frem for nasjonalforsamlingen for behandling og godkjenning på den 10. sesjonen.

I en kort presentasjon av rapporten om gjennomgangen av lovutkastet sa lederen av komiteen for vitenskap, teknologi og miljø, Nguyen Thanh Hai, at innholdet i lovutkastet i hovedsak er i samsvar med bestemmelsene i grunnloven og med rettssystemet.

Leder av komiteen for vitenskap, teknologi og miljø, Nguyen Thanh Hai, presenterte et sammendrag av rapporten om gjennomgangen av prosjektet om lov om kunstig intelligens.

Det anbefales imidlertid at inspeksjonsorganet fortsetter å gjennomgå samsvar med en rekke lover som sivilloven, loven om produkt- og varekvalitet, loven om tekniske standarder og forskrifter, osv.; avklarer forholdet mellom denne loven og relaterte spesiallover (innen utdanning, helse, trafikk, presse, osv.); utkastet til lov om åndsverk (om spørsmålet om beskyttelse av åndsverk for produkter laget av KI, om innholdet i allmennutdanning, universitets- og yrkesutdanningsprogrammer om KI).

Når det gjelder kompatibilitet med internasjonale traktater, anbefales det å fortsette å gjennomgå og spesielt oppdatere innholdet i FN-konvensjonen mot nettkriminalitet (Hanoi-konvensjonen) som nylig ble undertegnet i Hanoi.

Når det gjelder klassifisering og håndtering av AI-systemer i henhold til risikoer, basert på internasjonal erfaring og Vietnams virkelighet, er komiteen enig i å klassifisere risikoene ved kunstig intelligens-systemer i fire nivåer (uakseptabel risiko; høy risiko; middels risiko; lav risiko).

Lovforslaget har imidlertid ikke klart definerte kvantitative eller kvalitative kriterier for å identifisere og klassifisere risikoer. I realiteten mangler det styringstiltak, verktøy og metoder for risikovurdering, noe som gjør klassifisering vanskelig, spesielt «uakseptable risikoer», noe som fører til bekymringer om juridisk ansvar i forbindelse med implementeringen.

Når det gjelder selvklassifisering og risikostyring, foreslo Komiteen for vitenskap, teknologi og miljø å studere og supplere forskrifter om åpne prinsipper i klassifisering slik at departementer og spesialiserte forvaltningsorganer kan utstede detaljerte instruksjoner som er egnet for hvert felt; supplere prinsipper for å bestemme risikonivået basert på systemets autonominivå, omfanget av virkningen, spredningsevnen, risikoen for å påvirke menneskerettigheter, sikkerhet og sosial trygghet; og snarest utvikle en veikart, et sett med kvantitative kriterier, måleverktøy og tekniske retningslinjer med henvisning til internasjonale ISO-er for å gi mer passende kriterier.

Samtidig anbefales det å gjennomgå og redusere forskrifter før inspeksjon, som tekniske dokumenter og aktivitetslogger, før de settes i omløp. Dette kan øke samsvarskostnadene for bedrifter, forsinke innovasjonsprosessen og anvendelsen av kunstig intelligens, redusere konkurranseevnen og tiltrekningen til investeringer, og i stor grad gå over til en mekanisme for etterinspeksjon.

Et rettslig rammeverk er nødvendig for å kontrollere og effektivt implementere AI.

På møtet uttalte Tran Thanh Man, leder av nasjonalforsamlingen, at loven om digital teknologiindustri, vedtatt av nasjonalforsamlingen på den 9. sesjonen, med virkning fra 1. mai 2026, har kapittel IV som regulerer kunstig intelligens (KI), og definerer prinsipper for utvikling og risikostyring. Dette er det første juridiske rammeverket for KI i Vietnam, men det er ennå ikke en uavhengig lov. Loven om kunstig intelligens vil være loven for å utvikle og styre KI i fremtiden.

Ifølge formannen for nasjonalforsamlingen er kunstig intelligens i ferd med å bli en sentral drivkraft for sosioøkonomisk utvikling, nasjonal sikkerhet og internasjonal integrasjon. Imidlertid vil alt som er en mulighet også ha mange utfordringer, så et rettidig juridisk rammeverk er nødvendig for å kontrollere og implementere det effektivt.

Formannen foreslo at lovutkastet må sikre fire hovedpilarer : for det første, fremme innovasjon, skape en tydelig juridisk korridor for forskning og kommersialisering av AI. For det andre, sikre menneskerettigheter, åpenhet, rettferdighet, ansvar og ansvarlighet i AI-systemer. For det tredje, håndtere risikoer i henhold til fire nivåer av AI-påvirkning som fastsatt i lovutkastet. For det fjerde, internasjonalt samarbeid og harmonisering med globale standarder, samtidig som nasjonal datasuverenitet opprettholdes.

Samtidig understreket lederen for nasjonalforsamlingen at lovutkastet må sikre sine egne unike trekk: å sette mennesket i sentrum, sikre cybersikkerhet, nasjonalt autonomi og internasjonal integrasjon, bærekraftig inkluderende utvikling, balansert og harmonisk styring.

Med tanke på at det å klassifisere AI-håndtering i henhold til risikonivåer er et innovativt høydepunkt, som bidrar til effektivt å kontrollere AI-systemer som kan påvirke nasjonal sikkerhet, menneskerettigheter og sosial orden, understreket lederen av nasjonalforsamlingen at vi må lære av erfaring mens vi gjør, oppgradere mens vi gjør, og lære mens vi gjør.

Formannen for nasjonalforsamlingen påpekte også at mange innenlandske bedrifter har gått inn i dette feltet innen kunstig intelligens, så det må finnes en rammelov for ledelse; regjeringen har fått i oppgave å veilede implementeringen slik at den passer til hver gang og hvert trinn.

Formannen for nasjonalforsamlingen antydet også at det er nødvendig å være oppmerksom på å styrke regelverket for vern av personopplysninger og personvern; sikre harmoni med loven om cybersikkerhet fra 2018; oppdatere regelverket i internasjonale forpliktelser som landet vårt deltar i, som Budapest-konvensjonen om kriminalitet, eller nylig Hanoi-konvensjonen om forebygging og kontroll av nettkriminalitet. Å supplere en tverrsektoriell mekanisme mellom Vitenskaps- og teknologidepartementet, Departementet for offentlig sikkerhet, Forsvarsdepartementet og relevante departementer, fordi det å administrere internett og sikre nettverkssikkerhet ikke er et eget departement eller en egen sektors ansvar.

Når det gjelder lovgivningsteknikker, bemerket formannen for nasjonalforsamlingen at lovutkastet må fortsette å gjennomgås for å sikre gjennomførbarhet, ha klare overgangsbestemmelser og unngå overlapping med spesiallover.

Nestleder i nasjonalforsamlingen, Le Minh Hoan, holdt en avsluttende tale på møtet.

I sine avsluttende bemerkninger om dette innholdet erkjente nestleder i nasjonalforsamlingen, Le Minh Hoan, at lovutkastet har mange nye, komplekse og dyptgående innholdselementer, og at forberedelsestiden er svært presserende. Regjeringen, departementet for vitenskap og teknologi, komiteen for vitenskap, teknologi og miljø og nasjonalforsamlingens etater har imidlertid gjort sitt ytterste for å utføre de tildelte oppgavene.

For å sikre kvaliteten på lovutkastet som ble lagt frem for nasjonalforsamlingen for behandling og godkjenning, ba nestlederen i nasjonalforsamlingen regjeringen om å instruere lovutkastet og relevante etater om å gjennomgå, undersøke, absorbere og fullt ut forklare i samsvar med uttalelsene fra nasjonalforsamlingens stående komité og vurderingsuttalelsene fra det etniske rådet og nasjonalforsamlingens etater. Følgelig er denne loven samlet som en rammelov som skal legges frem for nasjonalforsamlingen.

På dette grunnlaget foreslo nestlederen i nasjonalforsamlingen å fortsette gjennomgangen for å sikre full institusjonalisering av partiets retningslinjer og statens politikk; konsistens og synkronisering med rettssystemet, spesielt loven om vitenskap, teknologi og innovasjon, loven om digital teknologiindustri, loven om data, loven om cybersikkerhet ... og lovutkastene som presenteres på denne sesjonen. Politbyråets forskrifter om maktkontroll og forebygging av korrupsjon og negativitet i lovgivningsarbeidet skal strengt implementeres.

Kilde: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-lay-con-nguoi-la-trung-tam-quan-tri-can-bang-va-hai-hoa-10395999.html