Ca Mau-delegat: Trenger et «åpent juridisk rammeverk», men streng kontroll over risikoer når loven om kunstig intelligens vedtas.

Under morgendiskusjonen 21. november om lovutkastet om kunstig intelligens (KI), fremmet representanter fra nasjonalforsamlingens delegasjon i Ca Mau-provinsen mange bemerkelsesverdige meninger knyttet til styringsrammeverket for KI, teknisk risikokontroll, datakvalitet og politiske mekanismer for å fremme næringsinvesteringer i KI.

Delegat Nguyen Duy Thanh: Det juridiske rammeverket er for tregt – 06 grunnleggende prinsipper er nødvendige for å beskytte brukerne

Delegat Nguyen Duy Thanh uttalte hvor viktig det var å vedta loven, foreslo seks prinsipper for styring av kunstig intelligens og forbød absolutt kunstig intelligens å lage falske nyheter og innhold som forstyrrer samfunnet.

Ifølge delegat Nguyen Duy Thanh, medlem av nasjonalforsamlingens økonomiske komité og nestleder i Ca Mau-provinsens næringsforening, er kunngjøringen av AI-loven et krav som ikke kan utsettes lenger, fordi AI-teknologi har trengt inn i alle felt fra produksjon, transport, finans til offentlig forvaltning. Vietnam regulerer imidlertid fortsatt med fragmenterte tekniske standarder og mangler et enhetlig juridisk rammeverk.

Delegat Nguyen Duy Thanh foreslo å utvikle seks prinsipper for styring av kunstig intelligens for å forhindre at kunstig intelligens-systemer forårsaker skade: Åpenhet; ikke-diskriminering; respekt for personvern; ansvarlighet; sikring av sikkerhet – risikokontroll; beskyttelse av barn mot innhold generert av kunstig intelligens.

Delegat Nguyen Duy Thanh sa at det må være absolutt forbudt å bruke kunstig intelligens til å lage falske nyheter, spesielt til å lage bilder av ledere, statlige etater eller til å lage innhold som oppfordrer til uorden. Dette vil være en nødvendig «juridisk barriere» mot spredningshastigheten og påvirkningsnivået til informasjon skapt av kunstig intelligens.

Delegat Dinh Ngoc Minh: «Uten kildekodekontroll kan AI være kontraproduktivt»

Delegat Dinh Ngoc Minh foreslo å kontrollere kildekoden til AI; Statlige etater trenger retten til å «slå av AI» når det oppstår en hendelse; og advarte om risikoer når AI opererer ute av kontroll.

Delegat Dinh Ngoc Minh, medlem av nasjonalforsamlingens økonomiske og finansielle komité, advarte om at mange land har registrert tilfeller av roboter eller automatiserte systemer som forårsaker ulykker, til og med reagerer mot mennesker. Disse historiene er ikke lenger science fiction, men skjer i det moderne liv.

Delegat Dinh Ngoc Minh sa at Vietnam må være spesielt oppmerksom på kildekodekontroll for kritiske AI-systemer. I noen tilfeller må staten ha tilgang til eller oppbevare kildekoden, på samme måte som «nødstoppknappen»-mekanismen.

«Hvis kildekoden ikke kontrolleres, kan AI være kontraproduktivt og forårsake stor skade», understreket delegaten Dinh Ngoc Minh. Samtidig foreslo han å tydelig definere ansvaret til organisasjoner som utvikler og driver AI.

Delegat Tran Thi Hoa Ry: Loven må være klar og sammenhengende – ikke et «generelt juridisk rammeverk»

Delegat Tran Thi Hoa Ry talte i diskusjonen.

Delegat Tran Thi Hoa Ry, nestleder i nasjonalforsamlingens etniske råd, vurderte at lovutkastet var omstendelig utformet, men at det fortsatt er punkter som trenger ytterligere forbedring.

Den rammeorienterte loven er passende, men må være «tydelig utformet»: Delegat Tran Thi Hoa Ry sa at noen generelle bestemmelser, av beskrivende art, ikke er nok til å veilede implementeringen. Loven må tydelig definere prinsipper, grenser og sanksjoner for å unngå fremtidige problemer.

Gjennomgang av lovens struktur: Delegat Tran Thi Hoa Ry foreslo å endre en rekke artikler som for tiden er tildelt regjeringen, slik at de regulerer for mye innhold, noe som fører til overlapping og vanskeligheter med anvendelsen.

Kvaliteten på inndataene avgjør effektiviteten til AI: Delegat Tran Thi Hoa Ry er spesielt opptatt av dataenes nøyaktighet, fullstendighet og transparens, fordi hvis dataene er feil, vil AI gi feil resultater.

Delegat Tran Thi Hoa Ry ba om avklaring av listen over data som skal inkluderes i den nasjonale KI-databasen; overvåkingsprosessen for dataregistrering; tilleggsdata i noen sektorer som energi; og en forklaring på hvorfor data om administrative prosedyrer – som har blitt brukt på KI – ikke er inkludert i utkastet.

Legge til forbud for å unngå uakseptable risikoer: Delegat Tran Thi Hoa Ry foreslo å spesifisere forbudt atferd, i stedet for bare å liste opp risikotypene generelt.

Bedrifter må ha «ekte motivasjon» til å investere i AI: Delegat Tran Thi Hoa Ry sa at for å tiltrekke bedrifter til kostbare felt som AI, må loven ha sterkere mekanismer, som for eksempel: Overskuddsdelingsmekanisme; skatteinsentiver; offentlig-privat partnerskapsmodell spesielt for AI.

Den nasjonale AI-strategien bør ikke oppdateres ... hvert tredje år: «Med den nåværende hastigheten på endringene hver uke, må AI-strategien justeres mer fleksibelt» - foreslo delegat Tran Thi Hoa Ry, i stedet for å vente 2–3 år med oppdatering.

Enhetlig krav om «både åpent og tett»

Meningene fra nasjonalforsamlingsdelegatene i Ca Mau provinsielle nasjonalforsamlingsdelegasjon tar alle sikte på å bygge et juridisk rammeverk som er åpent nok til å fremme forskning og innovasjon, men stramt nok til å håndtere risikoer, spesielt risikoer for personvern, nettverkssikkerhet og sosial trygghet.

I sammenheng med den daglige utviklingen av kunstig intelligens, bidrar disse forslagene til at lovutkastet nærmer seg internasjonale standarder, samtidig som det er egnet for Vietnams nåværende teknologistyringskapasitet.

Kilde: https://www.camau.gov.vn/thoi-su-chinh-tri/dai-bieu-ca-mau-can-khung-phap-ly-mo-nhung-kiem-soat-chat-rui-ro-khi-ban-hanh-luat-tri-tue-nhan--291345