Utvikle teknologi, fremme innovasjon, men ikke la risikoen gå utenfor rekkevidde

Viseformann i nasjonalforsamlingen, Le Minh Hoan, ledet møtet. Foto: Ho Long

På ettermiddagen 27. november diskuterte nasjonalforsamlingen, under ledelse av nestleder i nasjonalforsamlingen Le Minh Hoan, lovutkastet om kunstig intelligens i salen.

Mangel på regelverk om erstatning og forsikringsansvar

Angående artikkel 20 i lovutkastet om en kontrollert testmekanisme for utvikling av kunstig intelligens, uttalte nasjonalforsamlingsmedlem Hoang Minh Hieu ( Nghe An ) at hovedformålet med den kontrollerte testmekanismen for kunstig intelligens (KI) er å fjerne juridiske barrierer som hindrer KI-modeller, slik at begrenset testing kan innhente data for å bevise effektivitet, og dermed fremme langsiktig regelverksreform. Denne tilnærmingen er også svært i samsvar med vår nåværende lovgivningstenkning, som er at institusjoner må gå først for å bane vei for utvikling.

Nasjonalforsamlingens nestleder Hoang Minh Hieu (Nghe An) taler. Foto: Quang Khanh

Delegaten understreket at forskrifter om kontrollerte testmekanismer må være i fokus i det juridiske rammeverket for AI, så lovutkastet må undersøke og regulere dette spørsmålet mer spesifikt i lovutkastet.

Delegaten foreslo derfor å gjennomgå regelverket for organisasjoner og enkeltpersoner som deltar i kontrollerte studier, som skal unntas eller få redusert noen samsvarsforpliktelser, som foreskrevet i paragraf 2, artikkel 20 i lovutkastet. Slike forskrifter fører til at omfanget av unntaket begrenses til bestemmelsene i denne loven, mens KI-systemer ofte er knyttet til mange andre relevante lovbestemmelser.

Delegatene viste til mekanismen for testing av AI i selvkjørende passasjerfly i Japan, som er unntatt fra visse regler for å sikre flysikkerhet. Eller testing av selvkjørende biler i Kina og Japan er unntatt fra bestemmelsene i personvernloven, som går ut på å bruke bildedata uten å måtte gjøre ansiktene til trafikkdeltakere uskarpe for å trene og trene AI-syn.

Basert på erfaringene fra andre land foreslo delegatene at byrået som er ansvarlig for å utarbeide studien, kun skal fastsette i paragraf 2, artikkel 20, en tydelig definering av at organisasjoner og enkeltpersoner som deltar i kontrollerte studier er unntatt eller redusert fra noen av samsvarsforpliktelsene som er foreskrevet i denne loven og andre relevante lover.

Delegater som deltar på møtet. Foto: Ho Long

Klausul 5, artikkel 20 gir det statlige forvaltningsorganet for AI i oppdrag å organisere mottak, vurdering og behandling av dossierer for å delta i kontrollerte testaktiviteter i henhold til vurderings- og hurtigresponsprosessen.

Delegat Hoang Minh Hieu bemerket at KI-systemer ikke bare er problemer knyttet til teknologi, algoritmer ... men også tverrfaglige og tverrfaglige problemstillinger. Derfor er bestemmelsene i paragraf 5 sannsynligvis bare egnet for generelle KI-systemer, som generativ KI (ChatGPT, Gemini) ... Når det gjelder spesialiserte KI-systemer, er den tverrfaglige naturen svært høy.

Med henvisning til DrAid-systemet, et AI-produkt som støtter medisinsk bildediagnostikk utviklet av VinBrain, sa delegat Hoang Minh Hieu at hvis det er registrert for testing, er det umulig å ikke ha Helsedepartementets overvåkings- og styringsrolle. Derfor er vurdering og lisensiering av kontrollert testing av AI-systemer i noen land tildelt et tverrfaglig råd.

Delegatene foreslo å revidere bestemmelsene i paragraf 5, artikkel 20 i lovutkastet i retning av at «statens forvaltningsorgan for kunstig intelligens leder og koordinerer med relevante statlige forvaltningsorganer for å organisere mottak, vurdering og behandling av dossierer for deltakelse i kontrollerte testaktiviteter».

Delegaten sa også at bestemmelsene i artikkel 20 i lovutkastet fortsatt mangler bestemmelser om erstatning og forsikringsansvar. Og den nevner ikke hvem som er ansvarlig dersom testen forårsaker skade på en tredjepart. I henhold til det generelle prinsippet må testorganisasjonen eller individet betale sivilrettslig erstatning dersom de forårsaker skade. Derfor foreslo delegat Hoang Minh Hieu å vurdere å legge til denne bestemmelsen i lovutkastet.

All AI-programvare som opererer i Vietnam må være utstyrt med en « standard menneskelignende fundamentdatabase ».

Representant i nasjonalforsamlingen, Tran Van Lam (Bac Ninh), satte stor pris på lovutkastet for å definere prinsippet om å sette mennesket i sentrum, klassifisere og kontrollere risikoer, inspisere høyrisiko-KI-systemer og utvikle nasjonal databehandlings- og datainfrastruktur. Dette er et progressivt juridisk rammeverk, i tråd med internasjonale trender.

Nasjonalforsamlingsrepresentant Tran Van Lam (Bac Ninh) taler. Foto: Ho Long

For å gjøre loven fullstendig og ha en langsiktig visjon, foreslo delegaten imidlertid et viktig tillegg: Betrakt AI som et «nyfødt menneske». En «intelligent, men uskyldig enhet»: som ikke kjenner loven, ikke forstår etikk og etikette, ikke har kulturelle verdier og ikke skiller mellom rett og galt hvis det ikke læres opp.

«Hvis vi betrakter AI som en fremvoksende enhet, er vårt ansvar ikke bare å kontrollere den, men også å lære den fra begynnelsen, som å lære et barn om vanlige menneskelige verdier. Og dette bør være en obligatorisk bestemmelse i denne loven, ikke bare en anbefaling», sa delegat Tran Van Lam.

Delegatene foreslo at nasjonalforsamlingen skulle legge til et juridisk prinsipp i loven: «All AI-programvare som opererer i Vietnam, enten den er utviklet av innenlandske eller utenlandske organisasjoner, må være utstyrt med en standard menneskelig database .»

Ifølge delegaten må «standard menneskelig fundamentdatabase» inneholde tilstrekkelig informasjon til å lære AI å forstå vietnamesisk lov; lære AI etiske standarder, kultur og gode tradisjoner i nasjonen; lære AI evnen til å identifisere rett og galt, standard og ustandard; atferdsgrenser som ikke må overskrides, og regler for å identifisere risikoer for mennesker. Og viktigst av alt, sørg for at denne fundamentdatabasen alltid har absolutt prioritet i styringen av AI-atferd; må ikke overskrives, erstattes eller deaktiveres av noen annen algoritme eller treningsdata. Dette er den juridiske og tekniske «gullringen» som sikrer at AI ikke kommer på avveie.

For å implementere denne orienteringen effektivt, foreslo delegatene at Vitenskaps- og teknologidepartementet tar ledelsen i å bygge en enhetlig, standardisert og kontinuerlig oppdatert databaseplattform for «Å være vietnamesisk» , og at denne tilbys AI-utviklere som et obligatorisk krav. Regjeringen bør utvikle en sterk nasjonal datainfrastruktur for å sikre at vietnamesisk AI er trent på vietnamesiske verdier, ikke avhengig av utenlandske modeller.

Samtidig bygge et nasjonalt AI-testsenter for raskt å vurdere avvikende atferd, kontrollere høyrisikomodeller og raskt gripe inn når det er tegn på at grensene overskrides. Fremme AI-utdanning i hele samfunnet, med fokus på å hjelpe mennesker, bedrifter og spesielt offentlig sektor med å ha kapasitet til å identifisere, bruke og overvåke AI på riktig måte.

Delegat Tran Van Lam understreket: «Dagens lov om kunstig intelligens er ikke bare en teknologilov, men en fremtidslov; en forpliktelse fra nasjonalforsamlingen overfor folket. Vi utvikler teknologi, men mister ikke kontrollen. Vi fremmer innovasjon, men lar ikke risikoen gå utenfor vår rekkevidde. Og vi pleier kunstig intelligens med vietnamesiske verdier for å tjene det vietnamesiske folket.»

Kilde: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html