Strammer inn AIs «røde linje»: Vietnam foreslår forbud mot teknologi for menneskelig etterligning

Under gjennomføringen av programmet for den 51. sesjonen, under ledelse av nasjonalforsamlingens leder Tran Thanh Man og veiledning av nasjonalforsamlingens viseformann Le Minh Hoan, avga nasjonalforsamlingens stående komité uttalelser om KI-lovprosjektet kvelden 17. november.

Vitenskaps- og teknologiminister (MOST), Nguyen Manh Hung, sa at lovprosjektet for første gang etablerer konseptet «KI-system med uakseptable risikoer» da han sendte KI-lovprosjektet til den stående komiteen i nasjonalforsamlingen.

Ifølge minister Nguyen Manh Hung er «KI-systemer med uakseptabel risiko» systemer som har potensial til å forårsake alvorlig, uopprettelig skade på menneskerettigheter, nasjonal sikkerhet, sosial orden, eller som er utformet for å utføre handlinger som er forbudt ved lov. Med et farenivå utenfor kontroll vil denne gruppen systemer bli forbudt for utvikling, levering, utplassering og bruk i enhver form i Vietnam.

Utkastet spesifiserer identifiserende tegn, inkludert: Systemer designet for å tjene forbudt atferd; bruk av falske elementer eller simulering av virkelige personer og hendelser for å lure, manipulere oppfatninger og atferd med vilje, og dermed forårsake alvorlig skade på brukernes rettigheter; utnytte svakheter hos sårbare grupper; opprette eller spre falskt innhold som utgjør en høy risiko for nasjonal sikkerhet, sosial orden og trygghet.

Ifølge rapporten fører den raske utviklingen av AI til nye sikkerhetsrisikoer. Spesielt advares det om at deepfake kan utnyttes til å lage falske nyheter, bakvaskelse, svindel, svekke offentlig tillit og forårsake sosial ustabilitet. Autonome våpensystemer som bruker AI utgjør også en rekke etiske og juridiske utfordringer som verden fortsatt sliter med å finne løsninger på. Samtidig har ikke dagens lover holdt tritt med kontrollen, noe som fører til at forvaltningsgapet blir større og større. Derfor er kunngjøringen av en egen lov om AI et presserende krav for både å kontrollere risikoer og fremme forskning og anvendelse av AI i Vietnam.

Minister Nguyen Manh Hung sa at målet med lovforslaget er å bygge et enhetlig juridisk rammeverk for å sikre at AI utvikles trygt, ansvarlig og for menneskeheten. AI er identifisert som den nasjonale intellektuelle infrastrukturen, drivkraften for produktivitetsvekst, innovasjon og styrking av teknologisk autonomi og nasjonal konkurranseevne.

*Vitenskaps- og teknologiminister Nguyen Manh Hung taler på møtet.*

Utkastet til KI-lov består av 8 kapitler og 36 artikler; den vektlegger den menneskesentrerte KI-utviklingspolitikken og tydeliggjør statens rolle i forvaltning og etablering. Loven etablerer en risikobasert styringsmekanisme som sikrer transparent, sikker, kontrollert og ansvarlig KI-anvendelse; og beskytter sikkerhet, datasuverenitet og nasjonale teknologireserverettigheter.

Lovforslaget krever også at KI-systemer må være ufarlige, objektive og respektere menneskelige verdier; og ha en mekanisme for overvåking, inspeksjon og håndtering av brudd for å sikre avskrekking og styrke sosial tillit. Regjeringen vil fremme innovasjonsøkosystemet og utvikle menneskelige ressurser av høy kvalitet gjennom mekanismer for å støtte forskning, investeringer og opplæring for forskningsinstitutter, bedrifter og enkeltpersoner som deltar i KI-utvikling.

Nasjonalforsamlingens komité for vitenskap, teknologi og miljø var i hovedsak enig i utkastet til policy, men foreslo også å tydeliggjøre kvantitative eller kvalitative kriterier for å klassifisere KI i henhold til risikonivåer. Tilsynsorganet foreslo å legge til forbudte handlinger for å øke avskrekkingen og konsistensen i rettshåndhevelse, som å forby bruk av KI til å lage deepfakes for å begå svindel, fornærme menneskelig verdighet, forårsake politiske uroligheter, manipulere valg eller krenke nasjonal sikkerhet.

I følge planen skal regjeringen legge frem utkastet til KI-lov for nasjonalforsamlingen 21. november; delegatene skal diskutere det i salen 27. november. Lovutkastet forventes å bli et «lovlig operativsystem» for utviklingen av KI i Vietnam, og bane vei for innovasjon samtidig som det setter nødvendige grenser for å beskytte folk mot den nye generasjonen teknologi.

Senter for vitenskaps- og teknologikommunikasjon

Kilde: https://mst.gov.vn/siet-chat-lan-ranh-do-cua-ai-viet-nam-de-xuat-cam-cong-nghe-gia-mao-con-nguoi-197251117221425816.htm