Ca Mau-delegat: Behöver en "öppen rättslig ram" men strikt kontrollera riskerna vid utfärdandet av lagen om artificiell intelligens

Under morgondiskussionen den 21 november om lagförslaget om artificiell intelligens (AI) framförde nationalförsamlingsledamöter från nationalförsamlingsdelegationen i Ca Mau-provinsen många anmärkningsvärda åsikter relaterade till AI-styrningsramverket, teknisk riskkontroll, datakvalitet och policymekanismer för att främja företagsinvesteringar i AI.

Delegat Nguyen Duy Thanh: Den rättsliga ramen är för långsam – 6 grundläggande principer behövs för att skydda användarna

Delegaten Nguyen Duy Thanh betonade vikten av att lagen antas, föreslog sex principer för AI-styrning och förbjöd absolut AI att skapa falska nyheter och innehåll som stör samhället.

Enligt delegaten Nguyen Duy Thanh, ledamot av nationalförsamlingens ekonomiska utskott och vice ordförande för Ca Mau-provinsens företagsförening, är utfärdandet av AI-lagen ett krav som inte kan skjutas upp längre, eftersom AI-tekniken har penetrerat alla områden, från produktion och transport, finans till offentlig förvaltning. Vietnam reglerar dock fortfarande med fragmenterade tekniska standarder och saknar en enhetlig rättslig ram.

Delegaten Nguyen Duy Thanh föreslog att sex principer för AI-styrning skulle utvecklas för att förhindra att AI-system orsakar skada: Transparens; icke-diskriminering; respekt för integritet; ansvarsskyldighet; säkerställande av säkerhet - riskkontroll; skydda barn från AI-genererat innehåll.

Delegaten Nguyen Duy Thanh sade att AI absolut måste förbjudas från att användas för att skapa falska nyheter, särskilt för att skapa bilder av ledare, statliga myndigheter eller för att skapa innehåll som uppviglar till oordning. Detta kommer att vara en nödvändig "rättslig barriär" mot spridningshastigheten och inflytandet hos information som skapas av AI.

Delegat Dinh Ngoc Minh: "Utan källkodskontroll kan AI vara kontraproduktivt"

Delegaten Dinh Ngoc Minh föreslog att man skulle kontrollera källkoden för AI; Statliga myndigheter behöver rätten att "stänga av AI" när det inträffar en incident; och varnade för risker när AI fungerar utom kontroll.

Delegaten Dinh Ngoc Minh, medlem av nationalförsamlingens ekonomiska och finansiella utskott, varnade för att många länder har registrerat fall där robotar eller automatiserade system orsakat olyckor, till och med reagerat mot människor. Dessa berättelser är inte längre science fiction utan utspelar sig i det moderna livet.

Delegaten Dinh Ngoc Minh sade att Vietnam behöver ägna särskild uppmärksamhet åt källkodskontroll för kritiska AI-system. I vissa fall måste staten ha tillgång till eller inneha källkoden, liknande "nödstoppsknappen"-mekanismen.

”Om källkoden inte kontrolleras kan AI vara kontraproduktivt och orsaka stor skada”, betonade delegaten Dinh Ngoc Minh; samtidigt föreslog han att ansvaret för organisationer som utvecklar och driver AI tydligt skulle definieras.

Delegat Tran Thi Hoa Ry: Lagen måste vara tydlig och sammanhängande – inte en "allmän rättslig ram"

Delegaten Tran Thi Hoa Ry talade i diskussionen.

Delegaten Tran Thi Hoa Ry, vice ordförande för nationalförsamlingens etniska råd, bedömde att lagförslaget var noggrant utformat men att det fortfarande finns punkter som behöver förbättras ytterligare.

Den ramorienterade lagen är lämplig men måste vara "tydligt utformad": Delegaten Tran Thi Hoa Ry sa att vissa allmänna bestämmelser, av beskrivande karaktär, inte är tillräckliga för att vägleda genomförandet. Lagen måste tydligt definiera principer, gränser och sanktioner för att undvika framtida problem.

Översyn av lagens struktur: Delegaten Tran Thi Hoa Ry föreslog att ett antal artiklar som för närvarande tilldelas regeringen skulle ändras för att reglera för mycket innehåll, vilket orsakar överlappningar och svårigheter vid tillämpning.

Kvaliteten på indata avgör AI:s effektivitet: Delegaten Tran Thi Hoa Ry är särskilt angelägen om att data är noggrann, fullständig och transparent, eftersom om data är felaktiga kommer AI att producera felaktiga resultat.

Delegaten Tran Thi Hoa Ry begärde ett förtydligande av listan över data som ska inkluderas i den nationella AI-databasen; övervakningsprocessen för datainmatning; ytterligare data inom vissa sektorer såsom energi; och en förklaring till varför data om administrativa förfaranden – som har tillämpats på AI – inte har inkluderats i utkastet.

Lägga till förbud för att undvika oacceptabla risker: Delegaten Tran Thi Hoa Ry föreslog att man specificerar förbjudna beteenden, istället för att bara lista de olika typerna av risker i allmänhet.

Företag måste ha ”verklig motivation” att investera i AI: Delegaten Tran Thi Hoa Ry sa att för att locka företag till kostsamma områden som AI måste lagen ha starkare mekanismer, såsom: Vinstdelningsmekanism; skatteincitament; offentlig-privat partnerskapsmodell specifikt för AI.

Den nationella AI-strategin bör inte uppdateras ... vart tredje år: ”Med den nuvarande hastigheten på förändringar varje vecka behöver AI-strategin justeras mer flexibelt” - föreslog delegaten Tran Thi Hoa Ry, istället för att vänta 2-3 år med att uppdatera.

Enhetligt krav på "både öppet och tätt"

Yttrandena från nationalförsamlingsdelegaterna i Ca Maus provinsiella nationalförsamlingsdelegation syftar alla till att bygga en rättslig ram som är tillräckligt öppen för att främja forskning och innovation, men tillräckligt stram för att hantera risker, särskilt risker för integritet, nätverkssäkerhet och social trygghet.

Mot bakgrund av den dagliga utvecklingen av AI bidrar dessa förslag till att lagförslaget närmar sig internationella standarder; samtidigt som det är lämpligt för Vietnams nuvarande teknikhanteringskapacitet.

Källa: https://www.camau.gov.vn/thoi-su-chinh-tri/dai-bieu-ca-mau-can-khung-phap-ly-mo-nhung-kiem-soat-chat-rui-ro-khi-ban-hanh-luat-tri-tue-nhan--291345