Aanvullende overwegingen om een ​​uitgebreider risicobeheer voor kunstmatige intelligentie te garanderen

Op de ochtend van 26 april hield de Permanente Commissie van de Commissie voor Wetenschap, Technologie en Milieu een workshop op het hoofdkantoor van de Nationale Assemblee - 22 Hung Vuong in Hanoi. Er werden ideeën aangedragen om het wetsontwerp voor de digitale technologiesector te voltooien. Afgevaardigden stelden aanvullende bepalingen voor en overwogen deze om een ​​completer risicobeheer voor kunstmatige intelligentie te garanderen. Lokale overheden kunnen deze raadplegen tijdens het goedkeuringsproces voor tests.

De workshop werd voorgezeten door vicevoorzitter van de Commissie voor Wetenschap, Technologie en Milieu, Nguyen Phuong Tuan. Aanwezig waren de viceminister van Wetenschap en Technologie , vertegenwoordigers van de ministeries van Openbare Veiligheid, Financiën, Justitie, Onderwijs en Opleiding, bedrijven uit de digitale technologiesector, experts en wetenschappers.

Het wetsontwerp inzake de digitaletechnologiesector bestaat uit 7 hoofdstukken en 57 artikelen. Het wetsontwerp is gebaseerd op de selectieve overname van relevante bepalingen uit de wet inzake informatietechnologie en documenten die de implementatie van de informatietechnologiesector begeleiden; het is consistent met het huidige rechtssysteem inzake investeringen, financiën, wetenschap en technologie en gesynchroniseerd met gerelateerde wetsprojecten om eenheid en synchronisatie binnen het rechtssysteem te waarborgen en de implementatie en toepassing te vergemakkelijken.

Het wetsontwerp inzake de digitale technologiesector is nauwgezet opgesteld volgens de beleidslijnen die unaniem door de regering zijn goedgekeurd: activiteiten van de digitale technologiesector, digitale technologieproducten en -diensten; het waarborgen van de ontwikkeling van de digitale technologiesector. Het wetsontwerp biedt nieuwe en drastischere perspectieven voor de aanpak van de ontwikkeling van de digitale technologiesector in Vietnam, met name met superieure preferentiële beleidsmaatregelen voor buitenlandse investeerders, evenals beleidsmaatregelen voor binnenlandse ondernemingen om deel te nemen aan deze sector met vele kansen. Dankzij belangrijke wijzigingen verwachten veel experts, vertegenwoordigers van verenigingen en ondernemingen dat Vietnam de belangrijkste bestemming in Zuidoost-Azië kan worden voor investeerders in digitale technologie. Om deze verwachting waar te maken, moet Vietnam de voorwaarden versterken en creëren om investeringen aan te trekken in de ontwikkeling van de digitale technologiesector.

Conferentiescène.

Zorgen voor een uitgebreider risicomanagement voor AI

Tijdens de workshop concentreerden de afgevaardigden zich op het bijdragen aan de regelgeving inzake het mechanisme voor gecontroleerd testen van producten en diensten waarbij gebruik wordt gemaakt van digitale technologie en kunstmatige intelligentie (AI), zoals voorgesteld in het wetsontwerp.

AI wordt momenteel in veel landen sterk gepromoot en heeft de potentie om in veel verschillende sectoren en industrieën te worden toegepast, waardoor voortdurend nieuwe producten ontstaan. Een AI-systeem met een hoog risico is echter een AI-systeem dat ernstige risico's en schade kan veroorzaken aan de menselijke gezondheid, mensenrechten en belangen, publieke belangen en de maatschappelijke orde en veiligheid. Daarom ontwikkelen en publiceren ministeries en afdelingen, op basis van de actuele situatie, richtlijnen met ethische regels voor de ontwikkeling, implementatie en het gebruik van AI-systemen in hun respectievelijke vakgebieden.

Mevrouw Chu Thi Hoa, adjunct-directeur van het Instituut voor Strategie en Rechtswetenschappen van het Ministerie van Justitie, zei dat bij de ontwikkeling, levering en het gebruik van AI flexibiliteit en aanpasbaarheid essentieel zijn; dat AI regelmatig wordt geëvalueerd, herzien en aangevuld om snel aan de praktische behoeften te voldoen. Tegelijkertijd moet AI divers en inclusief zijn, geschikt voor een steeds bredere dekking op alle gebieden, omdat de ontwikkeling, inzet en het gebruik van AI in de toekomst steeds diverser zullen worden.

Het wetsontwerp inzake de digitaletechnologiesector stelt in artikel 11 verboden handelingen vast (inclusief handelingen met betrekking tot AI). Volgens mevrouw Chu Thi Hoa zou de redactiecommissie er echter rekening mee moeten houden dat naast het vaststellen van verboden handelingen ook bepalingen moeten worden toegevoegd die rechten beperken, rekening houdend met soorten handelingen die alleen onder bepaalde voorwaarden kunnen worden verricht (bijvoorbeeld het gebruik van risicovolle AI). Bepalingen over het beperken van rechten om te voldoen aan clausule 2, artikel 14 van de Grondwet van 2013, zouden in juridische documenten moeten worden vastgelegd. De redactiecommissie zou daarom moeten overwegen om meer bepalingen toe te voegen om een ​​vollediger risicobeheer voor AI te garanderen.

Tijdens het goedkeuringsproces van het proces kunnen lokale autoriteiten worden geraadpleegd.

In een reactie op het gecontroleerde testmechanisme dat in het wetsontwerp over de digitale technologiesector wordt voorgesteld, gaf de heer Nguyen Duc Lam van het Institute for Policy Research and Media Development (IPS) aan dat lokale overheden, in plaats van de bevoegdheid te krijgen om het testmechanisme goed te keuren, bedrijven die deelnemen aan het testmechanisme zouden kunnen ondersteunen met financiering, het faciliteren van de bouw, het ontwikkelen van partnerschappen, belastingvoordelen of het opzetten van lokale innovatiecentra die parallel aan het nationale sandbox-initiatief opereren. Lokale overheden zouden kunnen worden geraadpleegd in het goedkeuringsproces voor tests, met name als de bedrijfsinnovatie van belang is voor de regio, zoals in slimme steden of lokale initiatieven voor financiële technologie.

De opsteller van het wetsontwerp kan de volgende bepalingen toevoegen over de verantwoordelijkheden van ministeries, agentschappen op ministerieel niveau en provinciale volkscomités (indien van toepassing). Daarnaast is het noodzakelijk om informatie over testprocedures en -mechanismen, richtsnoeren en contactpunten van ministeries, agentschappen op ministerieel niveau en provinciale volkscomités te publiceren op het elektronisch informatieportaal, zodat bedrijven deze gemakkelijk kunnen opzoeken, raadplegen en contact met hen kunnen opnemen. De verantwoordelijkheid van overheidsinstanties is om het publiek te informeren wanneer bedrijven die deelnemen aan testmechanismen aanzienlijke schade aan consumenten toebrengen of falen; en om transparante rapporten te publiceren met details over de uitvoering en resultaten van de tests.

Bedrijven kunnen klachten of rechtszaken aanspannen tegen de toezichthoudende instantie als ze van mening zijn dat de instantie haar taken niet naar behoren heeft uitgevoerd. Bijvoorbeeld als de instantie willekeurig handelt, de regels negeert, geen adequate en correcte richtlijnen geeft (waardoor het bedrijf schade ondervindt), de beoordeling en goedkeuring vertraagt ​​(waardoor het bedrijf schade ondervindt), of discrimineert in het goedkeurings- en toezichtproces.

Ter afsluiting van de workshop bevestigde vicevoorzitter van de Commissie voor Wetenschap, Technologie en Milieu, Nguyen Phuong Tuan, het belang van een bijdrage aan de regelgeving inzake het mechanisme voor gecontroleerd testen van producten en diensten met behulp van digitale technologie en AI, zoals voorgesteld in het wetsontwerp inzake de digitaletechnologiesector. De opmerkingen tijdens de workshop vormen een belangrijke basis voor de opsteller en de beoordelende instantie om het wetsontwerp te voltooien alvorens het ter overweging en bespreking aan de Nationale Vergadering voor te leggen tijdens de komende negende zitting.

Volgens het elektronische informatieportaal van de Nationale Assemblee van Vietnam

Bron: https://mst.gov.vn/xem-xet-bo-sung-de-dam-bao-day-du-hon-ve-quan-ly-rui-ro-doi-voi-tri-tue-nhan-tao-197251101210619706.htm