Behoefte aan specifiek mechanisme voor hoger onderwijs
Tijdens de discussie in Groep 1 beoordeelde Nguyen Thi Lan, lid van de Nationale Assemblee, het wetsontwerp inzake kunstmatige intelligentie (AI) als een baanbrekende wet die een juridische basis legt voor een technologiegebied dat bepalend is voor het nationale concurrentievermogen in de komende decennia. De afgevaardigde gaf tevens aan dat het wetsontwerp een zeer vooruitstrevende aanpak heeft, zoals: risicogestuurd management; het opzetten van infrastructuur, data en een testomgeving voor AI; het bevorderen van ethiek en verantwoordingsplicht; en, het allerbelangrijkst, het vormgeven van een alomvattend beleid voor personeelsontwikkeling, in lijn met de Vietnamese praktijk en internationale trends.
Om het wetsontwerp te voltooien en effectiever tot stand te brengen, gaf Nguyen Thi Lan, afgevaardigde van de Nationale Assemblee, commentaar op een aantal belangrijke kwesties. Ten eerste is het noodzakelijk om het mechanisme voor de ontwikkeling van AI-personeel te voltooien (artikel 24 en artikel 1). Volgens de analyse van de afgevaardigde heeft het wetsontwerp de oriëntatie voor de ontwikkeling van AI-personeel geschetst in artikel 24, maar er zijn nog steeds drie grote knelpunten in het hoger onderwijs die de wet niet heeft opgelost: de trage procedures voor het openen van nieuwe opleidingen, terwijl AI zeer snel verandert; scholen hebben moeite om internationale experts aan te trekken door het ontbreken van specifieke mechanismen; er is geen krachtig beleid voor de ontwikkeling van AI-docenten...
Bovendien bepaalt artikel 1 dat AI voor "onderzoek en opleiding" niet binnen de reikwijdte van de wet valt, maar het verduidelijkt niet wat "intern gebruik" inhoudt. Indien dit niet duidelijk wordt uitgelegd, kan de managementinstantie dit verkeerd interpreteren, waardoor de samenwerking tussen universiteiten en bedrijven wordt beperkt, terwijl dit juist een zeer belangrijke activiteit is voor de ontwikkeling van hoogwaardige AI-personeelsbronnen.
"Daarom stel ik voor om aan de wet specifieke mechanismen voor hoger onderwijs toe te voegen, waardoor scholen proactief nieuwe studierichtingen kunnen openen; beleid kunnen voeren om internationale experts aan te trekken; en mechanismen kunnen ontwikkelen voor de opleiding van docenten, met name op het gebied van AI, data en automatisering. Tegelijkertijd is het noodzakelijk om de reikwijdte van "AI voor onderzoek en training" te verduidelijken om open academische activiteiten te garanderen", benadrukte Nguyen Thi Lan, afgevaardigde van de Nationale Assemblee.
Tegelijkertijd haalden afgevaardigden ook ervaringen aan uit Singapore, Zuid-Korea en Israël, waaruit blijkt dat AI-personeel zich snel en duurzaam ontwikkelt wanneer universiteiten een sterke autonomie krijgen en worden aangemoedigd om samen te werken met bedrijven. De Vietnamese praktijk bewijst ook dat scholen met flexibele mechanismen betere en snellere teams opleiden.
Er is behoefte aan een heldere definitie van de principes voor de typen AI die getest kunnen worden.
In een commentaar op het gecontroleerde testmechanisme (sandbox) in artikel 22, was afgevaardigde Nguyen Thi Lan van de Nationale Assemblee zeer te spreken over de opname van het sandboxmechanisme in het ontwerp, omdat dit een belangrijk instrument is voor het testen van nieuwe technologieën vóór brede toepassing. Artikel 22 is echter nog steeds vrij algemeen en stelt niet duidelijk vast welke proefpersonen mogen deelnemen, welke criteria er gelden voor de selectie van testmodellen, welke pilotperiode er is, welke wettelijke aansprakelijkheid er bestaat bij risico's en welk mechanisme er nodig is voor gegevensbescherming... De afgevaardigde is dan ook van mening dat als deze principes niet in de wet worden verduidelijkt, de sandbox in de praktijk moeilijk te hanteren zal zijn of te voorzichtig zal worden toegepast, waardoor innovatie wordt vertraagd.
"De wet moet duidelijk de principes vastleggen van de soorten AI die getest kunnen worden; de rechten en plichten van deelnemende eenheden, waaronder universiteiten, onderzoeksinstituten en startups; de testperiode; de criteria voor risicobeoordeling en compensatiemechanismen. De gedetailleerde technische procedures kunnen later aan de overheid worden overgedragen om flexibiliteit te garanderen", stelde Nguyen Thi Lan, afgevaardigde van de Nationale Assemblee.
De afgevaardigde haalde ook internationale lessen aan die aantoonden dat het sandbox-mechanisme van Singapore, het VK of de EU alleen effectief is wanneer het transparant wordt gelegaliseerd, waardoor de implementatietijd van nieuwe technologie met 50-70% wordt verkort. Ondertussen is er in Vietnam momenteel een gebrek aan testomgevingen voor AI in de landbouw , gezondheidszorg, onderwijs, transport of slimme steden. De voltooiing van artikel 22 zal daarom de weg vrijmaken voor vele nieuwe generatie AI-modellen, wat R&D en innovatie bevordert.
Met betrekking tot de nationale strategie voor AI analyseerde Nguyen Thi Lan, lid van de Nationale Assemblee, dat hoewel artikel 20 een correct oriëntatiekader voor de nationale strategie voor AI heeft vastgesteld, inclusief technologie, infrastructuur, data en ontwikkeling van menselijke hulpbronnen, de inhoud nog steeds algemeen is en geen duidelijk gedefinieerde strategische prioriteitsgebieden bevat, terwijl dit juist gebieden zijn waar AI sterke spillover-effecten kan hebben en die geschikt zijn voor de Vietnamese omstandigheden. Zonder focus kan de strategie gemakkelijk versnipperd raken en is het moeilijk om doorbraken te creëren.
Daarom stelden de afgevaardigden voor om prioriteitsgebieden als landbouw, gezondheidszorg, onderwijs, milieu en openbaar bestuur duidelijk te identificeren. Tegelijkertijd moeten er principes worden vastgelegd voor de selectie van de belangrijkste gebieden en de verantwoordelijkheden van elk ministerie en elke sector bij de implementatie van de strategie. Dit is een belangrijke vereiste om te garanderen dat de strategie haalbaar is en echte waarde creëert.
Ervaringen uit Singapore, Zuid-Korea en de EU tonen aan dat AI-strategieën alleen effectief zijn wanneer prioriteiten duidelijk gedefinieerd zijn en er een transparant monitoringmechanisme is. De Vietnamese praktijk bewijst ook dat AI-modellen in de landbouw, gezondheidszorg en het onderwijs, mits er intensief in geïnvesteerd wordt, duidelijke resultaten zullen opleveren en een groot verspreidingspotentieel hebben. "In deze geest verwacht ik dat het wetsontwerp inzake kunstmatige intelligentie, na voltooiing, een voldoende sterk juridisch kader zal creëren, innovatie zal bevorderen, hoogwaardige menselijke hulpbronnen zal ontwikkelen en nieuwe ruimte zal creëren voor AI-toepassingen ten behoeve van de sociaaleconomische ontwikkeling, de veiligheid zal waarborgen, het leven van mensen zal verbeteren en Vietnam sneller het digitale tijdperk in zal loodsen", benadrukte Nguyen Thi Lan, afgevaardigde van de Nationale Assemblee.
Het opbouwen van een "AI-cultuur"
Afgevaardigde Bui Hoai Son waardeerde artikel 4 van het wetsontwerp ten zeerste, waarin de principes werden bevestigd van "het centraal stellen van mensen, het respecteren van de menselijke waardigheid, mensenrechten, privacy en het waarborgen van publieke belangen"; "het garanderen van veiligheid, eerlijkheid, transparantie, geen vooroordelen, geen discriminatie en geen schade aan mens of samenleving"; "het naleven van de wet, ethische normen en culturele waarden van Vietnam, het bijdragen aan het versterken van orde, moraliteit en een gezonde sociale ontwikkeling"; en tegelijkertijd "het bevorderen van innovatie die verband houdt met groene, inclusieve en duurzame ontwikkeling, het behouden van de nationale culturele identiteit".
Volgens de afgevaardigde is het centraal stellen van cultuur, ethiek, identiteit en mensen in een technologiewet een zeer juiste keuze. Dit is in lijn met de geest van de grondwet, met de richtlijnen van de partij met betrekking tot cultuur als spirituele basis, doel en drijvende kracht voor ontwikkeling, en geeft tegelijkertijd duidelijk de boodschap weer: AI moet mensen dienen, niet vervangen. Vanuit cultureel perspectief zei Bui Hoai Son, afgevaardigde van de Nationale Assemblee, dat dit de basis is voor het opbouwen van een "AI-cultuur" – dat wil zeggen een systeem van waarden, normen, levensstijlen en gedragingen van mensen in een omgeving die steeds meer door technologie wordt verzadigd.
Om deze principes gemakkelijker te kunnen implementeren, stemde afgevaardigde Bui Hoai Son in met het advies van de Commissie voor Wetenschap, Technologie en Milieu dat de principes geherstructureerd moeten worden in groepen: groep voor mensen en rechten, groep voor veiligheid - risico's, groep voor ethiek - recht, groep voor ontwikkeling - integratie. Dit om duplicatie te voorkomen en de logica en het gebruiksgemak voor uitvoerende instanties te vergroten. Tegelijkertijd is het noodzakelijk om te overwegen om duidelijke principes toe te voegen over verantwoording en traceerbaarheid voor AI-systemen, zodat alle systemen gedurende hun hele levenscyclus gecontroleerd en gemonitord kunnen worden, met name in gevoelige sectoren zoals journalistiek, media, onderwijs en cultuur.
Afgevaardigde Bui Hoai Son van de Nationale Assemblee stelde ook voor om de inhoud met betrekking tot kwetsbare groepen te verduidelijken: vrouwen, kinderen, mensen met een beperking, etnische minderheden, enz. AI kan onbedoeld gender-, regionale en etnische vooroordelen reproduceren als de trainingsgegevens dergelijke vooroordelen bevatten. Daarom is het in artikel 4 en de bepalingen over gebruikersbescherming noodzakelijk om vereisten toe te voegen om de sociaal-culturele impact en de impact op gendergelijkheid op kwetsbare groepen te beoordelen tijdens het ontwerp- en werkingsproces van AI-systemen. Tegelijkertijd sprak de afgevaardigde zijn instemming uit met de suggestie van het beoordelingsbureau dat het wetsontwerp aparte bepalingen zou moeten bevatten over de rechten van gebruikers en mensen die worden beïnvloed door AI-systemen, zoals het recht om te weten en het recht om mensen te verzoeken geautomatiseerde beslissingen van AI te beoordelen.
"Dit is niet alleen een juridisch probleem, maar ook een cultureel probleem: ervoor zorgen dat mensen altijd de controle behouden en niet onbewust worden 'gestuurd' door algoritmes in hun dagelijks leven", benadrukte Bui Hoai Son, afgevaardigde in het parlement.
Met name Bui Hoai Son, afgevaardigde van de Nationale Assemblee, waardeerde deze aanpak zeer, omdat deze de wet inzake kunstmatige intelligentie koppelde aan Resolutie 71 van het Centraal Comité over doorbraken in de ontwikkeling van onderwijs en opleidingen, evenals aan de resolutie over specifieke mechanismen en beleidsmaatregelen ter implementatie van Resolutie 71-NQ/TW, die ook in behandeling is bij de Nationale Assemblee tijdens deze zitting. Vanuit de praktijk van cultuureducatie zei de afgevaardigde echter dat het onderwijzen van AI op scholen niet alleen gaat om het aanleren van vaardigheden in het gebruik van hulpmiddelen, maar ook om het aanleren van "digitale cultuur", "technologie-ethiek" en het vermogen om informatie te beoordelen. Leerlingen moeten de risico's begrijpen, zoals desinformatie, manipulatie van de publieke opinie, afhankelijkheid van machines en het verlies van onafhankelijk en creatief denkvermogen.
Daarom stelden de afgevaardigden voor dat het wetsontwerp meer nadruk zou moeten leggen op educatieve inhoud, met name op: privacy, bescherming van persoonsgegevens in de AI-omgeving, respect voor auteursrechten, naburige rechten, creatieve ethiek bij het gebruik van AI in de kunst, en training in esthetisch vermogen, kritisch denken, het vermogen om onderscheid te maken tussen door mensen gegenereerde inhoud en door AI gegenereerde inhoud, zodat niet alles gelijk wordt gesteld en de 'ziel' van cultuur niet verloren gaat.
Bron: https://daibieunhandan.vn/chu-dong-tan-dung-cac-co-hoi-cua-lan-song-cong-nghe-moi-10396562.html
Reactie (0)