Spesielle regler er nødvendige for å beskytte barn mot den mørke siden av AI.

Om morgenen 21. november lyttet representanter fra nasjonalforsamlingen til vitenskaps- og teknologiminister Nguyen Manh Hung, autorisert av statsministeren, som presenterte lovutkastet om kunstig intelligens.

Vitenskaps- og teknologiminister Nguyen Manh Hung presenterer lovutkastet om kunstig intelligens. Foto: QUANG PHUC

Leder av nasjonalforsamlingens komité for vitenskap, teknologi og miljø (KHCN-MT), Nguyen Thanh Hai, presenterte rapporten om gjennomgangen av lovutkastet, og sa at komiteen var enig i behovet for å kunngjøre loven om kunstig intelligens i sammenheng med AIs bemerkelsesverdige utvikling. Sammen med rask utvikling, stadig mer utbredt anvendelse og positive virkninger, byr AI også på mange utfordringer når det gjelder økonomi , samfunn, sikkerhet og trygghet; og potensielle risikoer som er vanskelige å forutsi.

Komiteen for vitenskap, teknologi og miljø anbefaler at det utkastende organet fortsetter å gjennomgå og evaluere nøyere graden av institusjonalisering av partiets politikk og retningslinjer, spesielt når det gjelder AI-utvikling for mennesker og bærekraftig utvikling; utvikle AI-applikasjoner basert på stordata for viktige bransjer og felt; tiltrekke, ansette og beholde ledende forskere , eksperter og "sjefsingeniører" i inn- og utland innen AI-teknologiutvikling ...

Delegater som deltar på morgenmøtet 21. november. Foto: QUANG PHUC

Når det gjelder statens politikk for kunstig intelligens, foreslo Komiteen for vitenskap, teknologi og miljø å legge til noe policyinnhold, spesielt å fremme kontrollert testing av avanserte KI-teknologier, men med potensielle risikoer; innhold: Staten sikrer tilgang til stordata av høy kvalitet for å tjene som opplæring i KI-modeller; Staten har en mekanisme for å tiltrekke og belønne eksperter, og tilpasse opplæringen av menneskelige ressurser i tråd med forretningsbehov; Staten har en politikk for grundig opplæring og popularisering av grunnleggende digital kunnskap og ferdigheter, KI-etikk for embetsmenn, mennesker, spesielt barn, for å bruke KI på en trygg måte.

Leder av nasjonalforsamlingens komité for vitenskap, teknologi og miljø, Nguyen Thanh Hai, presenterer en rapport om gjennomgangen av prosjektet om lov om kunstig intelligens. Foto: QUANG PHUC

Når det gjelder den kontrollerte testmekanismen for AI, erkjenner kommisjonen at testing er et uunngåelig trinn i produktutvikling, spesielt for nye og høyrisiko-AI-systemer. Å tillate kontrollert testing er nødvendig for å fremme innovasjon. Derfor er det nødvendig å studere og supplere mekanismen for ansvarsfritak for risikoer som oppstår under testprosessen når organisasjoner og enkeltpersoner har overholdt regelverket.

Mekanismen for kontrollert testing er imidlertid regulert i loven om vitenskap, teknologi og innovasjon, utkastet til lov om digital transformasjon og veiledningsdokumentene om sandkasser. For å unngå dobbeltarbeid foreslås det derfor at denne loven kun regulerer det spesifikke innholdet i testing for AI-systemer; samtidig fokuserer den på etterkontrollmekanismen, evaluerer testresultatene og sikrer forenkling av administrative prosedyrer.

For sårbare grupper som barn mener komiteen at KI også har bekymringsfulle ulemper, som at når barn er for avhengige av KI til å finne svar eller løse oppgaver, mister de muligheten til å praktisere selvstendig tenkning, analyse og kreativitet; er utsatt for avvikende atferd; kan forveksle KI med en sann venn og handle på råd fra KI som kan være upassende eller farlige; bli manipulert eller svindlet.

Inspeksjonsbyrået viste til erfaringer fra andre land, som viser at Italias KI-lovgivning fastsetter at personer under 14 år kun kan bruke KI med samtykke fra foreldre eller foresatte; ifølge et nylig forslag må brukere i EU være over 16 år for å bruke KI uten foreldrenes samtykke; Californias (USA) lov om kontroll av KI-chatboter fastsetter at KI-plattformer er pålagt å varsle brukere under 18 år tydelig hver tredje time om at de chatter med en chatbot og ikke et menneske.

Komiteen anbefaler derfor at det utkastende byrået studerer og utfyller spesifikke forskrifter for å beskytte barn mot de negative sidene ved KI, veileder barn til å bruke KI på en trygg og sunn måte, der foreldres og skolenes rolle og ansvar i å overvåke og øke barns bevissthet om KI fremmes.

PHAN THAO

Kilde: https://www.sggp.org.vn/can-co-quy-dinh-rieng-nham-bao-ve-tre-em-truoc-mat-trai-cua-ai-post824617.html