Särskilda regler behövs för att skydda barn från den mörka sidan av AI.

Vetenskaps- och teknikminister Nguyen Manh Hung presenterar lagförslaget om artificiell intelligens. Foto: QUANG PHUC

Ordföranden för nationalförsamlingens kommitté för vetenskap, teknologi och miljö (KHCN-MT), Nguyen Thanh Hai, presenterade rapporten om granskningen av lagförslaget och sa att kommittén höll med om behovet av att utfärda lagen om artificiell intelligens mot bakgrund av AI:s anmärkningsvärda utveckling. Förutom snabb utveckling, alltmer utbredd tillämpning och positiva effekter medför AI också många utmaningar när det gäller ekonomi , samhälle, säkerhet och trygghet; och potentiella risker som är svåra att förutsäga.

Utskottet för vetenskap, teknik och miljö rekommenderar att den utarbetande myndigheten fortsätter att granska och noggrannare utvärdera graden av institutionalisering av partiets politik och inriktningar, särskilt vad gäller AI-utveckling för människor och hållbar utveckling; kraftfullt utveckla AI-tillämpningar baserade på stordata för viktiga industrier och områden; attrahera, anställa och behålla ledande forskare , experter och "chefsingenjörer" i hemlandet och utomlands inom AI-teknikutveckling...

Các đại biểu dự phiên họp sáng 21-11.jpg — Delegater som deltar i morgonmötet den 21 november. Foto: QUANG PHUC

Beträffande statens policy för artificiell intelligens föreslog utskottet för vetenskap, teknik och miljö att lägga till vissa policyinnehåll, särskilt för att främja kontrollerad testning av avancerad AI-teknik men med potentiella risker; innehåll: Staten säkerställer tillgång till högkvalitativa stordata för att underlätta utbildning av AI-modeller; Staten har en mekanism för att attrahera och belöna experter, och inriktar personalutbildning i linje med företagens behov; Staten har en policy för fördjupad utbildning och popularisering av grundläggande digital kunskap och färdigheter, AI-etik för tjänstemän, människor, särskilt barn, för att använda AI på ett säkert sätt.

Ordföranden för nationalförsamlingens utskott för vetenskap, teknik och miljö, Nguyen Thanh Hai, presenterar en rapport om granskningen av projektet om lagen om artificiell intelligens. Foto: QUANG PHUC

När det gäller den kontrollerade testmekanismen för AI erkänner kommissionen att testning är ett oundvikligt steg i produktutvecklingen, särskilt för nya och högrisk-AI-system. Att tillåta kontrollerad testning är nödvändigt för att främja innovation. Därför är det nödvändigt att studera och komplettera mekanismen för undantag från ansvar för risker som uppstår under testprocessen när organisationer och individer har följt bestämmelserna.

Den kontrollerade testmekanismen har dock reglerats i lagen om vetenskap, teknik och innovation, utkastet till lag om digital transformation och de vägledande dokumenten om sandlådor. För att undvika dubbelarbete föreslås det därför att denna lag endast reglerar det specifika innehållet i testning av AI-system; samtidigt fokuserar den på mekanismen efter inspektion, utvärderar testresultaten och säkerställer förenkling av administrativa förfaranden.

För utsatta grupper som barn anser kommittén att AI också har oroande nackdelar, såsom att när barn är för beroende av AI för att hitta svar eller lösa uppgifter förlorar de möjligheten att utöva självständigt tänkande, analys och kreativitet; de är benägna att agera avvikande; de kan missta AI för en sann vän och agera på råd från AI som kan vara olämpliga eller farliga; och de kan bli manipulerade eller lurade.

Inspektionsmyndigheten hänvisade till erfarenheter från andra länder, som visar att Italiens AI-lag föreskriver att personer under 14 år endast får använda AI med sina föräldrars eller vårdnadshavares samtycke; enligt ett nyligen genomfört förslag måste användare i EU vara över 16 år för att använda AI utan föräldrars samtycke; Lagen om kontroll av AI-chatbotar i delstaten Kalifornien (USA) föreskriver att AI-plattformar är skyldiga att tydligt meddela användare under 18 år var tredje timme att de chattar med en chatbot och inte en människa.

Därför rekommenderar kommittén att den lagstiftande församlingen studerar och kompletterar specifika bestämmelser för att skydda barn från de negativa aspekterna av AI, vägleder barn till att använda AI på ett säkert och hälsosamt sätt, där föräldrars och skolors roll och ansvar i att övervaka och öka barns medvetenhet om AI främjas.

PHAN THAO

Källa: https://www.sggp.org.vn/can-co-quy-dinh-rieng-nham-bao-ve-tre-em-truoc-mat-trai-cua-ai-post824617.html