Förslag om att använda AI för kommunikation och reklam måste vara tydligt märkta och tillkännagivna.

Lagförslaget om artificiell intelligens föreskriver att det är nödvändigt att tydligt anmäla och märka innehåll som skapats eller redigerats med element som simulerar verkliga människor (deepfakes) som kan orsaka missförstånd, eller innehåll som skapats med artificiell intelligens för kommunikations- och reklamsyften.

Klassificering av artificiella intelligenssystem i fyra risknivåer

På morgonen den 21 november lyssnade nationalförsamlingen på presentationen och rapporten om granskningen av lagutkastet om artificiell intelligens.

När vetenskaps- och teknikminister Nguyen Manh Hung presenterade rapporten sa han att lagförslaget utformades för att skapa en banbrytande rättslig korridor för artificiell intelligens, skapa en gynnsam rättslig miljö för att främja innovation, förbättra nationell konkurrenskraft och samtidigt hantera risker, skydda nationella intressen, mänskliga rättigheter och digital suveränitet.

Vetenskaps- och teknikminister Nguyen Manh Hung presenterade rapporten.

För att reglera system för artificiell intelligens har lagförslaget antagit en riskbaserad hanteringsmetod, där artificiell intelligens klassificeras i fyra nivåer och motsvarande skyldigheter införs.

System för artificiell intelligens klassificeras i fyra risknivåer: Oacceptabel risk: systemet har potential att orsaka allvarlig, irreparabel skada.

Hög risk är ett system som kan orsaka skada på liv, hälsa, rättigheter och legitima intressen; medelhög risk är ett system som riskerar att förvirra, manipulera eller lura användare. Låg risk är de återstående fallen.

Leverantören måste självklassificera systemet före cirkulation och ansvarar för klassificeringsresultaten.

För system med medelhög och hög risk måste leverantören anmäla detta till ministeriet för vetenskap och teknik via One-Stop-portalen. Den behöriga myndigheten har rätt att granska och omvärdera klassificeringen.

Lagen föreskriver ansvaret för transparens, märkning och ansvarsskyldighet. Mer specifikt måste den implementerande parten tydligt anmäla och märka innehåll som skapats eller redigerats med falska element, simulerat verkliga människor (deepfakes) som kan orsaka missförstånd, eller innehåll som skapats med artificiell intelligens för kommunikations- och reklamändamål.

Leverantörer och implementatörer måste förklara resultaten av hantering av högrisksystem när berörda parter begär det.

Vid en incident är parterna ansvariga för att omedelbart korrigera, avbryta eller dra tillbaka systemet och rapportera det via One-Stop-portalen. Av riskhanteringsskäl är det förbjudet att utveckla, leverera, driftsätta eller använda dessa system i någon form, med oacceptabel risk.

Den förbjudna listan inkluderar system som används för handlingar som är förbjudna enligt lag, använder falska element för att lura, manipulera och orsaka allvarlig skada, utnyttjar svagheter hos utsatta grupper (barn, äldre etc.) eller skapar falskt innehåll som allvarligt skadar den nationella säkerheten.

För högrisksystem måste högrisksystemets lämplighet bedömas innan det tas i omlopp eller används.

Bedömning kan ske i form av certifiering av överensstämmelse (utförd av ett ackrediterat organ) eller övervakning av överensstämmelse (självbedömning av leverantören).

Statsministern föreskriver en lista över högrisksystem för artificiell intelligens som motsvarar varje bedömningsform.

Detaljerade skyldigheter fastställs för leverantören (fastställande av riskhanteringsåtgärder, hantering av utbildningsdata, utarbetande av teknisk dokumentation, säkerställande av mänsklig tillsyn) och implementatören (verksam i enlighet med avsett syfte, säkerställande av säkerhet, uppfyllande av transparensskyldigheter).

Utländska leverantörer med högrisksystem måste ha en auktoriserad representant i Vietnam och måste etablera en juridisk person i Vietnam om systemet är föremål för obligatorisk överensstämmelsescertifiering.

För modeller med medelhög, låg risk och flerfunktion måste systemet med medelhög risk säkerställa transparens och märkning.

Utkastet anger även ansvaret för utvecklare och användare av generella modeller för artificiell intelligens (AI) för att säkerställa efterlevnad av vietnamesisk lag. Utökade skyldigheter gäller för GPAI-modeller med systemrisk (potential för långtgående konsekvenser), inklusive konsekvensbedömning, teknisk dokumentation och anmälan till ministeriet för vetenskap och teknik.

Öppen källkod för allmänna AI-modeller är dock undantagna från dessa utökade skyldigheter; om en öppen källkodsmodell används för att utveckla ett AI-system måste den användande organisationen genomföra riskhantering för det systemet.

Överväg att använda osynlig märkning för att minska kostnaderna

Ur ett granskningsperspektiv sa ordföranden för utskottet för vetenskap, teknik och miljö, Nguyen Thanh Hai, att utskottet anser att märkning av AI-produkter är ett bindande etiskt och juridiskt ansvar för att bygga förtroende i AI-eran.

Ordförande för utskottet för vetenskap, teknik och miljö, Nguyen Thanh Hai.

Kommittén instämmer i princip i märkningsbestämmelserna i lagutkastet, men rekommenderar att man hänvisar till internationella erfarenheter av AI-genererade produkter för att säkerställa lämplighet med Vietnams praktiska förhållanden.

För produkter och hårdvaruenheter med AI-applikationer (som kylskåp, TV-apparater, tvättmaskiner etc.) rekommenderas det att undersöka och överväga att använda osynliga vattenstämplar för att minska kostnader och procedurer samtidigt som hantering och spårbarhet säkerställs.

Samtidigt föreslås det att det i lagförslaget anges principerna för regeringens utfärdande av detaljerade instruktioner om blanketter, tekniska standarder och undantag.

Det finns ett förslag om att ändra märkningsförordningen från obligatorisk till rekommenderad, med minimal teknisk vägledning.

Samtidigt är det nödvändigt att testa en frivillig märkningsmekanism inom ett antal områden; samtidigt stärka kommunikationen för att undvika missförståndet att "ingen märkning inte betyder att det inte är en AI-produkt".

Beträffande riskklassificering anser kommittén att den fyrnivåklassificering som lagen om produkt- och varukvalitet klassificerar produkter och varor i tre typer är inkonsekvent om AI betraktas som produkter och varor.

Föreskrifter om certifiering av överensstämmelse för högrisksystem för artificiell intelligens är inte förenliga med principerna för hantering av högriskprodukter och -varor som föreskrivs i lagen om produkt- och varukvalitet.

Det rekommenderas därför att fortsätta granska och noggrant jämföra bestämmelserna i lagförslaget med gällande lagstiftning.

Enligt Byggtidningen

Källa: https://mst.gov.vn/de-xuat-dung-ai-de-truyen-thong-quang-cao-phai-dan-nhan-thong-bao-ro-197251125140252967.htm