Transparens i produkter för artificiell intelligens

Många produkter inom artificiell intelligens (AI) avslöjar inte idag nivån av tekniska ingrepp, vilket gör det svårt för användare att skilja mellan äkta och falska produkter. Mot bakgrund av denna situation har det blivit ett brådskande krav att tydligt definiera skyldigheten att vara transparent och märka AI-produkter.

FPT :s monter om AI-tillämpningar inom olika områden.

Idag, från att skapa visuellt, ljud- och textinnehåll till automatiserat beslutsstöd, är många AI-produkter omärkta och delas som vanligt innehåll. Konsekvensen är att användare inte vet om de interagerar med mänskligt eller AI-genererat innehåll och kan tro på felaktig information eller manipulation.

Till exempel publicerar en skönhetssalong en AI-genererad annons med en modellbild, vilket får kunderna att felaktigt tro att den är verklig, men när de upplever tjänsten upptäcker de att kvaliteten inte är den som annonseras. Farligare är att AI skapar falska foton av kända personer, videor som simulerar politikers uttalanden eller artiklar skapade av AI men med namn på riktiga personer, vilket skadar personlig heder och myndigheters och organisationers rykte.

Dessutom minskar avsaknaden av en märkningsmekanism användarnas förtroende för digitala plattformar och AI-produkter. En digital miljö som inte är transparent om innehållets ursprung kommer att göra användarna misstänksamma och distanserade. Samtidigt har de flesta vietnamesiska användare inte för vana att identifiera och verifiera innehållets ursprung, och de tekniska verktygen för att upptäcka AI-produkter är begränsade.

Att tydligt definiera transparens- och märkningsskyldigheter är inte bara ett teknologiskt etiskt krav, utan också en rättslig grund för att skydda både användare och utvecklare av AI-produkter. För att uppfylla detta krav utvecklar ministeriet för vetenskap och teknik lagen om artificiell intelligens, där artikel 12 föreskriver "Transparens, märkning och ansvarsskyldighet".

Följaktligen är märkning tillämpningen av tekniska åtgärder för att tydligt, lätt igenkännbart och maskinläsbart meddela att innehåll (text, bild, ljud, video) skapats eller väsentligt modifierats av AI-system. Meddelandet måste göras när innehållet publiceras i stor utsträckning.

Denna förordning fastställer obligatoriska märkningsskyldigheter för produkter som skapats eller redigerats av AI, i syfte att göra det digitala rummet transparent, skydda konsumenter och kräva att leverantörer och distributionsföretag är gemensamt ansvariga om underlåtenhet att märka orsakar förvirring eller skada.

För innehåll som simulerar verkliga människor, föremål, platser eller händelser föreskriver lagförslaget att leverantörer måste vidta åtgärder för att tydligt identifiera att innehållet skapas av AI och säkerställa möjligheten att autentisera och spåra dess ursprung. Detta anses vara ett viktigt steg i hanteringen av AI-teknik, i linje med internationella trender då Europeiska unionen (EU), USA, Japan och Sydkorea alla har utfärdat liknande regler.

Trots att de är överens om nödvändigheten anser många experter och företag att märkningsreglerna i lagförslaget behöver vara mer specifika. Advokat Hoang Le Quan, Vietnam Commercial Legal Limited Liability Law Firm (Lexcomm Vietnam LLC), anser att det är nödvändigt att klargöra om AI-leverantörer själva kan bestämma formen för märkning eller måste följa regeringens instruktioner.

Om det finns riktlinjer måste de vara tydliga och säkerställa harmoni med internationella standarder, så att man undviker att Vietnams krav är helt annorlunda eller skapar nya skyldigheter, särskilt för multinationella leverantörer, vilket påverkar Vietnams konkurrenskraft inom AI-tillämpning och utveckling jämfört med andra marknader som Europeiska unionen (EU), Sydkorea eller USA.

Vissa yttranden betonar behovet av att tydligt definiera tillämpningsomfattningen och -nivån, huruvida allt innehåll med AI-element måste märkas, eller endast produkter som skapats helt av AI eller som i betydande grad påverkats. Tran Van Tri, chef för Vietnam Law Media Joint Stock Company (LuatVietnam.vn), sa att när innehållet bara har en liten del som tillämpar AI, är det nödvändigt att märka det eller inte? Det är nödvändigt att tydligt ange om det är AI-assisterad skapelse eller om det är helt AI-skapat.

Inom underhållningsbranschen vill vissa företag ha en flexibel mekanism för att undanta AI-produkter från strikta märkningsskyldigheter, och tillämpar istället varningar eller transparent självupplysning beroende på användningsnivå. AI används ofta för att förbättra ljud, bilder och effekter. Om allt skulle vara skyldigt att märkas skulle kostnaderna och procedurerna öka, vilket skulle hämma kreativiteten.

Chefen för ministeriet för vetenskap och teknik sa att lagförslaget om artificiell intelligens är utformat i riktning mot att hitta en rimlig balans mellan förvaltning och utvecklingsfrämjande, säkerställa transparens, genomförbarhet och närma sig internationella standarder. Målet med märkningen är att förtydliga gränsen mellan mänskligt skapat innehåll och maskingenererat innehåll, undvika både extrema fall av slapp förvaltning och överdriven åtstramning, så att tekniken kan utvecklas inom ett transparent och ansvarsfullt ramverk.

HA LINH

Källa: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html