Åpenhet om kunstig intelligens-produkter

Mange kunstig intelligens (KI)-produkter i dag opplyser ikke om nivået av teknologisk inngripen, noe som gjør det vanskelig for brukere å skille mellom ekte og falskt. Gitt denne situasjonen har det blitt et presserende krav å tydelig definere forpliktelsen til å være transparent og merke KI-produkter.

FPTs utstillingsstand om AI-applikasjoner innen ulike felt.

I dag er mange AI-produkter umerkede og deles som vanlig innhold, fra å lage visuelt, lyd- og tekstinnhold til automatisert beslutningsstøtte. Konsekvensen er at brukerne ikke vet om de samhandler med menneskeskapt eller AI-generert innhold, og de kan tro på feilinformasjon eller manipulasjon.

For eksempel legger en skjønnhetssalong ut en AI-generert annonse med et modellbilde, noe som får kundene til å feilaktig tro at den er ekte, men når de opplever tjenesten, oppdager de at kvaliteten ikke er som annonsert. Enda farligere er det at AI lager falske bilder av kjente personer, videoer som simulerer uttalelser fra politikere, eller artikler laget av AI, men med navnene på ekte mennesker, noe som skader personlig ære og omdømmet til etater og organisasjoner.

I tillegg reduserer mangelen på en merkemekanisme brukernes tillit til digitale plattformer og AI-produkter. Et digitalt miljø som ikke er transparent om opprinnelsen til innhold, vil gjøre brukerne mistenksomme og distanserte. Samtidig har de fleste vietnamesiske brukere ikke for vane å identifisere og verifisere opprinnelsen til innhold, og de tekniske verktøyene for å oppdage AI-produkter er begrensede.

Å tydelig definere åpenhet og merkingsforpliktelser er ikke bare et teknologisk etisk krav, men også et juridisk grunnlag for å beskytte både brukere og utviklere av AI-produkter. For å oppfylle dette kravet utvikler Vitenskaps- og teknologidepartementet loven om kunstig intelligens, der artikkel 12 fastsetter «Åpenhet, merking og ansvarlighet».

Følgelig er merking anvendelse av tekniske tiltak for å tydelig, lett gjenkjennelig og maskinlesbart varsle om at innhold (tekst, bilde, lyd, video) ble laget eller vesentlig endret av AI-systemer. Varslingen må gis når innholdet er bredt publisert.

Denne forskriften etablerer obligatoriske merkeforpliktelser for produkter laget eller redigert av AI, med sikte på å gjøre det digitale rommet transparent, beskytte forbrukere og kreve at leverandører og distributører er felles ansvarlige dersom manglende merking forårsaker forvirring eller skade.

For innhold som simulerer virkelige personer, objekter, steder eller hendelser, fastsetter lovutkastet at leverandører må iverksette tiltak for å tydelig identifisere at innholdet er laget av AI og sikre evnen til å autentisere og spore opprinnelsen. Dette anses som et viktig skritt i håndteringen av AI-teknologi, i tråd med internasjonale trender når EU, USA, Japan og Sør-Korea alle har utstedt lignende forskrifter.

Til tross for at de er enige om nødvendigheten, mener mange eksperter og bedrifter at merkeforskriftene i lovutkastet må være mer spesifikke. Advokat Hoang Le Quan, Vietnam Commercial Legal Limited Liability Law Firm (Lexcomm Vietnam LLC), mener det er nødvendig å avklare om AI-leverandører kan bestemme formen for merking selv eller må følge myndighetenes instruksjoner.

Hvis det finnes retningslinjer, må de være tydelige og sikre harmoni med internasjonale standarder, slik at man unngår at Vietnams krav blir helt annerledes eller skaper nye forpliktelser, spesielt for multinasjonale leverandører, som påvirker Vietnams konkurranseevne innen AI-applikasjon og -utvikling sammenlignet med andre markeder som EU, Sør-Korea eller USA.

Noen meninger understreker behovet for å tydelig definere omfanget og anvendelsesnivået, om alt innhold med KI-elementer må merkes, eller bare produkter som er laget utelukkende av KI eller som er vesentlig påvirket. Tran Van Tri, direktør i Vietnam Law Media Joint Stock Company (LuatVietnam.vn), sa at når innholdet bare har en liten del som anvender KI, er det nødvendig å merke det eller ikke? Det er nødvendig å tydelig angi om det er KI-assistert produksjon eller KI fullstendig skapt.

I underholdningsbransjen ønsker noen selskaper en fleksibel mekanisme for å unnta AI-produkter fra strenge merkeforpliktelser, og i stedet anvender de advarsler eller åpenhet om egenopplysning avhengig av bruksnivået. AI brukes mye for å forbedre lyd, bilder og effekter. Hvis alt skulle merkes, ville kostnadene og prosedyrene øke, noe som hindret kreativiteten.

Lederen for departementet for vitenskap og teknologi sa at lovforslaget om kunstig intelligens er bygd opp i retning av å finne en rimelig balanse mellom forvaltning og utviklingsoppmuntring, sikre åpenhet, gjennomførbarhet og tilnærme seg internasjonale standarder. Målet med merking er å tydeliggjøre grensen mellom menneskeskapt innhold og maskingenerert innhold, og unngå både ytterpunkter som slapp forvaltning og overdreven innstramming, slik at teknologi kan utvikles innenfor et transparent og ansvarlig rammeverk.

HA LINH

Kilde: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html