Presserende behov for å kontrollere AI-innhold

Kriterier må utstedes for å begrense innholdet brukere har lov til å lage med AI, noe som tvinger frem tydelig merking.

Bare i løpet av de siste årene har kunstig intelligens (KI) utviklet seg og kontinuerlig forbedret seg i et svimlende tempo, og blitt et omfattende støtteverktøy på mange felt. Veo3 – en videoproduksjonsteknologi ved hjelp av KI, nylig utviklet av Google DeepMind – er i stand til å lage naturtro opptak. I tillegg til verktøyene som støtter brukerne, utgjør dette verktøyet også en utfordring med risikoen for å bli utnyttet av skurker til svindel.

Vanskelig å skille mellom ekte og falskt

Ifølge teknologiverdenen har Veo3 «skapt oppstyr» globalt på grunn av sin AI-videoproduksjonsfunksjon med et realismenivå som overgår alle tidligere verktøy. I motsetning til OpenAIs Sora – som bare skiller seg ut når det gjelder bilde, men er begrenset når det gjelder lyd – synkroniserer Veo3 bilder, miljølyder og dialog perfekt. Fra fottrinn, vindblåsing til menneskestemmer og omgivelser kombineres alt jevnt og oppnår et nivå av naturtrohet som gjør det vanskelig for brukere å skille mellom ekte videoer eller de som er laget av AI.

I Vietnam skapte Veo3 raskt feber på sosiale nettverk som TikTok, Facebook og YouTube Shorts. En serie videoer med emneknaggen #veo3 ble delt i et svimlende tempo, og tiltrakk seg millioner av visninger og hundretusenvis av interaksjoner. Mange klipp laget av AI overrasket nettsamfunnet på grunn av deres utrolige nivå av autentisitet. For eksempel nådde en 8-sekunders video med en enkel dialog 5 millioner visninger og mer enn 308 000 likerklikk. En annen video som viser en eldre kvinne som steker egg, laget utelukkende av AI, nådde også mer enn 2,6 millioner visninger og mer enn 104 000 likerklikk.

Herr Tran Vinh Khang – en kontoransatt i distrikt 1 i Ho Chi Minh-byen – fortalte at han knapt kunne skille mellom ekte og falskt fordi realismen var for høy. «Jeg så en video av en fiskeselger som snakket med kunder på markedet, og trodde det var ekte fordi bildet var så skarpt. Måten han viftet med hånden på, hevet øyenbrynene, sollyset som skinte på ansiktet hans, alt var så naturlig at det var utrolig at det var skapt av kunstig intelligens», sa herr Khang.

Bilder i filmen laget av Veo3, brukere synes det er vanskelig å skille mellom ekte og falske

Selv om hun innrømmet å være imponert, uttrykte fru Nguyen Mai Anh (bosatt i Ho Chi Minh-byen) bekymring for informasjonssikkerheten. «Videoen laget av Veo3 er så realistisk at den gjør meg usikker. Hvis skurker bruker denne teknologien til å lage videoer for å baktale, ærekrenke eller forfalske bevis, vil konsekvensene bli svært alvorlige», uttrykte fru Anh.

Mange vietnamesiske brukere er spesielt interessert i hvordan de får tilgang til og bruker Veo3. Veo3 har imidlertid bare blitt offisielt distribuert av Google på det amerikanske markedet, gjennom Google AI Ultra-abonnementspakken med en avgift på 249,99 USD/måned. Stilt overfor denne begrensningen har det vietnamesiske nettsamfunnet funnet en måte å "overvinne barrieren" for å oppleve det. Mange deler tips om hvordan man bruker VPN for å endre IP til USA, og derfra registrerer man en Google-konto i den støttede regionen for å aktivere og bruke Veo3 som en lokal bruker. Ifølge sikkerhetseksperter er dette også et smutthull som skurker kan utnytte til å gjøre lyssky ting.

Juridisk rammeverk som trengs for AI

Le Hong Duc, grunnlegger av OneAds Digital Company Limited, sa at AI-genererte produkter som videoer, bilder eller stemmer nærmer seg et forbløffende nivå av realisme, og til og med kan settes direkte i produksjon og kommersialisering. Denne eksplosjonen gir klare fordeler når det gjelder kostnader og tid, men kan utnyttes til å spre falsk informasjon eller forårsake offentlig forvirring. I sammenheng med stadig mer komplekse AI-modeller blir innholdskontroll presserende, spesielt når teknologien har overgått hastigheten på å oppdatere gjeldende lover.

Derfor foreslo Duc at det haster med å utvikle en spesialisert lov for KI, som tydelig definerer ansvaret til de som lager og deler KI-innhold. Handlinger som sprer falskt og giftig innhold må sanksjoneres og håndteres strengt. Samtidig må myndighetene utstede kriterier for å begrense innholdet brukere har lov til å lage med KI, og kreve tydelige merkinger. Hvis det ikke implementeres riktig, må brukerne bære juridisk ansvar og kompensere for eventuell skade. «Det haster ekstremt med å utstede et eget juridisk rammeverk for KI for å kontrollere denne raskt utviklende teknologien, bidra til å opprettholde et sunt digitalt miljø, forhindre konsekvenser som svindel, etiske brudd eller fornærmelser mot andre», understreket Duc.

I tillegg til juridiske bekymringer, delte en informasjonssikkerhetsekspert at den fremragende utviklingen av Veo3 også vekker bekymring blant innholdsskapere, spesielt innen felt som film, fjernsyn og animasjon, som står i fare for gradvis å bli erstattet av AI-teknologi, noe som utgjør en stor utfordring for å beskytte karrierer og opphavsrett i den kreative industrien. «Det er nødvendig å snart legge til forskrifter om immaterielle rettigheter for AI-generert innhold, fordi AI nå er i stand til å produsere svært realistiske produkter. Ellers vil skapere risikere å miste jobben på grunn av bølgen av virtuelle verk som oversvømmer markedet», sa eksperten.

Vær forsiktig med tjenester som utgir seg for å være

Siden Veo3 eksploderte, har mange kontoer som hevder å være «AI-eksperter», også begynt å dele demovideoer på sosiale medier, instruksjoner om hvordan man får tilgang til Veo3 eller selger kontoer og støttetjenester til priser fra 200 000 til 300 000 VND. Noen brukere sa at de hadde fått tilgang til og prøvd det, men ikke alle kunne oppleve det. Le Hong Duc advarte brukere om å være forsiktige med falske eller uoffisielle tjenester, og anbefalte å vente på at Google offisielt skulle distribuere Veo3 i det vietnamesiske markedet for å unngå økonomisk svindel, datatyveri eller at kontrollen over Google-kontoer ble overtatt.

Kilde: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm