Det er et presserende behov for å kontrollere AI-innhold.

Det bør etableres kriterier for å begrense innholdet brukere har lov til å lage ved hjelp av AI, og tydelig merking bør være påbudt.

Bare i løpet av de siste årene har kunstig intelligens (KI) utviklet seg og kontinuerlig forbedret seg i et svimlende tempo, og blitt et kraftig verktøy som støtter mange felt. Veo3 – en KI-drevet videoproduksjonsteknologi som nylig ble utviklet av Google DeepMind – er i stand til å produsere utrolig naturtro opptak. I tillegg til brukerfordelene utgjør dette verktøyet også en utfordring med hensyn til risikoen for å bli utnyttet av ondsinnede aktører til svindelformål.

Det er vanskelig å skille mellom ekte og falskt.

Ifølge teknologieksperter har Veo3 blitt en global sensasjon på grunn av sine AI-videoskapingsmuligheter, og kan skryte av et nivå av realisme som er langt bedre enn tidligere tilgjengelige verktøy. I motsetning til OpenAIs Sora, som utmerker seg innen visuelle effekter, men er begrenset i lyd, synkroniserer Veo3 sømløst bilder, omgivelseslyder og dialog. Fra fottrinn og vind til talte ord og omgivelseseffekter blandes alt sømløst sammen, og oppnår et nivå av naturtro realisme som gjør det vanskelig for brukere å skille mellom ekte videoer og de som er laget av AI.

I Vietnam ble Veo3 raskt en sensasjon på sosiale medieplattformer som TikTok, Facebook og YouTube Shorts. Tallrike videoer merket med #veo3 ble delt i lynets hastighet, og tiltrakk seg millioner av visninger og hundretusenvis av interaksjoner. Mange AI-genererte klipp forbløffet nettsamfunnet med sin utrolige realisme. For eksempel fikk en 8-sekunders video med en enkel dialoglinje 5 millioner visninger og over 308 000 likerklikk. En annen video, laget utelukkende av AI, som viser en eldre kvinne som steker egg, oppnådde også over 2,6 millioner visninger og mer enn 104 000 likerklikk.

Tran Vinh Khang, en kontoransatt i distrikt 1 i Ho Chi Minh-byen, fortalte at han knapt kunne skille mellom ekte og falske videoer på grunn av hvor ekstremt realistiske de var. «Jeg så en video av en fiskeselger som snakket med en kunde på markedet, og trodde den var ekte fordi bildet var så skarpt. Måten han vinket på, hevet øyenbrynene, sollyset i ansiktet hans – alt var så naturlig at jeg ikke kunne tro at det var laget av kunstig intelligens», sa Khang.

Bildene i videoen laget av Veo3 er vanskelige for brukerne å skille mellom ekte og falske.

Nguyen Mai Anh (bosatt i Ho Chi Minh-byen) uttrykte bekymring for informasjonssikkerheten, samtidig som hun anerkjente sin beundring. «Videoene laget av Veo3 er så realistiske at jeg føler meg urolig. Hvis ondsinnede aktører bruker denne teknologien til å lage ærekrenkende videoer, bakvaskelse eller fabrikere bevis, vil konsekvensene bli svært alvorlige», uttalte Anh.

Mange vietnamesiske brukere er spesielt interessert i hvordan de får tilgang til og bruker Veo3. Veo3 har imidlertid bare blitt offisielt lansert av Google på det amerikanske markedet, gjennom Google AI Ultra-abonnementspakken til en pris av $249,99 per måned. Stilt overfor denne begrensningen har det vietnamesiske nettsamfunnet søkt måter å omgå restriksjonene for å oppleve det. Mange deler tips om hvordan man bruker VPN-er for å endre IP-adressen sin til USA, og dermed registrere en Google-konto i en støttet region for å aktivere og bruke Veo3 som en lokal bruker. Ifølge sikkerhetseksperter er dette også en sårbarhet som ondsinnede aktører kan utnytte til skumle formål.

Det er behov for et juridisk rammeverk for AI.

Le Hong Duc, grunnlegger av OneAds Digital Co., Ltd., uttalte at AI-genererte produkter som videoer, bilder og stemmer nærmer seg et forbløffende nivå av realisme, og kan til og med settes direkte i produksjon og kommersialisering. Denne boomen gir klare fordeler når det gjelder kostnader og tid, men den kan utnyttes til å spre feilinformasjon eller forårsake offentlig panikk. I sammenheng med stadig mer komplekse AI-modeller blir innholdskontroll avgjørende, spesielt ettersom teknologien har overgått tempoet i dagens juridiske oppdateringer.

Derfor foreslo Duc det presserende behovet for å utvikle en spesialisert lov for AI, som tydelig definerer ansvaret til de som lager og deler AI-innhold. Handlinger som sprer villedende, skadelig eller giftig innhold må straffes strengt. Samtidig må myndighetene utstede kriterier som begrenser innholdet brukere har lov til å lage ved hjelp av AI, og pålegge tydelig merking. Manglende overholdelse vil føre til juridisk ansvar og erstatning for skader. «Utstedelsen av et separat juridisk rammeverk for AI er ekstremt presserende for å kontrollere denne raskt utviklende teknologien, bidra til å opprettholde et sunt digitalt miljø og forhindre negative konsekvenser som svindel, etiske brudd eller støtende oppførsel», understreket Duc.

I tillegg til juridiske bekymringer, delte en informasjonssikkerhetsekspert at den raske utviklingen av Veo3 også skaper bekymring blant innholdsskapere, spesielt innen felt som film, fjernsyn og animasjon, som står i fare for gradvis å bli erstattet av AI-teknologi, noe som utgjør en stor utfordring for å beskytte yrker og opphavsrettigheter i den kreative industrien. «Regler om immaterielle rettigheter for AI-generert innhold må legges til snart, fordi AI nå kan produsere svært realistiske produkter. Ellers vil skapere risikere å miste jobben midt i bølgen av virtuelle verk som oversvømmer markedet», sa eksperten.

Vær oppmerksom på svindeltjenester.

Siden Veo3 ble lansert, har mange kontoer på sosiale medier som hevder å være «AI-eksperter» begynt å dele demovideoer, veiledninger om hvordan man får tilgang til Veo3, eller selge kontoer og støttetjenester for 200 000–300 000 VND. Noen brukere rapporterte at de hadde fått tilgang til og prøvd det ut, men ikke alle fikk oppleve det. Le Hong Duc advarte brukere om å være forsiktige med uredelige eller uoffisielle tjenester og anbefalte å vente på at Google offisielt skulle lansere Veo3 i det vietnamesiske markedet for å unngå økonomisk svindel, datatyveri eller uautorisert tilgang til Google-kontoene sine.

Kilde: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm