Hver gang jeg surfer på internett ser jeg morsomme videoer laget av AI.

(Dan Tri) – Videoer med «avvikende» innhold laget av Veo 3 dukker ofte opp på sosiale nettverk.

Overalt hvor jeg surfer, ser jeg tullhumor fra Veo 3.

I det siste har brukere av sosiale medier, spesielt TikTok, stadig vekk møtt på « komedievideoer » laget av Veo 3-verktøyet. Selv om de fleste av dem er underholdende, har mye av innholdet begynt å avvike fra normen og skape kontrovers.

«Hver gang jeg åpner TikTok, ser jeg morsomme videoer med kjente motiver, som for eksempel en gammel kvinne som bærer en gris for å selge fordi hun spiste for mye og sov for mye», delte Huyen Mai (20 år gammel).

Huyen Mai sa at TikTok-en hennes er full av «komedievideoer» laget av Veo 3 (Foto: Skjermbilde).

Mai delte at lignende videoer dukket opp oftere og oftere, noe som fikk henne til å føle seg ukomfortabel og tro at disse videoene bare var for å «lokke seere», og ikke ga noen verdi til seerne.

Mai sa at hun ofte har møtt negative eller støtende videoer på nyhetsfeeden sin: «Mange TikTok-kanaler lager videoer om fiktive situasjoner eller virkelige historier som inneholder obskøne, støtende elementer og falsk informasjon bare for å tiltrekke seg visninger.»

En serie med støtende og sjokkerende innhold ble laget med det formål å «tiltrekke seg visninger» (Foto: Skjermbilde).

I likhet med Huyen Mais historie uttrykte også Hoang Anh (20 år gammel) nylig frustrasjonen sin. Han sa at Veo 3 gir veldig realistiske bilder og innhold, og mange videoer er laget med interessant og underholdende innhold.

Men etter en stund la han merke til at videoer med en tendens til å være «negative» og «sjokkerende for å tiltrekke seg visninger» gradvis dukket opp oftere i stedet for å fokusere på positive verdier.

«En student reiste seg og bannet. Det var en av videoene jeg så nylig, laget av Veo 3. Jeg lurte på hvorfor det var så støtende innhold på sosiale medier, spesielt i perioden med ekstremt viktige eksamener», betrodde Hoang Anh.

Mange AI-genererte videoer med upassende språk og innhold dukker ofte opp på sosiale nettverk (Foto: Skjermbilde).

Enda mer bekymringsverdig er det at noen videoer bruker bilder av karakterer og barnestemmer for å si sensitive, uetiske replikker, men likevel tiltrekker de seg tusenvis av interaksjoner fra nettsamfunnet.

I tillegg skaper mange Veo 3-brukere også situasjoner for å fremme avvikende atferd under dekke av rent underholdende innhold.

Vanligvis lager noen applikasjoner og nettsteder, som for eksempel gambling og tipping, åpenlyst reklamevideoer til seerne, og sprer dem i hemmelighet åpenlyst under dekke av «underholdningsvideoer».

Døren til mange konsekvenser

Det er ubestridelig at utviklingen av videogenererende AI-verktøy som Veo 3, samtidig som det gir et stort potensial til innholdsproduksjonssektoren i mange butikker og bedrifter, også åpner en «dør» som fører til virtuelle konsekvenser i det virkelige liv.

Dette reiser spørsmål som «Kan voksne eller barn skille mellom AI-genererte videoer?» og «Hvordan vil disse støtende videoene påvirke barns oppfatninger?»

Vietnam Televisions logo satt inn i AI-generert innhold (Foto: Skjermbilde).

Ikke bare for underholdningsformål, har mange eksperter advart om de potensielle risikoene ved «avvikende» innhold laget av AI. Disse produktene, når de spres i svimlende hastighet på sosiale nettverk, kan gjøre at eldre eller barn passivt mottar og lett blir påvirket i en negativ retning.

Sosiale medieplattformer står for tiden overfor en stor utfordring innen innholdssensur, fordi med bare noen få enkle trinn kan hvem som helst lage en serie videoer med avvikende innhold, til og med fremme støtende, depravert eller ulovlig oppførsel.

Ikke bare utgjør det en risiko med tanke på innholdet, men tilgang til og bruk av Veo 3 i Vietnam har også mange konsekvenser. Fordi Google ikke offisielt har støttet dette verktøyet i hjemmemarkedet, sammen med de høye avgiftene ($ 20/måned for en Pro-konto, $ 250/måned for en Ultra-konto), har mange teknologientusiaster funnet måter å "overvinne barrieren" på ved å bruke VPN, kjøpe flytende kontoer eller oppgi falsk informasjon.

Mange av dem har blitt ofre for «kyllinggjeting»-triks, som å annonsere billige Veo 3-kontoer, slik at de kan bruke dem fritt, med ubegrensede funksjoner.

Innlegg som inviterer til å kjøpe billige Veo 3-kontoer oversvømmer vietnamesiske sosiale nettverk (skjermbilde).

Mange skurker har utnyttet behovet for å få tilgang til Veo 3 til å svindle, og ber kjøpere om å overføre penger først og deretter raskt «forsvinne» sporløst.

Det er verdt å merke seg at noen til og med godtar å registrere Veo 3-kontoer med kundens Gmail-adresse til en «superpreferanse»-pris. Dette er imidlertid faktisk en utnyttelse av et smutthull i Googles retningslinjer, noe som potensielt kan risikere at kontoen blir permanent låst, noe som betyr at man mister tilgangen til e-poster, dokumenter og alle relaterte personopplysninger.

Teknologien er ikke feilaktig

Faktisk er ingen AI-plattform designet for å skape negativt innhold eller fremme krenkende atferd. Alle konsekvenser kommer fra hvordan folk bruker verktøyet, noe som betyr at brukerens bevissthet og ansvar er de avgjørende faktorene.

Dr. Nguyen Van Son, foreleser ved Fakultet for informasjonsteknologi, University of Technology (Vietnam National University, Hanoi ), kommenterte: «Jeg setter stor pris på de positive verdiene kunstig intelligens bringer med seg. Hvis den brukes riktig, kan AI gi mange praktiske bidrag til samfunnet og lokalsamfunnet.»

Ifølge ham oppstår det imidlertid problemer når teknologien faller i hendene på folk med usunne motiver. «På den tiden blir AI et effektivt verktøy for å støtte negativ atferd, og til og med forsterke negative konsekvenser for samfunnet», advarte Dr. Son.

Derfra oppfordret han brukere, spesielt unge mennesker, til proaktivt å øke bevisstheten og ansvaret når de nærmer seg og bruker AI, med sikte på å skape kvalitetsinnhold i stedet for å spre søppelaktige, støtende produkter.

Dr. Nguyen Van Son mener at utdanning er nøkkelen til å begrense etiske brudd ved bruk av AI (Foto: Figur vist).

I tillegg mener Dr. Nguyen Van Son at en av de langsiktige strategiene for å begrense etiske brudd ved bruk av AI er å bruke et pedagogisk perspektiv. Ifølge ham er det å øke bevisstheten, hjelpe brukerne med å forstå personlig ansvar og bygge et etisk grunnlag når de bruker teknologi en nøkkelfaktor som bidrar til dannelsen av et sivilisert digitalt samfunn.

Mange eksperter har ikke bare stoppet ved advarsler om «spam»-innhold, men har også gjentatte ganger tatt opp spørsmålet om potensielle farer fra AI-genererte verktøy, spesielt muligheten til å lage videoer, som kan bli en kilde til storstilt spredning av desinformasjon.

«Teknologibransjen har brukt årevis på å håndtere farene ved deepfakes. Men fremveksten av stadig mer avanserte AI-videoverktøy er en klar advarsel om at det bare vil bli vanskeligere å regulere innhold generert av AI, og deretter AGI», advarte Connor Leahy, administrerende direktør i Conjecture.

Nguyen Thi Trang – administrerende direktør i Pisa Solutions LLC – deler det samme synet og understreket viktigheten av kritisk tenkning i sammenheng med stadig bedre kunstig intelligens.

«Vi er ikke bare brukere av AI, men også mottakere av et bredt spekter av AI-generert innhold. I tillegg til å bruke verktøy etisk, må hver person øve på evnen til å oppfatte informasjon fra flere perspektiver, fordi det for tiden finnes mange videoer laget av AI som virker autentiske, men i hemmelighet fremmer falskt innhold», delte Trang.

Kilde: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm