Fra bilder, videoer til AI-sanger: Vær obs på «tornadoen» av AI-innhold på sosiale nettverk

Kunstig intelligens (KI) utnyttes i kommersielle aktiviteter på nett, fra salg til veldedighetssvindel, noe som tvinger regulatorer og bedrifter til raskt å finne løsninger for å identifisere og kontrollere risikoer i en tid med kunstig innhold.

Flere og flere bilder og videoer redigert og lagt til av AI legges ut på sosiale nettverk for å tiltrekke seg visninger - Foto: DUC THIEN

Hvis vanlige brukere tidligere måtte leie inn Photoshop-eksperter for å lage et falskt bilde, kan det med dagens AI dukke opp et sett med falske bilder overalt på under 5 minutter og med noen grunnleggende ferdigheter.

Når AI lager bilder, videoer, sanger ... så ekte at det er vanskelig å tro

Fru Hoan My (HCMC), en kommunikasjonsmedarbeider, surfer regelmessig på Facebook hver dag og sier at brukerne legger ut mer og mer innhold med AI-verktøy.

«Det finnes mange bilder lagt ut av venner eller gruppemedlemmer som er så ekte at jeg ikke ville kunne avgjøre om AI ble brukt hvis de ikke sa det. Enda flere og flere videoer, fra animasjoner, fantasi til kortfilmer eller videoer relatert til en hendelse som skjer i det virkelige liv, lages av AI-verktøy, men jeg ville ikke kunne vite det», delte fru My.

Ikke bare bilder og videoer, selv på det sosiale nettverket YouTube finnes det mange sanger fremført eller komponert av «AI-sangere». Mange brukere er begeistret for den nye opplevelsen og konkurrerer om å dele den på sosiale nettverk med vennene sine.

«Jeg kan ikke si om det er en AI-sanger hvis det ikke blir annonsert. AI-innhold er stadig mer utbredt i Vietnams cyberspace. Vanlige brukere som meg vil sannsynligvis snart ikke lenger vite hvilket innhold som er fra ekte mennesker, hvilket innhold som er fra AI eller har AI-intervensjon», sa Khanh Ha (HCMC).

I den senere tid har mange sosiale nettverksplattformer i Vietnam vist frem videoer og direktesendinger som selger produkter fra funksjonshemmede, noe som gjør nettsamfunnet mer sympatisk og delende.

Imidlertid ble mange tilfeller senere avslørt av nettsamfunn der kunstig intelligens ble brukt til å gjøre vanlige mennesker om til funksjonshemmede. Hensikten med dette trikset er å utnytte seernes medfølelse til å selge varer eller utføre uredelige handlinger.

Mange teknologieksperter sier at sosiale nettverk i det siste har sett et økende antall kontoer som legger ut salgsvideoer med bilder av funksjonshemmede, syke eller vanskeligstilte personer for å appellere om sympati. Realiteten viser imidlertid at mye av dette innholdet er laget eller redigert med AI-verktøy, noe som gjør vanlige mennesker til funksjonshemmede for profitt eller svindelformål.

Milko Radotic, visepresident med ansvar for Asia- Stillehavsregionen i iProov – verdens ledende leverandør av biometrisk autentiseringsteknologi – advarte med Tuoi Tre: «Forskningen vår viser at 99,9 % av deltakerne ikke kan gjenkjenne deepfakes. Selv dagens avanserte deteksjonsverktøy møter mange vanskeligheter.»

Øk motstanden for digitale brukere

Dang Huu Son – assisterende direktør ved Institute for Applied Research and Human Resource Development AIOV, grunnlegger og administrerende direktør i LovinBot AI Company – sa at siden Google lanserte AI-teknologien Nano Banana, Veo 3; ByteDance lanserte Seedream 4, og før det OpenAI lanserte GPT Image, har AI-markedet vært ekstremt travelt og har også medført mange konsekvenser.

«Teknologi har aldri vært så tilgjengelig som den er i dag. Dette er alle ekstremt kraftige AI-modeller som kan «kopiere ansikter» nesten 90 %, til og med 99 % sammenlignet med det originale bildet», kommenterte Son.

Hvis vanlige brukere tidligere måtte leie inn Photoshop-eksperter for å lage et falskt bilde, kan AI i dag, på under 5 minutter med noen grunnleggende ferdigheter, et sett med falske bilder, en falsk video som klippes og limes inn, og har lagt til nyhetslignende effekter, spre seg i en svimlende hastighet.

«Falske nyheter gjentas mange ganger, med høy tetthet og enkel tilgang, så et stort antall mennesker som kommer i kontakt med dem hver dag, vil tro at de er sanne. Derfor er det behov for løsninger for å begrense problemene ovenfor», bemerket Son.

Ifølge Trinh Nguyen Thien Phuoc – teknologidirektør i Gianty Vietnam Company – trengs tre lag for å kunne skille mellom AI-generert innhold: (1) brukerverifiseringsferdigheter (sammen med gylne regler); (2) tekniske verktøy som innholdslegitimasjon (C2PA), vannmerkeidentifikasjonsskilt (SynthID, AudioSeal) og deepfake-detektor; (3) koordineringsprosess mellom relaterte parter som: plattformer, nettverksoperatører, banker...

Spesielt må den gylne regelen gjøres svært raskt innen 30–60 sekunder, inkludert: ikke klikk på merkelige lenker, og gå til den offisielle appen/nettstedet for å bekrefte; stopp umiddelbart når du støter på nøkkelord som tvinger frem handling (engangskode/pengeoverføring/haster).

Samtidig bør brukere bekrefte med to uavhengige kilder før de tror på det de sier; sjekk dato, klokkeslett og kontekst (gamle nyheter forkledd som nye); ring tilbake til det offisielle nummeret du fant selv, ikke bruk nummeret som andre har oppgitt; med bilder og videoer kan brukere søke tilbake etter relaterte resultater ...

Mange eksperter mener at den mest grunnleggende løsningen for å håndtere bølgen av falskt innhold skapt av AI er å øke offentlig bevissthet. I stedet for å fokusere kun på tekniske tiltak, er det nødvendig å bygge opplæringsprogrammer, konkurranser eller simulere virkelige situasjoner for å hjelpe folk med å endre sine informasjonsinntaksvaner.

For unge mennesker, spesielt studenter, kan det å kombinere nettkonkurranser, mediekampanjer med kjendiser eller akademikere skape naturlig tiltrekning, og hjelpe dem med å lære og oppleve samtidig som de mestrer ferdighetene til å identifisere falske nyheter og falske videoer. Samtidig trenger eldre, spesielt i landlige områder, mer kjente og intuitive former som illustrerte brosjyrer, instruksjonsvideoer eller visninger på kulturhus og i samfunnsaktiviteter.

«En tilnærming som passer for hver gruppe mennesker vil bidra til å skape et solid, langsiktig bevissthetsgrunnlag, i stedet for å bare stoppe ved kortsiktige aktiviteter. For eksempel har noen enheter utviklet utvidelser som kan installeres i Chrome-nettleseren for å hjelpe brukere med å verifisere nyheter når de surfer på nettet eller sosiale nettverk ...», delte Dang Huu Son.

Bruk av AI for å oppdage falsk AI

Nylig har telefonselskapet Honor integrert AI Deepfake Detection-funksjonen i sin nylig lanserte telefonlinje. Denne funksjonen kan analysere bilder og stemmer på 3 sekunder for å advare om forfalskninger rett i apper som Messenger, Zalo, Viber eller Google Meet, og bli et "digitalt skjold" for å beskytte brukere mot høyteknologiske svindelforsøk.

Tidligere, i september 2025, annonserte MoMo sitt samarbeid med iProov for å distribuere Dynamic Liveness-teknologi for å bekrefte at brukerne er ekte, har riktig identitet og er til stede på transaksjonstidspunktet, for å forhindre svindel ved bruk av deepfakes, falske videoer eller bilder.

I høyrisikosektorer som finans er dette sikkerhetsnivået avgjørende for å forhindre svindel, forhindre uautorisert tilgang og opprettholde brukernes tillit til plattformen.

Tilbake til emnet

DYD

Kilde: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm