Van afbeeldingen, video's tot AI-liedjes: pas op voor de 'tornado' van AI-content op sociale netwerken

trí tuệ nhân tạo - Ảnh 1. — Steeds meer afbeeldingen en video's die door AI zijn bewerkt en toegevoegd, worden op sociale netwerken geplaatst om views te trekken - Foto: DUC THIEN

Vroeger moest een gewone gebruiker een Photoshop-expert inhuren om een nepfoto te maken, maar dankzij AI kan het tegenwoordig in minder dan 5 minuten en met een paar basisvaardigheden overal om je heen nepfoto's opduiken.

Als AI beelden, video's, liedjes creëert... zo echt dat het moeilijk te geloven is

Mevrouw Hoan My (HCMC), communicatiemedewerker, surft dagelijks op Facebook en zegt dat gebruikers steeds meer content plaatsen waarin AI-tools zijn verwerkt.

"Er zijn veel foto's geplaatst door vrienden of groepsleden die zo echt zijn dat ik niet zou kunnen zien of er AI is gebruikt als ze het niet zouden zeggen. Steeds meer video's, van animaties en fantasieën tot korte films, of video's die betrekking hebben op een gebeurtenis die zich in het echte leven afspeelt, worden gemaakt door AI-tools, maar ik zou het niet kunnen weten," vertelde mevrouw My.

Niet alleen afbeeldingen en video's, maar ook op het sociale netwerk YouTube, zijn er talloze nummers te horen die worden uitgevoerd of gecomponeerd door "AI-zangers". Veel gebruikers zijn enthousiast over de nieuwe ervaring en willen deze graag met hun vrienden delen op sociale media.

"Ik kan niet zeggen of het een AI-zanger is als het niet wordt aangekondigd. AI-content wordt steeds wijdverspreider in de Vietnamese cyberspace. Gewone gebruikers zoals ik zullen waarschijnlijk binnenkort niet meer weten welke content van echte mensen komt, welke van AI is of door AI is ingegrepen", aldus Khanh Ha (HCMC).

Onlangs zijn er in Vietnam op veel sociale netwerkplatformen video's en livestreams verschenen waarin producten van mensen met een beperking worden verkocht. Dit vergroot de online gemeenschap en stimuleert het delen van informatie.

Later werden echter veel gevallen van AI-gebruik door de online gemeenschap aan het licht gebracht, waarbij normale mensen werden veranderd in mensen met een beperking. Het doel van deze truc is om misbruik te maken van het medeleven van kijkers om goederen te verkopen of frauduleuze handelingen te verrichten.

Veel technologie-experts zeggen dat sociale netwerken de laatste tijd steeds meer accounts zien die verkoopvideo's plaatsen met afbeeldingen van mensen met een beperking, zieken of kansarmen om medeleven te vragen. De realiteit is echter dat veel van deze content wordt gemaakt of bewerkt met AI-tools, waardoor normale mensen worden gehandicapt voor winst of fraude.

De heer Milko Radotic, Vice President verantwoordelijk voor de regio Azië- Pacific van iProov - 's werelds toonaangevende leverancier van biometrische authenticatietechnologie - deelde dit met Tuoi Tre en waarschuwde: "Ons onderzoek toont aan dat 99,9% van de deelnemers deepfakes niet kan herkennen. Zelfs de geavanceerde detectietools van vandaag de dag stuiten op veel problemen."

Verhoog de weerstand voor digitale gebruikers

De heer Dang Huu Son, adjunct-directeur van het Institute for Applied Research and Human Resource Development AIOV en oprichter en CEO van LovinBot AI Company, zei dat de AI-markt enorm bruist sinds Google de AI-technologieën Nano Banana en Veo 3 heeft gelanceerd, ByteDance Seedream 4 heeft gelanceerd en voordat OpenAI GPT Image heeft gelanceerd. Dit heeft ook veel gevolgen gehad.

"Technologie is nog nooit zo toegankelijk geweest als nu. Dit zijn allemaal extreem krachtige AI-modellen die gezichten bijna 90%, zelfs 99% van de originele foto, kunnen "kopiëren", aldus Son.

Vroeger moesten gewone gebruikers Photoshop-experts inhuren om een nepfoto te maken. Maar dankzij AI kan een set nepfoto's, een nepvideo die is geknipt en geplakt en waaraan nieuwseffecten zijn toegevoegd, zich tegenwoordig razendsnel verspreiden in minder dan 5 minuten.

"Nepnieuws wordt vaak herhaald, met een hoge dichtheid en gemakkelijke toegang, waardoor een groot aantal mensen die er dagelijks mee in aanraking komen, zullen geloven dat het waar is. Daarom zijn er oplossingen nodig om de bovengenoemde problemen te beperken", merkte de heer Son op.

Volgens de heer Trinh Nguyen Thien Phuoc, technologiedirecteur van Gianty Vietnam Company, zijn er drie lagen nodig om door AI gegenereerde content te kunnen onderscheiden: (1) vaardigheden voor gebruikersverificatie (samen met gouden regels); (2) technische hulpmiddelen zoals Content Credentials (C2PA), watermerkenidentificatietekens (SynthID, AudioSeal) en deepfake-detectoren; (3) een coördinatieproces tussen gerelateerde partijen, zoals platforms, netwerkoperatoren, banken...

Vooral de gouden regel die je heel snel moet toepassen, binnen 30-60 seconden, is van belang. Klik niet op vreemde links en ga naar de officiële app/website om de transactie te verifiëren. Stop direct als je zoekwoorden tegenkomt die tot actie aanzetten (OTP/geldtransfer/urgent).

Tegelijkertijd moeten gebruikers twee onafhankelijke bronnen raadplegen voordat ze iets geloven. Controleer de datum, tijd en context (oud nieuws vermomd als nieuw). Bel het officiële nummer dat u zelf hebt gevonden en gebruik niet het nummer dat anderen u hebben gegeven. Met afbeeldingen en video's kunnen gebruikers gerelateerde resultaten vinden.

Veel experts zijn van mening dat de meest fundamentele oplossing om de golf van nepcontent, gecreëerd door AI, aan te pakken, is om het publiek bewust te maken. In plaats van alleen te focussen op technische maatregelen, is het noodzakelijk om trainingsprogramma's, wedstrijden of simulaties van praktijksituaties te ontwikkelen om mensen te helpen hun informatie-inname te veranderen.

Voor jongeren, met name studenten, kan de combinatie van online wedstrijden en mediacampagnes met beroemdheden of KOL's een natuurlijke aantrekkingskracht creëren. Dit helpt hen om te leren en ervaringen op te doen, terwijl ze tegelijkertijd de vaardigheden beheersen om nepnieuws en nepvideo's te herkennen. Ouderen, vooral in plattelandsgebieden, hebben daarentegen behoefte aan meer vertrouwde en intuïtieve vormen zoals geïllustreerde folders, instructievideo's of vertoningen in culturele instellingen en bij gemeenschapsactiviteiten.

"Een aanpak die geschikt is voor elke groep mensen, zal helpen een solide basis voor bewustwording op de lange termijn te creëren, in plaats van te stoppen bij kortetermijnactiviteiten. Zo hebben sommige eenheden extensies ontwikkeld die in de Chrome-browser kunnen worden geïnstalleerd om gebruikers te helpen bij het controleren van nieuws tijdens het surfen op internet of sociale netwerken...", aldus de heer Dang Huu Son.

Het gebruik van AI om nep-AI te detecteren

Onlangs heeft telefoonfabrikant Honor een AI Deepfake Detection-functie geïntegreerd in zijn nieuwe telefoonlijn. Deze functie analyseert afbeeldingen en stemmen binnen 3 seconden om te waarschuwen voor nepnieuws, direct in apps zoals Messenger, Zalo, Viber of Google Meet, en fungeert zo als een "digitaal schild" om gebruikers te beschermen tegen hightechfraude.

Eerder, in september 2025, kondigde MoMo al aan samen te werken met iProov om Dynamic Liveness-technologie in te zetten. Daarmee wordt geverifieerd of gebruikers echt zijn, de juiste identiteit hebben en aanwezig zijn op het moment van de transactie. Zo wordt fraude met deepfake, nepvideo's of -afbeeldingen voorkomen.

In risicovolle sectoren zoals de financiële sector is dit beveiligingsniveau cruciaal om fraude en ongeautoriseerde toegang te voorkomen en het vertrouwen van de gebruiker in het platform te behouden.

Terug naar het onderwerp

DEUGD

Bron: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm