Het identificeren van tactieken die AI gebruikt om informatie te verdraaien.

Het gebruik van kunstmatige intelligentie (AI) om beelden van conflicten tussen strijdkrachten in scène te zetten of om nieuwsberichten op televisie te vervalsen, is een gevaarlijke trend op sociale media. Deze praktijk is niet alleen bedoeld voor vermaak, maar wordt ook door kwaadwillenden misbruikt om de waarheid te verdraaien, de openbare orde en veiligheid te verstoren, en vereist dat elke burger waakzaam is.

De politie van Thai Nguyen heeft een waarschuwing uitgegeven aan personen die AI-applicaties gebruiken om valse informatie over VTV-nieuwsuitzendingen te verspreiden voor amusementsdoeleinden.

Onlangs circuleerden er op internet beelden van een gewelddadige confrontatie tussen verkeerspolitie en het leger, die zich naar verluidt in de provincie Thai Nguyen zou hebben afgespeeld. Deze beelden waren slim gemanipuleerd met behulp van kunstmatige intelligentie (AI), wat tot grote verwarring leidde onder gebruikers van sociale media.

In ballingschap levende reactionaire elementen hebben de nieuwsgierigheid van lezers uitgebuit om met behulp van AI-technologie verzonnen scenario's en sensationele informatie te creëren. Hun doel is niet alleen om interactie uit te lokken, maar het verraderlijke plan dat erachter schuilgaat, is om de publieke opinie op te hitsen en het imago van de strijdkrachten ernstig te schaden.

Naast politieke complotten draagt ​​een deel van de bevolking tegenwoordig ook "onbewust" bij aan de verspreiding van nepnieuws via trends die zij als "leuk" beschouwen.

Niet lang geleden ontdekte en behandelde de immigratiedienst (provinciale politie van Thai Nguyen) de zaak van meneer MPQ (woonachtig in de wijk Linh Son, Thai Nguyen). Meneer Q. had een AI-applicatie op zijn telefoon gebruikt om zijn gezicht te projecteren op een interviewbeeld uit een nieuwsprogramma van VTV1. Vervolgens plaatste hij het op zijn persoonlijke Facebookpagina met de bedoeling dat het "humoristisch en vermakelijk" zou zijn.

Het bericht genereerde honderden reacties en zorgde voor verstoring van de informatievoorziening. Op het politiebureau gaf meneer Q. toe dat het slechts om amusement ging, maar zijn actie om het logo en de inhoud van een nieuwsprogramma te gebruiken voor het verspreiden van nepnieuws had de reputatie van het persbureau ernstig geschaad. Gezien de ernst van de overtreding gaven de autoriteiten hem een ​​waarschuwing, verzochten hem de inhoud te verwijderen en eisten een toezegging om de overtreding niet te herhalen.

Gezien de toenemende verfijning van schadelijke, giftige, valse en misleidende informatie die met behulp van AI-technologie wordt gecreëerd, moeten mensen een sterk mentaal 'filter' ontwikkelen om zichzelf in de cyberruimte te beschermen.

Tegelijkertijd is het uiterst belangrijk om de kenmerken van AI-technologie te herkennen; gebruikers moeten letten op ongebruikelijke details zoals lipbewegingen die niet overeenkomen met spraak, gezichtsverlichting die niet past bij de context, of weergavefouten die kenmerkend zijn voor deepfakes, om te voorkomen dat ze in de val van nepnieuws trappen.

In het bijzonder moet iedereen zich er terdege van bewust zijn dat de wet elke vorm van imitatie van overheidsinstanties ten strengste verbiedt, inclusief het ongeoorloofde gebruik van logo's en afbeeldingen van de politie, het leger of media om valse inhoud te creëren, zelfs als dit slechts bedoeld is als grap.

Bovendien is voorzichtigheid geboden bij het gebruik van onbekende AI-toepassingen die gezichtsgegevens opvragen, om het risico op het lekken van persoonlijke informatie te voorkomen en om te voorkomen dat kwaadwillenden deze voor frauduleuze doeleinden misbruiken.

Bron: https://baothainguyen.vn/phap-luat/202605/nhan-dien-thu-doan-dung-ai-xuyen-tac-thong-tin-61a666f/