De legendarische strijd tegen desinformatie, deepfakes en oplichting

(NB&CL) Naast oorlog, gewapend geweld en diepe wereldwijde geopolitieke verdeeldheid, blijft de wereld in 2024 te maken krijgen met een andere grote strijd tegen desinformatie, nepnieuws en fraude. Dit probleem zal een legendarisch verhaal zijn dat moeilijk te doorbreken is en naar verwachting ernstiger zal worden als de wereld niet de handen ineenslaat om drastische maatregelen te nemen.

Informatiechaos - een steeds groter gevaar

Informatieverstoring, met name misinformatie en cyberfraude, wordt beschouwd als een "wereldwijde pandemie", een veelvoorkomende strijd waarin traditionele mediaorganisaties, met hun missie om de waarheid te beschermen, een leidende rol moeten spelen. Deze strijd kan echter alleen succesvol zijn als er drastische en fundamentele maatregelen worden genomen in elk land en in wereldwijde organisaties.

Nepnieuws, desinformatie en vooral frauduleuze activiteiten zijn nu de onvermijdelijke gevolgen en negatieve aspecten geworden van een nieuw mediatijdperk. Het podium is niet langer alleen voor mediabureaus en gecensureerde kranten. Zoals we weten, heeft de explosie van internet, hightech-apparaten en vooral sociale netwerken het voor iedereen mogelijk gemaakt om een ​​"journalist", "verslaggever" of zelfs een "woordvoerder" te worden, gevolgd door miljoenen mensen.

Sociale netwerken, een wereld zonder regels

Alles heeft twee kanten. De explosie van sociale netwerken heeft veel voordelen opgeleverd, zoals de snelle en brede verspreiding van informatie en kennis. Tegenwoordig bereikt informatie over een ongeval iedereen binnen enkele minuten, zelfs als men zich aan de andere kant van de wereld bevindt. Ook informatie over natuurrampen zoals overstromingen, stormen, bosbranden... wordt snel door iedereen bijgewerkt of gedeeld via sociale media, wat bijdraagt ​​aan een effectieve verspreiding of waarschuwing.

Naast de positieve aspecten brengen sociale netwerken en platforms voor het delen van informatie echter ook zorgwekkende gevolgen met zich mee. Nog angstaanjagender is dat niet alleen mensen, maar ook machines en vooral de stormachtige penetratie van kunstmatige intelligentie (AI) ervoor zorgen dat de internetwereld in het algemeen en technologieplatformen in het bijzonder een plek worden met te veel risico's.

‘Informatiepandemie’ op sociale netwerken

Volgens statistieken die Redline eind juni 2024 publiceerde, zijn er wereldwijd 4,9 miljard gebruikers van sociale media. Volgens dit onderzoek onder Amerikanen hebben de meeste gebruikers van sociale media geen vertrouwen in de nauwkeurigheid van de informatie die op deze platforms, van Facebook en TikTok tot YouTube, wordt verspreid. Daarom gebruikte deze organisatie de term 'infodemie' om de huidige stand van zaken met betrekking tot desinformatie op sociale media aan te duiden.

De wereld van sociale netwerken is als een oerbos, met vrijwel geen regels. Mensen die erin leven, genieten van vruchtbaarheid, vrijheid en verfrissing, maar daartegenover staan ​​dodelijke valkuilen. Tot op heden worstelt bijna elk land nog steeds met het beheer en de organisatie van dat "oerbos", en worden zelfs de eerste stappen gezet om schendingen aan te pakken, terwijl deze "wereld" de hele mensheid omvat.

Eind november van dit jaar werd Australië het eerste land ter wereld dat officieel een wet invoerde die kinderen verbiedt de fascinerende, maar gevaarlijke en bijna wetteloze 'primitieve' wereld te betreden. Australië verbood kinderen onder de 16 jaar om sociale media te gebruiken en zal zware boetes opleggen, tot wel 32 miljoen dollar, als sociale media de regels overtreden.

In die context wordt de explosie van nepnieuws, desinformatie en vooral fraude op sociale media (en via andere hightech-vormen zoals softwareapplicaties, frauduleuze websites, enz.) steeds meer een wereldwijd probleem. In Vietnam horen we dagelijks hartverscheurende verhalen over slachtoffers van fraudeurs in alle vormen op internet. In de wereld is dit ook een probleem voor elk land.

In maart van dit jaar meldde Interpol dat cyberfraude in Zuidoost-Azië wereldwijd is toegenomen en jaarlijks maar liefst 3 biljoen dollar oplevert (gelijk aan het bbp van Frankrijk). Zelfs een Britse techgigant leed een verlies van 25 miljoen dollar nadat fraudeurs deepfakes gebruikten om zich voor te doen als een topman om geld over te boeken. Dit zijn natuurlijk slechts enkele voorbeelden van miljoenen cyberfraudes.

Is het aanpakken van desinformatie die sociale media verspreiden een onmogelijke missie?

Hoewel landen en wereldwijde organisaties voortdurend inspanningen leveren om illegale activiteiten in cyberspace te voorkomen of te bestraffen, met name op grote sociale platforms zoals TikTok, Facebook en X, is het aantal behandelde gevallen slechts een zeer klein aantal.

Opvallend is dat tot nu toe vrijwel geen enkel land of organisatie sociale netwerken verantwoordelijk heeft gehouden voor misstanden, zoals het verspreiden van valse informatie of zelfs het overtreden van de wet. In mei van dit jaar gaf Meta zelf toe dat het content had gevonden die "mogelijk door AI gegenereerd" was en die gebruikt werd om te verdraaien of te misleiden op haar Facebook- en Instagram-platforms. Deze verklaring toont aan dat sociale netwerken zelf geloven dat ze "onschuldig" zijn bij het verspreiden van schadelijke informatie, anders zouden ze dat niet "zelf hebben toegegeven".

Sterker nog, grote technologiebedrijven, zoals Meta, TikTok, Google, Microsoft en X, hebben wereldwijd miljarden dollars aan boetes moeten betalen voor hun overtredingen. Deze boetes hadden echter alleen betrekking op overtredingen van de privacywetgeving of de antitrustwetgeving. Er zijn vrijwel geen straffen uitgedeeld voor het toestaan ​​van overtredingen in hun eigen huis.

De meest opvallende zaak in dit gebied was de arrestatie van Telegram-baas Pavel Durov in Frankrijk, beschuldigd van het faciliteren van criminele activiteiten op het berichtenplatform. De arrestatie, die naar verluidt politiek geladen is, vond echter in het geheim plaats. Het was niet te vergelijken met een openbare rechtszaak tegen een sociaal netwerk of een normaal bedrijf. Sterker nog, Telegram heeft nog nooit een straf gekregen in verband met criminele activiteiten op het platform, ondanks het feit dat de Verenigde Naties in oktober 2024 een rapport publiceerden waaruit bleek dat het platform een ​​hulpmiddel was voor criminele bendes om illegale transacties te verrichten.

De wereld worstelt nog steeds met het probleem van nepnieuws, desinformatie en fraude op socialemediaplatforms. Illustratiefoto: IJNET

Zelfs bij zulke overduidelijke illegale activiteiten is het zo dat als het niet lukt om sociale-mediaplatformen of community-sharing aan te pakken, het duidelijk is dat het beheersen van giftige content, nepnieuws en desinformatie nog ver weg is.

De platforms zijn dus niet alleen niet bang, maar vertonen ook steeds meer tekenen van "eigen initiatief" door controversiële, sensationele, onzinnige of giftige informatie aan te moedigen om kijkers te trekken via hun steeds geavanceerdere algoritmen. Het is vermeldenswaard dat Big Tech ook klaarstaat om druk uit te oefenen of elke poging tot straf op dit punt aan te vechten. Miljardair Elon Musk, eigenaar van sociaal netwerk X, uitte in september 2024 zijn verzet tegen een nieuw Australisch wetsvoorstel dat socialemediabedrijven boetes oplegt als ze er niet in slagen desinformatie online te voorkomen.

Volgens het wetsvoorstel, dat nog steeds Australisch is, kunnen internetplatforms een boete krijgen tot 5% van hun wereldwijde omzet voor het verspreiden van desinformatie. Andere grote techplatforms zoals Google en Meta hebben ook hun zorgen geuit en de nieuwe Australische wet aangevochten. Merk op dat dit ook een zeldzaam wetsvoorstel ter wereld is dat sociale netwerken beboet voor het verspreiden van desinformatie, nepnieuws en frauduleuze activiteiten.

Als we kijken naar de wereld van de traditionele media en journalistiek, is die paradox moeilijk te accepteren. Iedereen weet dat als een krant of televisiezender ook maar een kleine professionele fout maakt, om nog maar te zwijgen van het verstrekken van onjuiste of illegale informatie, de hele organisatie zwaar gestraft kan worden. Tenminste keren de lezers zich af, niet alleen de verslaggever of redacteur die de informatie heeft verstrekt, zal verantwoordelijk worden gehouden.

De ‘wereldwijde pandemie’ raakt uit de hand

Je zou kunnen stellen dat het probleem van desinformatie, nepnieuws, giftig nieuws en fraude ernstiger is dan welke oorlog of pandemie dan ook, aangezien het een hele generatie wereldwijd kan treffen, vooral jongeren. Er zijn te veel studies die aantonen hoe sociale netwerken, met name de verslavende korte videofuncties van Facebook, TikTok of Google, schadelijke effecten hebben op de fysieke en mentale gezondheid van kinderen.

In een recent onderzoek wees UNICEF erop dat sociale media ontworpen zijn om de aandacht van gebruikers zo lang mogelijk vast te houden, en dat ze inspelen op onze vooroordelen en psychologische kwetsbaarheden, zoals de behoefte aan goedkeuring of de angst voor afwijzing. Overmatig gebruik van sociale media wordt in verband gebracht met gevoelens van afgunst, minderwaardigheid en een lage levenstevredenheid. Studies suggereren zelfs dat deze gewoonte kan leiden tot symptomen van depressie, angst en slaapgebrek, waarvan psychische aandoeningen de meest voorkomende zijn...

Zangeres Taylor Swift is een van de beroemdheden die slachtoffer is geworden van AI-deepfake. Foto: Herbert Wang

Vietnamese regelgeving die sociale netwerken dwingt gebruikers te authenticeren, treedt in werking

Besluit 147/2024/ND-CP betreffende het beheer, de levering en het gebruik van internetdiensten en online informatie, onlangs uitgevaardigd door de Vietnamese regering, treedt in werking op 25 december 2024. Deze verordening vereist dat sociale netwerken gebruikers authenticeren via een telefoonnummer of persoonlijk identificatienummer, en dat alleen geauthenticeerde accounts informatie mogen verstrekken (artikelen schrijven, reageren, livestreamen) en delen op sociale netwerken. Verwacht wordt dat dit besluit de verspreiding van valse en misleidende informatie, met name frauduleuze activiteiten op sociale netwerken, aanzienlijk zal beperken.

Er zijn talloze voorbeelden van hoe misinformatie, nepnieuws en deepfakes een ernstige impact kunnen hebben op het echte leven en een wereldwijde bedreiging kunnen vormen. In augustus van dit jaar braken er rellen uit naar aanleiding van een valse bewering op sociale media dat de verdachte van de steekpartij op een jong meisje in het Verenigd Koninkrijk een radicale moslimimmigrant was (die in werkelijkheid Brits was). De rellen leidden tot duizenden arrestaties door de politie.

Bij de moordaanslag op Donald Trump in juli 2024 werd de sociale mediawereld ook overspoeld met nepnieuws en complottheorieën, zoals het geval van een Italiaanse journalist die als verdachte werd beschouwd (in werkelijkheid een 20-jarige Amerikaan). Daarnaast verschenen er op sociale media ook verdraaiingen die beweerden dat de verdachte Chinees was of dat het incident een "geënsceneerd scenario" was. De verspreiding van valse informatie vergroot ook de haat tegen alle conflicten en brandhaarden in de wereld, zoals de oorlog tussen Rusland en Oekraïne, Israël en Palestina of de problematiek van antimoslims en antisemitisme.

En toch, met de explosie van AI, loopt de strijd tegen desinformatie volledig uit de hand. Deepfake-tools en goedkope AI-modellen schieten als paddenstoelen uit de grond zonder noemenswaardige controle.

Volgens statistieken van DeepMedia is het aantal deepfake-video's en -stemmen elk jaar enorm toegenomen. Het aantal deepfake-video's is in 2023 meer dan verdrievoudigd en het aantal deepfake-stemmen meer dan acht keer zo groot als in 2022. Naar verwachting zullen er in 2024 wereldwijd ongeveer 500.000 deepfake-video's en -stemmen op sociale netwerken worden gedeeld.

Begin 2024 ging een reeks door AI gegenereerde pornografische afbeeldingen van zangeres Taylor Swift viraal op sociale media, wat wereldwijd voor ophef zorgde. Daarnaast zijn wereldwijd een aantal politici, waaronder de Amerikaanse president Joe Biden en leiders in het Verenigd Koninkrijk, India, Nigeria, Soedan, Ethiopië en Slowakije, ook slachtoffer geworden van het deepfake-probleem.

Het probleem van nepnieuws, desinformatie en vooral frauduleuze activiteiten in cyberspace wordt steeds ernstiger. In het komende AI-tijdperk kan deze "wereldwijde pandemie" uit de hand lopen zonder de gezamenlijke inspanningen van de hele wereld, met name de beleidsmakers in elk land.

Hoang Hai

Bron: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html