Het gebruik van AI-tools om op AI gebaseerde productdefecten te verhelpen

Nepnieuws wordt steeds geavanceerder dankzij AI-manipulatie

Tijdens de recente bijeenkomst in Hanoi tussen de Vereniging van Vietnamese Journalisten en de Vereniging van Thaise Journalisten besteedden de leiders van beide verenigingen vooral aandacht aan het probleem van 'nepnieuws'. Ze stelden dat dit niet langer een nationaal probleem is, maar een groot probleem met onvoorspelbare gevolgen voor de regio en de wereld.

Uit onderzoek van Google DeepMind blijkt dat het maken van afbeeldingen, video's en audio die zich voordoen als mensen bijna twee keer zo vaak voorkomt als het creëren van desinformatie met behulp van hulpmiddelen als AI-chatbots.

De afgelopen maanden zijn er op TikTok, X en Instagram deepfakes van de Britse premier Rishi Sunak en andere wereldleiders verschenen. Er bestaat bezorgdheid dat, ondanks de pogingen van sociale netwerken om de content te labelen of te verwijderen, het publiek de content mogelijk niet als nep herkent en dat de verspreiding ervan kiezers zou kunnen beïnvloeden.

AI in het tijdperk van kunstmatige intelligentie gebruikt AI-tools om AI-producten te creëren (afbeelding 1) — Er zijn nepfoto's van de Britse premier Rishi Sunak verschenen op TikTok en Instagram in de aanloop naar de algemene verkiezingen. (Foto: AFP)

MSc. Luong Dong Son, docent aan het Instituut voor Journalistiek en Communicatie van de Academie voor Journalistiek en Propaganda, onderzocht de impact van nepnieuws in het technologische tijdperk en stelde dat de combinatie van AI en desinformatie, ook wel bekend als surrealistisch nepnieuws, de publieke perceptie van gebeurtenissen en maatschappelijke kwesties kan verstoren en daarmee de manier waarop mensen de situatie beoordelen en beslissingen nemen, kan beïnvloeden. Dit kan ernstige gevolgen hebben, van kleine persoonlijke beslissingen tot belangrijke beslissingen die de gemeenschap en het land aangaan.

Hyperfake news kan worden gebruikt om de publieke opinie te manipuleren, geweld aan te wakkeren, verdeeldheid te zaaien en de sociale stabiliteit te ondermijnen. In de politieke arena kan hyperfake news het vertrouwen in democratische instellingen ondermijnen, verkiezingsuitslagen beïnvloeden en zelfs conflicten aanwakkeren.

Over de uitdagingen voor journalisten en persorganisaties zei MSc. Luong Dong Son dat de verfijning van surrealistisch nepnieuws, met name deepfake, het steeds moeilijker maakt om onderscheid te maken tussen echt en nep, zelfs voor ervaren journalisten.

"In het tijdperk van de informatie-explosie eist het publiek steeds vaker dat journalisten en nieuwsorganisaties snel en accuraat informatie verstrekken. Deze druk kan er echter toe leiden dat journalisten overhaast informatie publiceren zonder zorgvuldige verificatie, waardoor surrealistische nepnieuws zich kan verspreiden. Bovendien lopen journalisten en nieuwsorganisaties juridische en ethische risico's als ze niet zorgvuldig zijn bij het verifiëren en publiceren van informatie", aldus Son.

Laat AI informatie verifiëren

Volgens MSc. Luong Dong Son is het inzetten van moderne technologische oplossingen essentieel om dit soort nepnieuws aan te pakken.

"Deze oplossingen richten zich niet alleen op het detecteren en elimineren van nepnieuws, maar ook op het voorkomen ervan vanaf de eerste productiefases", aldus MSc. Dong Son.

Ten eerste is een van de belangrijkste technologieën van vandaag, volgens de heer Son, het gebruik van kunstmatige intelligentie (AI) om nepnieuws te detecteren. Moderne AI-systemen kunnen context analyseren, informatie uit meerdere bronnen vergelijken en afwijkingen in de informatie-inhoud detecteren. Een typisch voorbeeld is het gebruik van AI om video's en afbeeldingen te analyseren en tekenen van bewerking of productie met behulp van deepfake-technologie te detecteren.

Daarnaast maken socialemediaplatforms en zoekmachines ook actief gebruik van machine learning-algoritmen om nepnieuws automatisch te classificeren en te filteren voordat het viraal gaat. Deze algoritmen zijn ontworpen om afwijkingen in deelpatronen, de verspreidingssnelheid of zelfs de toon van berichten te herkennen en zo de waarschijnlijkheid in te schatten dat de informatie nep is.

Daarnaast is het gebruik van blockchaintechnologie om de oorsprong van informatie te beheren een mogelijke oplossing. Blockchain biedt de mogelijkheid om een transparant en onveranderlijk authenticatiesysteem te creëren, waardoor de oorsprong en geschiedenis van alle informatie kunnen worden gevolgd en de nauwkeurigheid en betrouwbaarheid worden gewaarborgd.

AI in het tijdperk van kunstmatige intelligentie gebruikt AI-tools om AI-producten te creëren (afbeelding 2) — AI kan nepcontent of misleidende informatie en afbeeldingen creëren die moeilijk te onderscheiden zijn, wat grote reputatieschade voor personen en organisaties kan veroorzaken en zelfs nationale en etnische belangen kan schaden.

De heer Phan Van Tu, hoofd van de afdeling Journalistiek van de Faculteit Journalistiek en Communicatie van de Universiteit voor Sociale Wetenschappen en Geesteswetenschappen in Ho Chi Minhstad, deelde dezelfde mening als MSc. Luong Dong Son en benadrukte dat we niet alleen vaardigheden moeten aanleren om de sterke punten van AI voor de journalistiek te benutten, maar dat we AI-tools ook moeten gebruiken om informatie te verifiëren.

Het verifiëren van bronnen, wat in essentie neerkomt op het beoordelen van de betrouwbaarheid van een bron, is een belangrijke vaardigheid die te maken heeft met het verifiëren van de bron van informatie, het vergelijken ervan met andere bronnen en het gebruiken van feitencontroletools om de betrouwbaarheid te controleren.

Interessant is dat er momenteel veel AI-geïntegreerde tools bestaan die journalisten ondersteunen bij het verificatieproces, naast de traditionele tools die factcheckers ondersteunen, zoals Google Image, Tineye reverse image search, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

De heer Phan Van Tu zei dat het trainen van de professionele vaardigheden van journalisten in de huidige periode aandacht vereist voor het bieden van capaciteit om informatie te verifiëren tegen de aanval van nepnieuws dat door AI wordt gemanipuleerd. "Het gebruik van AI-tools om AI-gerelateerde fouten te corrigeren is de snelste manier om journalisten en persbureaus te helpen niet alleen hun taken goed uit te voeren, maar ook bij te dragen aan het verbeteren van de informatiekwaliteit en het beschermen van het publiek tegen valse informatie en de negatieve gevolgen van de media", aldus de heer Tu.

De heer Tu wees er echter ook op dat het vermogen van journalisten om informatie te beoordelen niet uitsluitend op tools kan berusten. Het moet meteen gezegd worden dat AI de analyse van nieuwsinhoud kan ondersteunen, maar niet alle soorten nepnieuws en gemanipuleerde informatie kan detecteren. AI-software kan nog steeds worden misleid door de AI-technieken die het gebruikt om te detecteren.

"Geen enkel hulpmiddel is een toverstaf, maar AI-hulpmiddelen die nepfoto's en -video's detecteren, vormen nog steeds een waardevolle hulpbron als onderdeel van een verificatieproces of due diligence-methode", aldus Phan Van Tu.

Reactie (0)