Deskundigen adviseren om een crisismanagementscenario op te stellen, specifiek voor deepfakes

Wat zeggen experts over de term deepfake en het recente probleem van de verspreiding van neppe naaktfoto's van beroemdheden, zoals zangeres Taylor Swift op X...

Hieronder vindt u de meningen van twee experts van de RMIT Universiteit over de schadelijke effecten van deepfake en voorgestelde oplossingen voor dit probleem:

Chuyên gia khuyến cáo cách chuẩn bị trước kịch bản xử lý khủng hoảng dành riêng cho deepfake

Dr. Jonathan Crellin (links) en Dr. Nguyen Van Thang Long (rechts). (Bron: RMIT University)

Cybercriminelen misbruiken nieuwe technologie op onvoorziene manieren

Dr. Jonathan Crellin, hoofd van informatiebeveiliging, faculteit Wetenschap , Techniek en Technologie, RMIT Universiteit :

Deepfake is een door een machine gegenereerde afbeelding die afbeeldingen of video's van verschillende bronnen kan combineren, waardoor zeer realistische afbeeldingen, video's of zelfs audio ontstaat.

Deepfake maakt gebruik van een techniek in AI die machine learning heet. Hiermee kunnen elementen, zoals het gezicht van een persoon, worden vervangen en geïntegreerd in een andere afbeelding of video.

Een voorbeeld van deepfake is het combineren van pornografische content met foto's van Taylor Swift om nepbeelden te creëren.

Om dit te doen, had het meesterbrein een aantal afbeeldingen nodig. Daarmee kon de software informatie verzamelen over de gezichtsuitdrukkingen van de zangeres. Vervolgens kon de software deze afbeeldingen combineren met pornografische content om obscene foto's te creëren, waardoor het imago van de zangeres werd bezoedeld.

Er gaan geruchten dat deze foto's zijn vrijgegeven door een Telegram-groep en zijn gemaakt met behulp van de Microsoft Designer-tool met geïntegreerde AI-ondersteuning.

Iedereen kan slachtoffer worden, want de criminelen hebben alleen een foto, video- of audio-opname nodig van de persoon die ze imiteren.

Nepnieuws in allerlei vormen kan gebruikt worden om nepnieuws te creëren. We kunnen dan ook met zekerheid zeggen dat de komende Amerikaanse presidentsverkiezingen vol zullen zitten met dergelijk nepnieuws.

Momenteel proberen wetgevers over de hele wereld wetten aan te nemen tegen dit soort beeldmateriaal.

In de Verenigde Staten worden op het gebied van wetgeving verschillende benaderingen gehanteerd, zoals het aanspannen van civiele rechtszaken of wetten om ‘de verspreiding van seksueel expliciete afbeeldingen van een persoon die door AI zijn gegenereerd zonder toestemming van die persoon’ aan te pakken.

China heeft ook nieuwe regels ingevoerd die vervolging mogelijk maken van degenen die door AI gegenereerde afbeeldingen verspreiden.

Het Verenigd Koninkrijk heeft het delen van deepfake-inhoud illegaal gemaakt onder de onlineveiligheidswet.

Hoe kun je dit detecteren of voorkomen?

De eerste stap is om het aantal foto's, video's of audio-opnamen dat je online hebt staan te beperken. Zorg ervoor dat je ze alleen deelt met mensen die je kent, en niet massaal online zet. Als iets eenmaal op internet staat, is het bijna onmogelijk om het te verwijderen.

De tweede manier is om met uw familie een geheim woord af te spreken om het gesprek te verifiëren. Zo verkleint u de kans dat u in de val trapt van een nepgesprek.

Afbeeldingen, en dan met name video's, kunnen vreemde (geënsceneerde) fouten bevatten. Als u deze fouten opmerkt, is de kans groot dat de afbeelding of het geluid nep is.

Een andere techniek die gebruikt kan worden, is om op Google of andere zoekmachines te zoeken naar ‘omgekeerde afbeelding’, om zo de bron van de originele afbeelding te achterhalen.

De laatste les is dat je niet zomaar moet geloven wat je ziet. De camera (of AI) kan liegen!

Deepfakes vormen een grote bedreiging voor beroemdheden en politici

Dr. Nguyen Van Thang Long, hoofddocent, faculteit Communicatie en Design, RMIT Universiteit :

Nu nepnieuws door deepfakes steeds populairder wordt, moeten mediateams van beroemdheden en politici over middelen beschikken om nepnieuws te monitoren en hier snel op te reageren, of om nepnieuws voortdurend te corrigeren.

Als deepfakes systematisch worden gecombineerd met georganiseerde vormen van ‘vuile PR’, wordt deze taak nog moeilijker vanwege de verspreiding van tegenstrijdige informatie. Nepnieuws en negatief nieuws zullen altijd meer gedeeld worden dan positief nieuws.

Wanneer mensen nieuws op sociale netwerken zien, hebben ze vaak de gewoonte om de informatie te verifiëren via de officiële mediakanalen.

Nu sociale media overspoeld worden met deepfake-content, wordt het steeds moeilijker en tijdrovender om de nauwkeurigheid van reguliere nieuwsberichten te verifiëren. Dit vereist diepgaand onderzoek en verificatietechnieken.

Hoe langer we wachten met het verifiëren van nieuws en bronnen, hoe groter de kans dat er valse, verzonnen of misleidende informatie wordt verspreid. Dit komt door de snelheid waarmee berichten en reacties op sociale media worden gedeeld en geplaatst.

Dit verergert het onderliggende probleem en kan leiden tot maatschappelijke onrust, vooral als de inhoud betrekking heeft op politieke uitingen, religie, gender, bedrijfsstrategieën of macro-economische kwesties.

In de context van de verspreiding van deepfakes is de meest effectieve strategie voor risicobeheer nog steeds het onderhouden van consistente communicatiekanalen. Deze kunnen worden gebruikt via populaire socialemediaplatforms, websites of persoonlijke ontmoetingen tussen bedrijven, beroemdheden, politici en belangrijke belanghebbenden, zoals fans, pers, communities en werknemers.

Het toenemende gebruik van AI brengt zowel voordelen als onverwachte nieuwe problemen met zich mee. Illustratiefoto. (Bron: Freepik)

Door deze communicatiekanalen te onderhouden, verloopt de ontvangst van informatie over deepfakes sneller. Hierdoor kunnen geruchten tijdig en effectief worden gecorrigeerd en kan desinformatie al in een vroeg stadium worden ontmaskerd.

Bedrijven, beroemdheden en politici moeten echter een crisismanagementplan ontwikkelen, specifiek voor deepfakes. Denk bijvoorbeeld aan wie er rapporteert, via welke mediakanalen, criteria voor het verifiëren van informatie aan de hand van bewijs en betrouwbare bronnen, het opstellen van een tijdlijn voor het afhandelen van geruchten en het uitstippelen van een strategie voor reputatieherstel.

Met een goed voorbereid, methodisch plan is het makkelijker om de deepfake-crisis aan te pakken en kunnen de eventuele nadelige gevolgen tot een minimum beperkt worden.

Bron