Het blokkeren van de 'golf' van nepvideo's die na de ramp veel kijkers trekken

Het verdraaien van de waarheid met behulp van technologie is niet alleen in strijd met de ethiek en de wet, maar kwetst ook de psychologie van de kijker enorm, heeft ernstige gevolgen voor de familie van het slachtoffer en ondermijnt het vertrouwen in de gemeenschap.

Door AI gegenereerde nepbeelden van het gekapseisde schip in de Halongbaai.

Virtuele tragedie, echte schade

Het gekapseisde cruiseschip Blue Bay 58 in de Halongbaai in juli vorig jaar liet niet alleen hartverscheurende gevolgen achter voor de slachtoffers en hun families, maar diende ook als waarschuwing voor het fenomeen van onethische informatie-exploitatie in cyberspace.

Slechts een paar uur na het incident verspreidde zich een reeks 're-enactment' -video's razendsnel op platforms zoals TikTok en Facebook. Beelden van huilende kinderen, schreeuwende volwassenen midden in een enorme zee, reddingssirenes die door de lucht galmden... deden kijkers huiveren. De meeste van die video's waren echter door AI nagemaakt of geknipt uit niet-gerelateerde bronnen, wat de waarheid absoluut niet weergaf.

Een gewone foto van een groep kinderen op een reis naar Ha Long in augustus 2024 werd ook gebruikt als de "laatste foto voor de ramp" van het gekapseisde schip, die door veel fanpagina's werd gedeeld met sympathieke bijschriften.

Zangeres Thai Thuy Linh deelde deze foto uit emotie op haar persoonlijke pagina met een gedenkbericht, waarna de eigenaar van de foto, de heer NT, om correctie en verwijdering verzocht omdat de foto vervormd was.

Niet alleen beroemdheden, ook veel andere accounts op sociale media werden slachtoffer van nepvideo's en vervormde beelden, doordat ze met onschuld en medeleven valse content deelden.

Niet alleen het schip kapseisde in de Halongbaai, eerder werden in veel video's ook de gevolgen van stormen en overstromingen in het dorp Lang Nu (provincie Lao Cai ) van vorig jaar 'nagebootst'. Ook werden oude verkeersongelukken van jaren geleden door AI 'tot leven gewekt' en zo nieuwe rampen gecreëerd.

Deze clips, met dramatische camerahoeken en tragische verhalende stemmen, eindigen vaak met de belofte om "de volgende aflevering te kijken om te ontdekken wat er gebeurd is" of een oproep om namens de slachtoffers te delen. Door in te spelen op de emoties en nieuwsgierigheid van gebruikers, verspreidt nepcontent zich razendsnel, waardoor de grens tussen echt en nep steeds verder wordt verlegd.

Geconfronteerd met bovenstaande situatie stelde universitair hoofddocent dr. Bui Hoai Son, vast lid van de commissie Cultuur en Samenleving van de Nationale Assemblee, dat in het tijdperk van de informatie-explosie veel mensen worden meegezogen in een doolhof van nepnieuws en hightech geënsceneerde video's met een "realistische" uitstraling. Ze geloven onbedoeld in dingen die niet echt zijn, terwijl ze sceptisch staan tegenover betrouwbare waarden. Dit is een zorgwekkende situatie die het maatschappelijk bewustzijn en het vertrouwen in de gemeenschap bedreigt.

De impact van deze giftige inhoud beperkt zich niet tot tijdelijke emoties. Veel mensen geven ook aan dat ze psychisch ernstig zijn aangetast na het zien van tragische en pijnlijke video's.

Mevrouw Nguyen Thanh Ha, eigenaar van de simkaartwinkel aan de Ngoc Lamstraat 145 (Bo De Ward, Hanoi), vertelde: "Ik ben zo gekweld dat ik bijna niet meer kan slapen na het zien van beelden van ongelukken en huilende kinderen. Toen ik besefte dat het nep was, voelde ik me beledigd. Nog zorgwekkender is dat veel mensen misbruik maken van de sympathie van kijkers om QR-codes te plaatsen, accounts te ondersteunen, verkapte aanbiedingen te doen... en zo echte emoties om te zetten in schaamteloze winstbejag."

Hoe onderscheid je echt van nep in het AI-tijdperk?

De ontwikkeling van kunstmatige intelligentie (AI) biedt veel gemak, maar brengt tegelijkertijd ook een ongekende "pandemie van nepnieuws" met zich mee. Volgens experts van de Cyber Security Association is het maken van nepfoto's en -video's nu gemakkelijker en geavanceerder, waardoor het voor gebruikers moeilijk is om echt van nep te onderscheiden. Met name het gebrek aan alertheid en de gewoonte om ongeverifieerde informatie te delen op sociale media zorgen ervoor dat nepnieuws zich snel verspreidt.

Advocaat Bui Thi Mai van de Orde van Advocaten van Hanoi stelde dat het gebruik van AI om nepcontent over rampen te creëren om kijkers en winst te genereren, verkeerd is en strikt moet worden aangepakt. Mensen moeten zich proactief wapenen met kennis over technologie en wetgeving en alleen officiële informatiebronnen, gerenommeerde fanpagina's of zeer betrouwbare personen vertrouwen. Het slim en legaal gebruiken van sociale netwerken helpt niet alleen om jezelf te beschermen, maar draagt ook bij aan het voorkomen van nepnieuws en het behouden van een gezonde en beschaafde online omgeving.

Universitair hoofddocent dr. Bui Hoai Son deelde dezelfde mening en stelde voor dat er strengere maatregelen nodig zijn om nepnieuws en nepvideo's aan te pakken, niet alleen van digitale platforms, maar ook vanuit de wet zelf. Momenteel bevatten het Wetboek van Strafrecht, de Wet op de Cyberveiligheid en aanverwante decreten bepalingen voor de aanpak van laster, vervalsing en fraude in cyberspace, maar deze moeten strikt worden gehandhaafd en er kunnen zelfs nieuwe regels worden toegevoegd om het toenemende gevaar van nepnieuws in verband met rampen het hoofd te bieden. Daarnaast is het noodzakelijk om media-educatie al vroeg in gezinnen en op scholen te versterken. Kinderen moeten leren nepvideo's te herkennen, informatie te verifiëren en hun verantwoordelijkheden te begrijpen bij het delen van content. Belangrijker nog, onderwijs moet gericht zijn op het bevorderen van mededogen, zodat niemand kan profiteren van de pijn van anderen.

In het tijdperk van sterke AI-ontwikkeling is het onderscheid tussen echt en nep niet langer alleen gebaseerd op zintuigen, maar vereist het alertheid, kennis en verantwoordelijkheid van elke gebruiker van sociale netwerken. Daarom moet iedereen proactief verifiëren en voorzichtig zijn voordat hij of zij echte waarden deelt en verspreidt, zodat sociale netwerken een betrouwbare verbindingsruimte worden en bijdragen aan de ontwikkeling van een gezonde en beschaafde informatieomgeving.

Bron: https://hanoimoi.vn/chan-song-cau-view-tu-video-gia-sau-tham-hoa-711381.html