Wanneer nepnieuws AI de boosdoener wordt die desinformatie versterkt

Wanneer nepnieuws AI de boosdoener wordt in het versterken van desinformatie - foto 1 — Illustratiefoto

Nepnieuws explodeert op sociale media

Binnen tien jaar zijn sociale netwerken veranderd van een plek waar gebruikers alleen foto's konden delen en statussen konden updaten in een 'podium' voor talloze ongeverifieerde verhalen.

De snelheid waarmee nepnieuws zich verspreidt, maakt het zo gevaarlijk: één bericht van één account en een paar keer delen volstaan om de informatie te laten uit de hand lopen en de gesprekken van miljoenen mensen te belanden.

Veel gebruikers denken dat ze nuchter genoeg zijn om met nepnieuws om te gaan, maar de realiteit laat het tegenovergestelde zien. Nepnieuws is vaak verpakt in sterke emoties, woede, medeleven, verontwaardiging... waardoor kijkers gemakkelijk de stap van het controleren van de bron overslaan.

Algoritmes van sociale media geven de voorkeur aan controversiële content en plaatsen deze onbedoeld hoger in de nieuwsfeed. Hoe meer mensen het zien, hoe meer het wordt geloofd, en zo gaat het verder.

De gevolgen gaan verder dan het verkeerd begrijpen van een gebeurtenis. Op veel plaatsen ter wereld , waaronder Vietnam, heeft nepnieuws persoonlijke reputaties geschaad, zakelijke activiteiten verstoord, maatschappelijke onrust veroorzaakt en zelfs beleidsbeslissingen beïnvloed.

Deze realiteit herinnert ons eraan dat we in een tijdperk leven waarin we alle informatie die we ontvangen opnieuw moeten evalueren, voordat we deze geloven en delen.

Identificeer nepnieuws dat is gecreëerd met generatieve AI-technologie

Vroeger werd nepnieuws gecreëerd door de waarheid te verdraaien. Tegenwoordig is het creëren van desinformatie dankzij AI-technologie (van tekst, afbeeldingen tot video's ) een veel sneller, goedkoper en moeilijker te detecteren proces.

Realistische foto's worden in seconden gemaakt, deepfake-video's simuleren menselijke stemmen en gezichten tot het punt dat ze met het blote oog nauwelijks te onderscheiden zijn. Veel internetgebruikers hebben beelden gezien van politici die op plekken verschijnen waar ze nog nooit zijn geweest, bedrijven die met beweringen worden gefabriceerd, of gewone mensen die in volkomen onwerkelijke situaties worden geplaatst. De producten van generatieve AI fungeren als een soort "technologische camouflage", die valse informatie omzet in redelijke informatie en het voor kijkers moeilijk maakt om te twijfelen.

Toch laat nepnieuws, gecreëerd door AI, nog steeds sporen na. Onnatuurlijke ogen, extra vingers, kleine details in belichting, lichaamsverhoudingen of overdreven perfecte, emotieloze woorden... het zijn allemaal tekenen van herkenning.

Bovendien zijn veel platforms inmiddels begonnen met het integreren van AI-gegenereerde tools voor het detecteren van content. De herkenningsmogelijkheden kunnen echter nog niet gelijke tred houden met de technologische vooruitgang.

In deze context moeten gebruikers van sociale media een gewoonte ontwikkelen: vraag altijd: "Wie heeft deze informatie gecreëerd?", "Waarom verschijnt deze op dit moment?", "Is er een officiële bron die dit kan bevestigen?"... In een wereld waarin AI een "alternatieve waarheid" kan creëren, is het de nuchterheid van gebruikers van sociale media die het belangrijkste schild wordt.

Bron: https://baovanhoa.vn/nhip-song-so/khi-tin-gia-ai-tro-thanh-thu-pham-khuech-dai-thong-tin-sai-lech-186877.html