Det legendariska kriget mot desinformation, djupförfalskningar och bedrägerier.

(NB&CL) Förutom krig, väpnat våld och djupa geopolitiska splittringar globalt står världen år 2024 fortfarande inför ytterligare en stor kamp: kampen mot desinformation, falska nyheter och bedrägerier. Detta problem kommer att vara en oändlig saga och förutspås bli allt allvarligare om världen inte samarbetar för att genomföra avgörande åtgärder.

Informationsförvrängning – ett växande hot.

Informationsstörningar, särskilt desinformation och onlinebedrägerier, hyllas som en "global pandemi", en global kamp där traditionella journalistorganisationer, med sitt uppdrag att skydda sanningen, behöver spela en ledande roll. Denna kamp kan dock bara lyckas med avgörande och grundläggande åtgärder på nationell och global nivå.

Falska nyheter, desinformation och särskilt bedrägerier har nu blivit en oundviklig konsekvens och negativ bieffekt i takt med att världen går in i en ny era av media. Enkelt uttryckt är scenen inte längre reserverad för mediebolag med censur. Som vi vet har explosionen av internet, högteknologiska apparater och särskilt sociala medier gjort det möjligt för vem som helst att bli en "journalist", "reporter" eller till och med en "talesperson" som följs av miljontals människor.

Sociala medier, en värld utan regler.

Allt har två sidor. Explosionen av sociala medier har medfört många fördelar, som att information och kunskap sprids snabbt och brett på ett spektakulärt sätt. Idag kan information om en olycka nå människor inom några minuter, även de som befinner sig på andra sidan jorden. På samma sätt uppdateras och delas information om naturkatastrofer som översvämningar, stormar och skogsbränder snabbt via sociala medieplattformar, vilket effektivt sprider medvetenhet och varningar.

Men förutom sina positiva aspekter medför sociala nätverk och plattformar för community-delning oroande konsekvenser. Ännu mer skrämmande är att det för närvarande inte bara är människor, utan även maskiner och särskilt den snabba infiltrationen av artificiell intelligens (AI), som gör internet i allmänhet, och teknikplattformar i synnerhet, till en plats fylld av risker.

"Informationspandemin" på sociala medier.

Enligt statistik som publicerades av Redline i slutet av juni 2024 finns det 4,9 miljarder användare av sociala medier globalt. Denna undersökning av amerikanska medborgare visade också att en stor majoritet av användarna av sociala medier inte litar på riktigheten i informationen som sprids på dessa plattformar, från Facebook och TikTok till YouTube. Därför använde organisationen termen "informationspandemi" för att beskriva det nuvarande läget för felinformation på sociala medier.

Sociala mediers värld är som en urskog, nästan utan regler. I den njuter människor av fruktbarhet, frihet och upprymdhet, men detta åtföljs av dödliga fällor. Än idag kämpar nästan alla länder fortfarande med att förvalta och organisera denna "urskog", och många har bara precis börjat ta itu med kränkningar, medan denna "värld" redan har omfattat hela mänskligheten.

I slutet av november i år blev Australien det första landet i världen att officiellt anta en lag som förbjuder barn att vistas i denna fascinerande, men farliga och praktiskt taget oreglerade, "primitiva" värld. Mer specifikt förbjuder Australien barn under 16 år att använda sociala medier och kommer att utdöma höga böter på upp till 32 miljoner USD om sociala medieplattformar bryter mot denna regel.

I detta sammanhang fortsätter explosionen av falska nyheter, desinformation och särskilt onlinebedrägerier på sociala medier (liksom genom andra högteknologiska former som bedrägliga programvaror och webbplatser) att vara ett globalt problem. I Vietnam hör vi varje dag hjärtskärande berättelser om offer för bedrägerier i alla former på internet. Globalt sett är detta ett problem för alla länder.

I mars i år rapporterade Interpol att cyberbedrägerier i Sydostasien hade expanderat globalt och genererat upp till 3 biljoner dollar årligen (motsvarande Frankrikes BNP). Till och med ett brittiskt teknikföretag förlorade 25 miljoner dollar efter att bedragare använde deepfakes för att utge sig för att vara en högre chef och beställa en pengaöverföring. Dessa är naturligtvis bara några typiska exempel bland miljontals onlinebedrägerier.

Är det en omöjlig uppgift att hantera spridningen av felinformation på sociala medier?

Trots länders och globala organisationers obevekliga ansträngningar att förhindra eller bestraffa olaglig verksamhet i cyberrymden, särskilt på stora sociala medieplattformar som TikTok, Facebook och X, åtalas faktiskt endast ett mycket litet antal fall.

Ännu mer oroande är att hittills nästan inget land eller organisation har hållit sociala medieplattformar ansvariga för felaktiga aktiviteter, såsom att sprida felinformation eller ens bryta mot lagen. I maj i år erkände Meta själva att de hittat innehåll "möjligen AI-genererat" som använts för att förvränga sanningen eller vilseleda på sina Facebook- och Instagram-plattformar. Detta uttalande visar att sociala medieplattformar själva anser att de har "opartiskheten" att sprida skadlig information; annars skulle de inte ha "frivilligt" erkänt det.

Faktum är att stora teknikföretag som Meta, TikTok, Google, Microsoft och X har bötfällts med miljarder dollar världen över för sina överträdelser, men dessa har främst varit relaterade till brott mot användarnas integritetsregler eller antitrustlagar. Det har nästan inte förekommit några påföljder mot dem för överträdelser som sker inom deras egna "hemplattformar".

Den mest anmärkningsvärda händelsen i detta område var gripandet av Telegrams VD Pavel Durov i Frankrike, anklagad för att ha underlättat kriminell verksamhet på meddelandeplattformen. Gripandet ansågs dock vara politiskt motiverat och genomfördes i hemlighet. Det liknade inte ett typiskt offentligt rättsfall mot ett socialt nätverk eller företag. Faktum är att Telegram aldrig har straffats för kriminell verksamhet på sin plattform, trots att FN rapporterade i oktober 2024 att plattformen var ett verktyg som användes av kriminella gäng för olagliga transaktioner.

Världen kämpar fortfarande med att hantera problemet med falska nyheter, felinformation och bedrägerier på sociala medieplattformar. (Illustration: IJNET)

Därför, om det inte ens har vidtagits åtgärder mot sociala medieplattformar eller community-delningssajter inför sådana uppenbara olagliga aktiviteter, är det tydligt att kontroll av skadligt innehåll, falska nyheter och desinformation är en ännu mer avlägsen möjlighet.

Som ett resultat visar dessa plattformar inte bara ingen rädsla utan agerar i allt högre grad ostraffat och uppmuntrar kontroversiell, sensationell, meningslös eller skadlig information för att locka tittare genom sina alltmer sofistikerade algoritmer. Det är värt att notera att Big Tech-företag till och med är villiga att pressa eller utmana alla försök att straffa dem i denna fråga. Miljardären Elon Musk, ägare till det sociala nätverket X, uttryckte sitt motstånd i september 2024 mot ett nytt australiskt lagförslag som föreslår att bötfälla sociala medieföretag om de inte förhindrar felinformation online.

Enligt detta australiska lagförslag kan internetplattformar bötfällas med upp till 5 % av sina globala intäkter om de tillåter spridning av felinformation. Andra stora teknikplattformar som Google och Meta har också uttryckt oro och ifrågasatt det nya australiska lagförslaget. Det är värt att notera att detta är ett av få lagförslag i världen som tar upp påföljder för sociala medieplattformar för att sprida felinformation, falska nyheter och bedrägerier.

Om man ser på den traditionella medie- och journalistikens värld är denna paradox svår att acceptera. Alla vet att om en tidning eller tv-kanal gör ett enda mindre professionellt misstag, än mindre publicerar falsk eller olaglig information, kan hela organisationen få allvarliga straff, eller åtminstone förlora sina läsare. Det är inte bara reportern eller redaktören som publicerade informationen som hålls ansvarig.

Den globala pandemin håller på att spåra ur.

Man kan säga att problemet med felinformation, falska nyheter, skadligt innehåll och bedrägerier är allvarligare än något krig eller någon pandemi, eftersom det kan påverka en hel generation globalt, särskilt unga människor. Många studier har visat hur sociala medier, särskilt de beroendeframkallande kortvideofunktionerna på Facebook, TikTok och Google, skadar barns fysiska och psykiska hälsa.

I en nyligen genomförd studie visade UNICEF att sociala medieplattformar är utformade för att fånga användarnas uppmärksamhet så länge som möjligt, och utnyttjar fördomar och psykologiska sårbarheter som önskan om erkännande eller rädsla för avvisande. Överdriven användning av sociala medier är kopplad till känslor av avund, underlägsenhet och missnöje med livet. Studier tyder till och med på att denna vana kan leda till symtom på depression, ångest och sömnbrist, framför allt psykisk sjukdom...

Sångerskan Taylor Swift är en av de kända personerna som fallit offer för deepfake-fenomenet med AI. Foto: Herbert Wang

Vietnamesiska regler som kräver att sociala medieplattformar verifierar användare kommer sannolikt att få effekt.

Dekret 147/2024/ND-CP om hantering, tillhandahållande och användning av internettjänster och onlineinformation, som nyligen utfärdats av den vietnamesiska regeringen, träder i kraft den 25 december 2024. Följaktligen föreskriver det att sociala nätverk måste verifiera användare via telefonnummer eller personligt identifikationsnummer, och endast verifierade konton får tillhandahålla information (publicera, kommentera, livesända) och dela information på sociala nätverk. Detta dekret förväntas avsevärt minska spridningen av falsk och vilseledande information, och särskilt bedrägerier på sociala nätverk.

Det finns många exempel som visar hur felaktig information, falska nyheter och djupförfalskade bilder kan ha allvarliga konsekvenser för verkliga livet och potentiellt bli ett globalt hot. I augusti i år utbröt upplopp på grund av falsk information som spreds på sociala medier som påstod att den misstänkte för knivdöden av en ung flicka i Storbritannien var en radikal muslimsk invandrare (sant nog brittisk medborgare). Upploppen resulterade i tusentals gripanden av polisen.

I samband med mordförsöket på Donald Trump i juli 2024 översvämmades sociala medier också av falska nyheter och konspirationsteorier, såsom anklagelsen att en journalist i Italien var den misstänkte (i verkligheten en 20-årig amerikansk man). Dessutom fanns det förvrängningar online som påstod att den misstänkte var kinesisk eller att händelsen var ett "iscensatt scenario". Spridningen av felinformation ger också näring åt hat mot konflikter och heta punkter runt om i världen, såsom krigen mellan Ryssland och Ukraina och Israel och Palestina, eller frågor om antimuslimska och antisemitiska stämningar.

Dessutom, med explosionen av AI, håller kampen mot desinformation på att spåra ur. Deepfakes-verktyg och billiga AI-imitatörer sprider sig och förblir i stort sett oreglerade.

Enligt DeepMedias statistik har mängden deepfake-videor och -röster skjutit i höjden år efter år. Deepfake-videor mer än tredubblades och deepfake-röster ökade mer än åtta gånger under 2023 jämfört med 2022. Det beräknas att cirka 500 000 deepfake-videor och -röster kommer att delas på sociala medier globalt under 2024.

I början av 2024 spreds en serie AI-genererade pornografiska bilder av sångerskan Taylor Swift på sociala medier, vilket orsakade omfattande upprördhet. Dessutom har ett flertal politiker runt om i världen, inklusive USA:s president Joe Biden och ledare i Storbritannien, Indien, Nigeria, Sudan, Etiopien och Slovakien, också fallit offer för deepfake-fenomenet.

Således blir problemet med falska nyheter, desinformation och särskilt bedrägerier online allt allvarligare. I den kommande AI-eran kan denna "globala pandemi" spåra ur utan samordnade insatser från hela världen, särskilt beslutsfattare i varje land, för att förhindra den.

Hoang Hai

Källa: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html