Den legendariske kampen mot feilinformasjon, deepfakes og svindel

(NB&CL) Foruten krig, væpnet vold eller dype globale geopolitiske splittelser, står verden i 2024 fortsatt overfor en stor kamp mot feilinformasjon, falske nyheter og svindel. Dette problemet vil være en legendarisk historie som er vanskelig å avslutte, og som forventes å bli mer alvorlig hvis verden ikke går sammen om å iverksette drastiske tiltak.

Informasjonskaos – en stadig voksende fare

Informasjonsforstyrrelser, spesielt feilinformasjon og nettsvindel, blir sett på som en «global pandemi», en vanlig kamp i verden der tradisjonelle medieorganisasjoner, med sitt oppdrag å beskytte sannheten, må spille en ledende rolle. Kampen kan imidlertid bare lykkes hvis det iverksettes drastiske og grunnleggende tiltak i hvert land og globale organisasjoner.

Falske nyheter, feilinformasjon og spesielt svindel har nå blitt de uunngåelige konsekvensene og negative aspektene når verden går inn i en ny medieæra. Enkelt sagt er scenen ikke lenger bare for mediebyråer og sensurerte aviser. Som vi vet har eksplosjonen av internett, høyteknologiske enheter og spesielt sosiale nettverk gjort det mulig for alle å bli en «journalist», «reporter» eller til og med en «talsperson» som følges av millioner av mennesker.

Sosiale nettverk, en verden uten regler

Alt har to sider. Eksplosjonen av sosiale nettverk har gitt mange fordeler, som å bidra til at informasjon og kunnskap spres raskt og bredt på en spektakulær måte. I dag vil informasjon om en ulykke nå alle på bare noen få minutter, selv om det er halvveis rundt jorden. Eller informasjon om naturkatastrofer som flom, stormer, skogbranner ... oppdateres også raskt av alle via sosiale nettverksplattformer eller deles, noe som bidrar til å spre eller varsle effektivt.

Men i tillegg til de gode sidene, fører sosiale nettverk og fellesskapsdelingsplattformer med seg bekymringsfulle konsekvenser. Enda skremmende er det at ikke bare mennesker, men også maskiner og spesielt den stormfulle inntrengningen av kunstig intelligens (KI), gjør at internettverdenen generelt og teknologiplattformer spesielt blir et sted med for mange risikoer.

«Informasjonspandemi» på sosiale nettverk

Ifølge statistikk publisert av Redline i slutten av juni 2024, er det 4,9 milliarder brukere av sosiale medier over hele verden. Ifølge denne undersøkelsen blant amerikanere stoler ikke de fleste brukere av sosiale medier på nøyaktigheten av informasjonen som spres på disse plattformene, fra Facebook, TikTok til YouTube. Derfor brukte denne organisasjonen begrepet «infodemi» for å snakke om den nåværende tilstanden til feilinformasjon på sosiale medier.

De sosiale nettverkenes verden er som en urskog, nesten uten regler. I den nyter folk fruktbarhet, frihet og forfriskning, men i tillegg til det finnes det dødelige feller. Frem til nå sliter nesten alle land fortsatt med forvaltningen og organiseringen av denne «urskogen», og tar til og med de første skrittene for å håndtere brudd, mens denne «verdenen» har dekket hele menneskeheten.

I slutten av november i år ble Australia det første landet i verden til offisielt å innføre en lov som forbyr barn å komme inn i den fascinerende, men farlige og nesten lovløse «primitive» verdenen. Mer spesifikt forbød Australia barn under 16 år å bruke sosiale nettverk, og de vil ilegge store bøter på opptil 32 millioner dollar hvis de bryter med lovene.

I den sammenhengen fortsetter eksplosjonen av falske nyheter, feilinformasjon og spesielt svindel på sosiale nettverk (så vel som gjennom andre høyteknologiske former som programvare, svindelnettsteder osv.) å bli et globalt problem. I Vietnam hører vi hver dag hjerteskjærende historier om ofre for svindlere i alle former på nett. I verden er dette også et problem for alle land.

I mars i år rapporterte Interpol at nettsvindel i Sørøst-Asia har økt globalt og har generert så mye som 3 billioner dollar i året (tilsvarende Frankrikes BNP). Selv en britisk teknologigigant tapte 25 millioner dollar etter at svindlere brukte deepfakes for å utgi seg for å være en toppleder for å bestille pengeoverføringer. Dette er selvfølgelig bare noen få eksempler på millioner av nettsvindelforsøk.

Å håndtere sosiale medier som sprer feilinformasjon, et umulig oppdrag?

Selv om land og globale organisasjoner gjør en kontinuerlig innsats for å forhindre eller straffe ulovlige aktiviteter i cyberspace, spesielt på store sosiale plattformer som TikTok, Facebook eller X, er antallet saker som håndteres bare et svært lite antall.

Det som er enda mer bemerkelsesverdig er at nesten ingen land eller organisasjoner frem til nå har holdt sosiale nettverk ansvarlige for ugjerninger, som å spre falsk informasjon eller til og med brudd på loven. I mai i år innrømmet Meta selv at de hadde funnet innhold «muligens generert av AI» som ble brukt til å forvrenge eller lure på sine Facebook- og Instagram-plattformer. Denne uttalelsen viser at sosiale nettverk selv mener at de er «uskyldige» når de sprer skadelig informasjon, ellers ville de ikke ha «selvinnrømmet» det på den måten.

Faktisk har store teknologiselskaper, som Meta, TikTok, Google, Microsoft eller X, måttet betale milliarder av dollar i bøter over hele verden for bruddene sine, men de er bare relatert til brudd på brukernes personvernregler eller antitrustlover, og det har nesten ikke vært noen straffer mot dem for å tillate brudd i «huset» deres.

Den mest bemerkelsesverdige saken på dette området var arrestasjonen av Telegram-sjef Pavel Durov i Frankrike, anklaget for å ha tilrettelagt kriminell aktivitet på meldingsplattformen. Arrestasjonen, som skal være politisk ladet, ble imidlertid utført i hemmelighet. Det var ikke som en offentlig rettssak mot et sosialt nettverk eller et vanlig selskap. Faktisk har det aldri vært en eneste straff for Telegram knyttet til kriminell aktivitet på plattformen, selv om FN publiserte en rapport i oktober 2024 om at plattformen var et verktøy for kriminelle gjenger å bruke til ulovlige transaksjoner.

Verden sliter fortsatt med å håndtere problemet med falske nyheter, feilinformasjon og svindel på sosiale medieplattformer. Illustrasjonsfoto: IJNET

Så selv med slike åpenbare ulovlige aktiviteter, hvis det ikke er mulig å håndtere sosiale medieplattformer eller deling i fellesskap, er det tydelig at det er ekstremt langt unna å kontrollere giftig innhold, falske nyheter og feilinformasjon.

Så ikke bare er plattformene ikke redde, men de viser i økende grad tegn til å «handle på egenhånd», og oppmuntre til kontroversiell, sensasjonell, tull eller giftig informasjon for å tiltrekke seg seere, gjennom sine stadig mer sofistikerte algoritmer. Det er verdt å merke seg at Big Tech også er klare til å presse eller utfordre ethvert trekk for å straffe dem i denne saken. Milliardær Elon Musk, eier av det sosiale nettverket X, uttrykte i september 2024 sin motstand mot et nytt australsk lovforslag som foreslår å bøtelegge sosiale medieselskaper hvis de ikke klarer å forhindre feilinformasjon på nettet.

I henhold til lovforslaget, som fortsatt er australsk, kan internettplattformer bli bøtelagt med opptil 5 % av sine globale inntekter for å spre feilinformasjon. Andre store teknologiplattformer som Google og Meta har også uttrykt bekymring og utfordret det nye australske lovforslaget. Merk at dette også er et sjeldent lovforslag i verden som nevner bøtelegging av sosiale nettverk for å spre feilinformasjon, falske nyheter og uredelig aktivitet.

Hvis vi ser på den tradisjonelle medie- og journalistikkverdenen, er dette paradokset vanskelig å akseptere. Alle vet at hvis en avis eller en TV-kanal gjør selv en liten profesjonell feil, for ikke å snakke om å gi falsk eller ulovlig informasjon, kan hele etaten bli hardt straffet, i det minste vil leserne snu ryggen til, ikke bare reporteren eller redaktøren som ga informasjonen vil bli holdt ansvarlig.

Den «globale pandemien» er i ferd med å komme ut av kontroll

Man kan si at problemet med feilinformasjon, falske nyheter, giftige nyheter og svindel er mer alvorlig enn noen krig eller pandemi, når det kan påvirke en hel generasjon globalt, spesielt unge mennesker. Det har vært altfor mange studier som viser hvordan sosiale nettverk, spesielt de avhengighetsskapende korte videofunksjonene til Facebook, TikTok eller Google, har skadelige effekter på barns fysiske og psykiske helse.

I en fersk studie påpekte UNICEF at sosiale medier er utformet for å fange brukernes oppmerksomhet så lenge som mulig, og utnytte våre fordommer og psykologiske sårbarheter, som ønsket om godkjenning eller frykten for avvisning. Overdreven bruk av sosiale medier har vært knyttet til følelser av misunnelse, mindreverdighet og lav livstilfredshet. Studier har til og med antydet at denne vanen kan føre til symptomer på depresjon, angst og søvnmangel, hvorav det mest typiske er psykisk lidelse...

Sangerinnen Taylor Swift er en av kjendisene som har blitt offer for AI-deepfake. Foto: Herbert Wang

Vietnams forskrift som tvinger sosiale nettverk til å autentisere brukere trer i kraft

Dekret 147/2024/ND-CP om forvaltning, levering og bruk av internettjenester og online informasjon, nylig utstedt av den vietnamesiske regjeringen, trer i kraft fra 25. desember 2024. Følgelig krever forskriften at sosiale nettverk autentiserer brukere via telefonnummer eller personlig identifikasjonsnummer, og bare autentiserte kontoer har lov til å gi informasjon (skrive artikler, kommentere, direktestrømme) og dele informasjon på sosiale nettverk. Dette dekretet forventes å begrense spredningen av falsk og villedende informasjon i stor grad, spesielt uredelig aktivitet på sosiale nettverk.

Det finnes mange eksempler på hvordan feilinformasjon, falske nyheter og deepfakes kan ha en alvorlig innvirkning på det virkelige liv og kan bli en global trussel. I august i år brøt det ut opptøyer på grunn av en falsk påstand som sirkulerte på sosiale medier om at den mistenkte i knivdrapet på en ung jente i Storbritannia var en radikal muslimsk innvandrer (som faktisk var britisk). Opptøyene førte til tusenvis av arrestasjoner av politiet.

I juli 2024 ble sosiale medier også oversvømmet av falske nyheter eller konspirasjonsteorier, som for eksempel tilfellet der en italiensk journalist ble ansett som mistenkt (faktisk en 20 år gammel amerikaner). I tillegg var det også forvrengninger på sosiale medier om at den mistenkte var kinesisk eller at hendelsen var et «iscenesatt scenario». Spredningen av falsk informasjon øker også hatet mot alle konflikter og brennpunkter i verden, som Russland-Ukraina-krigen, Israel-Palestina eller problemet med antimuslimer og antisemittisme.

Og likevel, med eksplosjonen av AI, er kampen mot feilinformasjon i ferd med å komme ut av kontroll. Deepfake-verktøy og billige AI-modeller sprer seg uten noen betydelig kontroll.

Ifølge DeepMedia-statistikk har mengden deepfake-videoer og -stemmer økt i været hvert år. Deepfake-videoer har økt mer enn tre ganger og deepfake-stemmer mer enn åtte ganger i 2023 sammenlignet med 2022. Av disse er det spådd at rundt 500 000 deepfake-videoer og -stemmer vil bli delt på sosiale nettverk globalt i 2024.

Tidlig i 2024 gikk en serie AI-genererte pornografiske bilder av sangeren Taylor Swift viralt på sosiale medier, noe som skapte oppstyr verden over. I tillegg har en rekke politikere rundt om i verden, inkludert USAs president Joe Biden og ledere i Storbritannia, India, Nigeria, Sudan, Etiopia og Slovakia, også blitt ofre for deepfake-problemet.

Dermed blir problemet med falske nyheter, feilinformasjon og spesielt uredelig aktivitet i cyberspace mer og mer alvorlig. I den kommende AI-æraen kan denne «globale pandemien» komme ut av kontroll uten felles innsats fra hele verden, spesielt beslutningstakere i hvert land.

Hoang Hai

Kilde: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html