Sosiale medier, AI og forsterkningsalgoritmer: Den «atomære» kombinasjonen som snur verden på hodet

(NB&CL) Bare en liten hendelse, men med den «atomære» kombinasjonen av sosiale nettverk, kunstig intelligens og forsterkningsalgoritmer, kan det også skape en bølge av ekstremisme på nasjonalt og til og med globalt nivå. Den virtuelle verden påvirker det virkelige liv alvorlig og er i økende grad ute av kontroll.

Algoritme for hatoppfordringer

Algoritmer i sosiale medier handler ikke lenger bare om å foreslå underholdende innhold, men også om å forsterke hatefulle ytringer og ekstremistisk ideologi. FNs generalsekretær António Guterres har advart om at noen sosiale medieplattformer har blitt «giftige søppelplasser» fylt med hatefulle ytringer og desinformasjon, noe som gir næring til spredningen av ekstremisme.

Studier fra den virkelige verden viser at anbefalingsalgoritmer kan forverre problemet på bare noen få dager. For eksempel fant en britisk studie at TikToks algoritme firedoblet anbefalinger av kvinnefiendtlig innhold fra 13 % til 56 % av videoene på bare fem dager.

Forskerne forklarer at algoritmen automatisk retter seg mot brukernes sårbarheter (som følelser av ensomhet, tap av kontroll, hat), og gjør ekstremistisk innhold om til attraktiv «underholdning» for å tiltrekke seg seere.

Nå, på sosiale medier, kan selv små biter av informasjon eller grunnløse rykter lett bli en utløser for vold. Et typisk eksempel er opptøyene i Storbritannia i 2024. Etter angrepet i Southport spredte falske rykter om den mistenkte – at han var muslim eller flyktning – seg raskt på sosiale medier, sammen med antimuslimsk og anti-innvandrerspråk. Ifølge en rapport fra 2024 fra det amerikanske General Accounting Office (GAO) har nesten en tredjedel av internettbrukerne blitt utsatt for hatefulle ytringer på nettet.
Spesielt en rekke alvorlige protester i den senere tid, opptøyer av Generasjon Z eller studenter i forskjellige land, fra Asia, Afrika til Latin-Amerika, ble alle initiert og oppildnet på sosiale medieplattformer, med nesten samme scenario: å utnytte et problem og deretter oppildne hele samfunnet.

AI-programvare og forsterkningsalgoritmer manipulerer både den virtuelle og den virkelige verdenen . Illustrasjon: Nafets

Mesteparten av verden er fordypet i «illusjoner»

Ting kommer ut av kontroll med eksplosjonen av AI, som lar nesten hvem som helst lage en «falsk nyhetsfabrikk» i en enestående skala og hastighet. AI-modeller som GPT, Claude eller LLaMA kan automatisk generere en serie forvrengte artikler, bilder og videoer på et splittsekund. Et AI-botsystem kan samtidig opprette og dele tusenvis av innlegg eller kommentarer, og dermed gjøre falske nyheter og giftige nyheter om til «trender» på nett.

En studie fra RIT University i USA hevdet: «KI har gjort det veldig raskt å forsterke all slags feilinformasjon ... KI-roboter kan spre dette innholdet over internett, fordi de ikke trenger å være avhengige av mennesker for å lage det.»

I dag, for bare noen få dusin dollar i måneden for et AI-verktøy, kan en person lage tusenvis av falske bilder og videoer av alt fra stemmer og bilder til videoer. Nivået av raffinement og utbredelse er så stort at vi i dag alle har en tanke i bakhodet: Er det vi ser på sosiale medier AI-generert?

Men ironien er at mesteparten av verden er fordypet i den «virtuelle» verdenen i timevis, hver dag – til og med nyter den som en «avhengighet». I følge Digital 2025-rapporten bruker omtrent 5,2 til 5,6 milliarder mennesker sosiale nettverk, tilsvarende 64 % av verdens befolkning. Og gjennomsnittlig tid hver person bruker sosiale nettverk svinger rundt 2 timer og 20 minutter/dag.

Trenger å kontrollere «atombomber»

Med falske nyheter og desinformasjon som produseres i et stadig billigere og farligere tempo, har kontrollen over innhold på internett nesten glidd ut av menneskelig kontroll. Teknologiekspert Lukasz Olejnik ved King's College London (Storbritannia) kommenterte: «Hver måned blir [falske nyheter]-fabrikkene billigere, skarpere og vanskeligere å oppdage.»

I mellomtiden påpekte en RAND-studie i 2024 at utsiktene for at AI kan «fylle internett» med falske sosiale mediekontoer er klare og nesten uunngåelige uten noen vri.

Atomteknologi var en gang en stor oppfinnelse av menneskeheten, i likhet med sosiale medier. Men hvis den ikke kontrolleres, kan den forårsake katastrofe. På samme måte, hvis sosiale medier, kunstig intelligens og forsterkningsalgoritmer får løpe løpsk, kan de utløse «atombomber» i cyberspace – og være kraftige nok til å ødelegge den virkelige verden.

Kilde: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html