Sociala medier, AI och förstärkningsalgoritmer: Den "atomära" kombinationen som vänder världen upp och ner

(NB&CL) Bara en liten incident, men med den "atomära" kombinationen av sociala nätverk, AI och förstärkningsalgoritmer, kan det också skapa en våg av extremism på nationell och till och med global skala. Den virtuella världen påverkar allvarligt det verkliga livet och är alltmer utom kontroll.

Algoritm för hatuppvigling

Sociala mediealgoritmer handlar inte längre bara om att föreslå underhållande innehåll, utan också om att förstärka hatpropaganda och extremistisk ideologi. FN:s generalsekreterare António Guterres har varnat för att vissa sociala medieplattformar har blivit "giftiga soptipper" fyllda med hatpropaganda och desinformation, vilket underblåser spridningen av extremism.

Verkliga studier visar att rekommendationsalgoritmer kan förvärra problemet på bara några dagar. Till exempel fann en brittisk studie att TikToks algoritm fyrdubblade rekommendationer för kvinnofientligt innehåll från 13 % till 56 % av videorna på bara fem dagar.

Forskarna förklarar att algoritmen automatiskt riktar in sig på användarnas sårbarheter (såsom känslor av ensamhet, kontrollförlust, hat) och förvandlar extremistiskt innehåll till attraktiv "underhållning" för att locka tittare.

Nu, på sociala medier, kan även små bitar av information eller grundlösa rykten lätt bli en utlösande faktor för våld. Ett typiskt exempel är upploppen i Storbritannien 2024. Efter attacken i Southport spreds falska rykten om den misstänkte – att han var muslim eller flykting – snabbt på sociala medier, tillsammans med antimuslimskt och invandringsfientligt språk. Enligt en rapport från 2024 från US General Accounting Office (GAO) har nästan en tredjedel av internetanvändarna blivit utsatta för hatpropaganda online.
I synnerhet en serie allvarliga protester nyligen, upplopp av Generation Z eller studenter i olika länder, från Asien, Afrika till Latinamerika, initierades och uppviglades på sociala medieplattformar, med nästan samma scenario: att utnyttja en fråga och sedan hetsa upp hela samhället.

AI-programvara och förstärkningsalgoritmer manipulerar både den virtuella och verkliga världen . Illustration: Nafets

Större delen av världen är försjunken i "illusioner"

Saker och ting börjar spåra ur med explosionen av AI, som gör det möjligt för nästan vem som helst att skapa en "fake news-fabrik" i en aldrig tidigare skådad skala och hastighet. AI-modeller som GPT, Claude eller LLaMA kan automatiskt generera en serie förvrängda artiklar, bilder och videor på en bråkdels sekund. Ett AI-botsystem kan samtidigt skapa och dela tusentals inlägg eller kommentarer, vilket förvandlar falska nyheter och giftiga nyheter till "trender" online.

En studie från RIT University i USA hävdade: ”AI har gjort det mycket snabbt att förstärka alla typer av felinformation ... AI-robotar kan sprida detta innehåll över internet, eftersom de inte behöver vara beroende av människor för att skapa det.”

Idag kan en individ, för bara några dussin dollar i månaden för ett AI-verktyg, skapa tusentals falska bilder och videor av allt från röster och foton till videor. Nivån på sofistikering och utbredning är så stor att vi alla idag har en tanke i bakhuvudet: Är det vi ser på sociala medier AI-genererat?

Men ironin är att större delen av världen är uppe i den "virtuella" världen i timmar, varje dag – och till och med njuter av den som ett "beroende". Enligt rapporten Digital 2025 använder cirka 5,2 till 5,6 miljarder människor sociala nätverk, vilket motsvarar 64 % av världens befolkning. Och den genomsnittliga tiden varje person använder sociala nätverk varierar runt 2 timmar och 20 minuter/dag.

Behov av att kontrollera "atombomber"

Med falska nyheter och desinformation som produceras i en allt billigare och farligare takt har kontrollen över innehåll på internet nästan glidit ur mänsklig kontroll. Teknikexperten Lukasz Olejnik vid King's College London (Storbritannien) kommenterade: "Varje månad blir [falska nyheter]fabrikerna billigare, skarpare och svårare att upptäcka."

Samtidigt påpekade en RAND-studie från 2024 att möjligheten att AI skulle kunna "fylla internet" med falska konton på sociala medier är tydlig och nästan oundviklig utan någon twist.

Kärnteknik var en gång en stor uppfinning av mänskligheten, liksom sociala medier. Men om den lämnas okontrollerad kan den orsaka katastrof. På samma sätt, om sociala medier, AI och förstärkningsalgoritmer får flöda fritt, kan de utlösa "atombomber" i cyberrymden – och vara tillräckligt kraftfulla för att förstöra den verkliga världen.

Källa: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html