När falska nyheter AI blir boven i dramat och förstärker desinformation

Falska nyheter exploderar på sociala medier

Inom ett decennium har sociala nätverk gått från att bara vara en plats för användare att dela foton och uppdatera statusar till att bli "scenen" för otaliga overifierade berättelser.

Den hastighet med vilken falska nyheter sprids är det som gör dem så farliga: det krävs bara ett inlägg från ett konto och några delningar för att informationen ska tappa kontrollen och hamna i miljontals människors samtal.

Många användare tror att de är tillräckligt nyktra för att hantera falska nyheter, men verkligheten visar motsatsen. Falska nyheter är ofta insvepta i starka känslor, ilska, sympati, indignation ... vilket gör det lätt för tittare att ignorera steget att kontrollera källan.

Sociala mediers algoritmer gynnar kontroversiellt innehåll och placerar det oavsiktligt högre upp i nyhetsflödet. Ju fler människor ser det, desto mer tros det, och cykeln fortsätter.

Konsekvenserna går utöver att missförstå en händelse. På många platser runt om i världen , inklusive Vietnam, har falska nyheter skadat personligt rykte, stört affärsverksamheten, skapat social oro och till och med påverkat politiska beslut.

Denna verklighet påminner oss om att vi lever i en era där varje information vi får måste omvärderas innan vi tror på den och delar den.

Identifiera falska nyheter skapade med generativ AI-teknik

Medan falska nyheter tidigare skapades genom att förvränga sanningen, har AI-teknik (från text, bilder till videor ) nu gjort skapandet av felinformation till en mycket snabbare, billigare och svårare process att upptäcka.

Realistiska foton skapas på några sekunder, deepfake-videor simulerar mänskliga röster och ansikten till den grad att de är svåra att urskilja med blotta ögat. Många internetanvändare har bevittnat bilder av politiker som dyker upp på platser de aldrig har varit på, företag som fabriceras med uttalanden eller vanliga människor som placeras i helt overkliga situationer. Produkterna från generativ AI fungerar som ett slags "tekniskt kamouflage", som förvandlar falsk information till rimlig information och gör det svårt för tittarna att tvivla.

Falska nyheter skapade av AI lämnar dock fortfarande vissa spår. Onaturliga ögon, extra fingrar, små detaljer i ljuset, kroppsproportioner eller alltför perfekta, känslolösa ord… är alla tecken på igenkänning.

Dessutom har många plattformar nu börjat integrera verktyg för AI-genererat innehållsdetektering, men igenkänningsfunktionerna har ännu inte hållit jämna steg med den tekniska utvecklingen.

Detta sammanhang kräver att användare av sociala medier skapar en vana: fråga alltid ”vem skapade den här informationen?”, ”varför dyker den upp just nu?”, ”finns det någon officiell källa som bekräftar det?”… I en värld där AI kan skapa en ”alternativ sanning” är det användarnas nykterhet som blir den viktigaste skölden.

Källa: https://baovanhoa.vn/nhip-song-so/khi-tin-gia-ai-tro-thanh-thu-pham-khuech-dai-thong-tin-sai-lech-186877.html