Når falske nyheter, kunstig intelligens, blir synderen som forsterker feilinformasjon

VHO – Eksplosjonen av sosiale nettverk og kunstig intelligens har åpnet opp for en æra med informasjonsspredning i halsbrekkende fart. Samtidig har falske nyheter blitt mer sofistikerte, vanskeligere å identifisere og mer innflytelsesrike enn noensinne.

Illustrasjonsfoto

Falske nyheter eksploderer på sosiale medier

I løpet av et tiår har sosiale nettverk gått fra å bare være et sted for brukere å dele bilder og oppdatere statuser til å bli «scenen» for utallige ubekreftede historier.

Hastigheten falske nyheter sprer seg med er det som gjør dem så farlige: det skal bare ett innlegg fra én konto og noen få delinger til før informasjonen kommer ut av kontroll og finner veien inn i samtalene til millioner av mennesker.

Mange brukere tror at de er edruelige nok til å håndtere falske nyheter, men realiteten viser det motsatte. Falske nyheter er ofte pakket inn i sterke følelser, sinne, sympati, indignasjon ... noe som gjør det enkelt for seerne å ignorere trinnet med å sjekke kilden.

Algoritmer på sosiale medier favoriserer kontroversielt innhold og presser det utilsiktet høyere opp i nyhetsstrømmen. Jo flere som ser det, desto mer blir det trodd på, og syklusen fortsetter.

Konsekvensene går utover å bare misforstå en hendelse. Mange steder i verden , inkludert Vietnam, har falske nyheter skadet personlig omdømme, forstyrret forretningsdriften, skapt sosial uro og til og med påvirket politiske beslutninger.

Denne virkeligheten minner oss om at vi lever i en tid der all informasjon vi mottar må revurderes før vi tror på den og deler den.

Identifiser falske nyheter laget med generativ AI-teknologi

Mens falske nyheter tidligere ble skapt ved å forvrenge sannheten, har AI-teknologi (fra tekst, bilder til videoer ) nå gjort det å lage feilinformasjon til en mye raskere, billigere og vanskeligere prosess å oppdage.

Realistiske bilder lages på sekunder, deepfake-videoer simulerer menneskelige stemmer og ansikter til det punktet at de er vanskelige å skille med det blotte øye. Mange internettbrukere har vært vitne til bilder av politikere som dukker opp på steder de aldri har vært, bedrifter som blir fabrikkert med uttalelser, eller vanlige mennesker som blir plassert i helt uvirkelige situasjoner. Produktene av generativ AI fungerer som en slags «teknologisk kamuflasje», som gjør falsk informasjon om til rimelig informasjon og gjør det vanskelig for seerne å tvile.

Falske nyheter skapt av AI etterlater imidlertid fortsatt visse spor. Unaturlige øyne, ekstra fingre, små detaljer i belysning, kroppsproporsjoner eller altfor perfekte, følelsesløse ord ... er alle tegn på gjenkjennelse.

I tillegg har mange plattformer nå begynt å innlemme verktøy for gjenkjenning av innhold generert av AI, men gjenkjenningsfunksjonene har ennå ikke holdt tritt med tempoet i den teknologiske utviklingen.

Denne konteksten krever at brukere av sosiale medier danner en vane: spør alltid «hvem skapte denne informasjonen?», «hvorfor dukker den opp akkurat nå?», «finnes det noen offisiell kilde som bekrefter det?» ... I en verden der AI kan skape en «alternativ sannhet», er det edrueligheten til brukerne av sosiale medier som blir det viktigste skjoldet.

Kilde: https://baovanhoa.vn/nhip-song-so/khi-tin-gia-ai-tro-thanh-thu-pham-khuech-dai-thong-tin-sai-lech-186877.html