Bruk av AI-verktøy for å fikse AI-baserte produktfeil

Falske nyheter blir mer sofistikerte med AI-manipulasjon

Nylig, på møtet mellom Vietnams journalistforening og Thailands journalistforening i Hanoi, brukte lederne for de to foreningene mesteparten av tiden sin på å nevne problemet med «falske nyheter» og uttalte at dette ikke lenger er et nasjonalt problem, men et stort problem som forårsaker uforutsigbare konsekvenser i regionen og verden.

Det er nesten dobbelt så vanlig å lage bilder, videoer og lyd som etterligner mennesker som å lage feilinformasjon ved hjelp av verktøy som AI-chatboter, ifølge forskning fra Google DeepMind.

Deepfakes av den britiske statsministeren Rishi Sunak og andre globale ledere har dukket opp på TikTok, X og Instagram de siste månedene, med bekymring for at til tross for sosiale nettverks forsøk på å merke eller fjerne innholdet, kan det hende at publikum ikke gjenkjenner det som falskt, og at spredningen kan påvirke velgerne.

Falske bilder av den britiske statsministeren Rishi Sunak har dukket opp på TikTok og Instagram før stortingsvalget. (Foto: AFP)

I en vurdering av virkningen av falske nyheter i teknologitiden sa mastergradsforeleser Luong Dong Son ved Institutt for journalistikk og kommunikasjon, Akademiet for journalistikk og propaganda, at produktet av kombinasjonen av kunstig intelligens og feilinformasjon, også kjent som surrealistiske falske nyheter, kan forvrenge publikums oppfatning av hendelser og sosiale problemer, og dermed påvirke måten de vurderer situasjonen og tar beslutninger på. Dette kan få alvorlige konsekvenser, fra små personlige avgjørelser til viktige avgjørelser som påvirker samfunnet og landet.

Hyperfalske nyheter kan brukes som et verktøy for å manipulere opinionen, oppfordre til vold, så splittelse og undergrave sosial stabilitet. I den politiske arenaen kan hyperfalske nyheter svekke tilliten til demokratiske institusjoner, påvirke valgresultater og til og med oppfordre til konflikt.

Angående utfordringene for journalister og presseorganisasjoner, sa mastergrad Luong Dong Son at sofistikasjonen av surrealistiske falske nyheter, spesielt deepfake, gjør det stadig vanskeligere å skille mellom ekte og falskt, selv for erfarne journalister.

«I en tid med informasjonseksplosjon krever publikum i økende grad at journalister og nyhetsorganisasjoner gir informasjon raskt og nøyaktig. Dette presset kan imidlertid føre til at journalister raskt publiserer informasjon uten nøye verifisering, noe som skaper muligheter for spredning av surrealistiske falske nyheter. I tillegg står journalister og nyhetsorganisasjoner overfor juridiske og etiske risikoer hvis de ikke er forsiktige med å verifisere og publisere informasjon», sa Son.

Få AI til å bekrefte informasjon

Ifølge mastergrad Luong Dong Son er det ekstremt nødvendig å bruke moderne teknologiske løsninger for å håndtere denne typen falske nyheter.

«Disse løsningene fokuserer ikke bare på å oppdage og eliminere falske nyheter, men også på å forhindre dem helt fra de tidlige stadiene av produksjonen», sa mastergrad Dong Son.

For det første er en av de viktigste teknologiene i dag, ifølge Son, bruk av kunstig intelligens for å oppdage falske nyheter. Moderne AI-systemer er i stand til å analysere kontekst, sammenligne informasjon fra flere kilder og oppdage unormaliteter i informasjonsinnhold. Et typisk eksempel er bruk av AI til å analysere videoer og bilder for å oppdage tegn på redigering eller produksjon ved bruk av deepfake-teknologi.

Deretter bruker sosiale medieplattformer og søkemotorer også aktivt maskinlæringsalgoritmer for å automatisk klassifisere og filtrere ut falskt nyhetsinnhold før det går viralt. Disse algoritmene er utformet for å gjenkjenne avvik i delingsmønstre, spredningshastigheten eller til og med tonen i innlegg, og dermed vurdere sannsynligheten for at informasjonen er falsk.

I tillegg er bruk av blokkjedeteknologi for å administrere informasjonens opprinnelse også en potensiell løsning. Blokkjedeteknologi har evnen til å skape et transparent og uforanderlig autentiseringssystem, og dermed bidra til å spore opprinnelsen og historikken til all informasjon, noe som sikrer nøyaktighet og pålitelighet.

AI kan skape falskt innhold eller villedende informasjon og bilder som er vanskelige å skille mellom, noe som forårsaker stor skade på enkeltpersoners og organisasjoners omdømme, og til og med skader nasjonale og etniske interesser.

Phan Van Tu – leder for Institutt for journalistikk – Fakultet for journalistikk og kommunikasjon, Universitetet for samfunnsvitenskap og humaniora i Ho Chi Minh-byen, deler den samme oppfatningen med mastergrad Luong Dong Son og understreket at i tillegg til å tilby ferdigheter til å utnytte AIs styrker for journalistikk, må vi også bruke AI-verktøy til å verifisere informasjon.

Kildeverifisering, som i hovedsak handler om å vurdere påliteligheten til en kilde, er en viktig ferdighet som innebærer å verifisere informasjonskilden, sammenligne den med andre kilder og bruke faktasjekkverktøy for å sjekke påliteligheten.

Det interessante er at det for tiden finnes mange AI-integrerte verktøy som støtter journalister i verifiseringsprosessen i tillegg til tradisjonelle verktøy som støtter faktasjekkere som Google Image, Tineye omvendt bildesøk, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

Phan Van Tu sa at opplæring av journalisters profesjonelle ferdigheter i den nåværende perioden krever at man fokuserer på å tilby informasjonsverifiseringskapasitet mot angrep fra falske nyheter manipulert av AI. «Å bruke AI-verktøy for å håndtere AI-relaterte feil er den raskeste måten å hjelpe journalister og pressebyråer med ikke bare å utføre rollene sine godt, men også å bidra til å forbedre informasjonskvaliteten og beskytte publikum mot falsk informasjon og negative påvirkninger fra media», sa Tu.

Tu påpekte imidlertid også at journalisters evne til å vurdere informasjon ikke kan baseres utelukkende på verktøy. Det må sies med en gang at AI kan støtte analyse av nyhetsinnhold, men ikke kan oppdage alle typer falske nyheter og manipulert informasjon. AI-programvare kan fortsatt bli lurt av AI-teknikkene den bruker for å oppdage.

«Ingen verktøy er en tryllestav, men AI-verktøy som oppdager falske bilder/videoer er fortsatt en verdifull ressurs som en del av en verifiseringsprosess eller due diligence-metode», sa Phan Van Tu.

Hoa Giang

Kilde: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html