Utfordringen med nyhetsintegritet etter hvert som utviklingen og adopsjonen av AI akselererer

Potensielle risikoer ved spredning av feilinformasjon

Vitenskap og teknologi påvirker ikke bare måten presse og media formidler budskapene sine på, påvirker måten og effektiviteten til offentlig tilgang er, men har også en dyp innvirkning på kvaliteten på informasjonen.

Faktisk har journalistikken vært i stand til å tilpasse seg raskt til teknologisk innovasjon, spesielt de siste årene. Kunstig intelligens (KI) har gradvis blitt populært i massemedier og i nyhetsbyråers redaksjoner. Bruken av KI har gitt fordeler for både journalister og medieorganisasjoner. Det frigjør journalister fra kjedelige daglige oppgaver, og hjelper dem å spare tid og fokusere på mer kreativt og høyt kvalifisert arbeid.

Selv om KI har mange fordeler, reiser det også noen bekymringer. En av de største risikoene er potensialet for at KI-generert innhold kan spre feilinformasjon.

Verdens 10 største nyhetsbyråer etterlyser kollektive og transparente forhandlinger mellom mediehus og AI-utviklere for å kontrollere hvilket opphavsrettsbeskyttet materiale som kan brukes i opplæring av AI-verktøy, samt eliminere skjevheter i AI-algoritmer.

Forrige uke signerte 10 av verdens ledende nyhetsbyråer et brev der de etterlyser åpenhet og tydelige opphavsrettslover rettet mot AI. Nyhetsbyråene argumenterte for at AI har potensial til å «true bærekraften til medieøkosystemet» ved å svekke lesernes tillit til nyhetenes kvalitet og integritet betydelig.

Ifølge mange studier kan AI brukes til å filtrere og velge historier som mest sannsynlig tiltrekker seg lesere og engasjerer, og dermed skape en ubalanse i nyhetene som ikke ville eksistert hvis historier ble presentert på en objektiv måte produsert av mennesker. Publikum blir bare eksponert for én side av historien, og derfor kan de bli orientert av ensidig informasjon generert av AI. Videre kan AI brukes til å spre feilinformasjon og falske nyheter til publikum ved å presentere fabrikkerte historier sammen med ekte.

AI kan også være sårbar for falske nyheter. AI-algoritmer er utviklet for å behandle data raskt og nøyaktig, noe som betyr at det er vanskelig å skille mellom ekte og falske nyheter. Videre er ikke AI i stand til å forstå de emosjonelle og moralske implikasjonene av nyhetene den behandler. Etter hvert som AI fortsetter å bli mer avansert, vil sårbarheten for falske nyheter øke, noe som gjør det enda vanskeligere å skille mellom hva som er ekte og hva som er falskt.

Ifølge førsteamanuensis Dr. Nguyen Ngoc Oanh – leder for Fakultet for internasjonale relasjoner ved Akademiet for journalistikk og kommunikasjon, er det også tiden da vi må være spesielt oppmerksomme og proaktive i møte med risikoen for at skurker og fiendtlige krefter bruker AI til å spre skadelige og falske nyheter når AI blir mektig. Fra et mediesikkerhetsperspektiv viser dette den potensielle risikoen for feilinformasjon, forvrengning og falske nyheter. Når kunstig intelligens tas i bruk i informasjonsfeltet, kan teknologi bidra til å lage falske stemmer, bilder, skape falske historier og uttalelser som virker ekte for å lure offentligheten, spesielt på sosiale nettverk.

«De med dårlige intensjoner utnytter pressens rolle og prestisje til å forfalske informasjon, og bedrar offentligheten med at det er informasjon som er gitt og reflektert av pressen. Utviklingen av falske nyheter vil bli mer sofistikert og kompleks, og derfor må metodene for å identifisere, reagere på og håndtere falske nyheter, i tillegg til økt årvåkenhet, fokusere på å investere i smart teknologi og håndtere dem systematisk. Kapasiteten til sosial forvaltning og ledelse av pressebyråer må forbedres for å tilpasse seg endringer», kommenterte førsteamanuensis dr. Nguyen Ngoc Oanh.

Nyhetsbransjen må finne måter å beskytte sitt kreative innhold på.

Siden lanseringen av ChatGPT i november 2022 har nye applikasjoner basert på generativ AI blitt tatt i bruk nesten daglig. Som et resultat har internett blitt fylt med AI-generert innhold. Selv om det er noe som er sjokkerende, er det også mye intetsigende, repetitivt innhold. Dette gjør det lettere å spre feilinformasjon og legger en større byrde på mediebransjen med å bygge og gjenopprette tillit blant leserne.

Journalisten Nguyen Hoang Nhat – assisterende sjefredaktør i Vietnamplus Newspaper, mintes lærdommer fra fortiden, da mange eksperter sa at en av pressens første store feil var å reagere for sakte på viktigheten og invasjonen av sosiale nettverk. «Vi har gått gjennom en lang periode med å legge alt innholdet vi produserer på sosiale nettverk, og endret kjernevirksomhetene våre for å tjene dem, noe som noen ganger ikke er vår styrke eller det leserne trenger. Kort sagt, vi har gitt for mye makt til sosiale nettverk og ført til at sosiale nettverk snur seg om og sluker oss», sa journalisten Nguyen Hoang Nhat.

I løpet av den tiden det vietnamesiske kvinnelandslaget konkurrerte i VM, var sosiale medier fylt med kilder som spredte forvrengt og fabrikkert informasjon. (Foto: VTC)

Journalisten Nguyen Hoang Nhat sa at AI generelt sett hjelper redaksjoner med å gjøre jobben sin raskere og spare kostnader, men det vil gjøre redaktører og reportere mer ettergivende, samt bidra til å spre falsk informasjon raskere. «For eksempel, under det nylige kvinne-VM, gikk falskt innhold om det vietnamesiske kvinnelandslaget fryktelig «viralt» gjennom memer laget av AI-baserte verktøy, noe som førte til at den generelle psykologien til et segment av publikum ble presset til ekstreme ytterpunkter», ga journalisten Nguyen Hoang Nhat et eksempel.

I utlandet rapporterte News Guard en oppsiktsvekkende statistikk: 347 nyhetssider som ser ut som legitime nyhetssider, men er fulle av AI-generert innhold og fremmer feilinformasjon. En fersk studie fra Massachusetts Institute of Technology (MIT) fant at folk er mer tilbøyelige til å tro på AI-generert feilinformasjon enn menneskeskapte falske nyheter.

Ifølge journalisten Nguyen Hoang Nhat setter denne virkeligheten nyhetsbransjen i en posisjon der den må finne måter å beskytte sitt kreative innhold og sin intellektuelle eiendom, men ikke kan snu ryggen til bekvemmelighetene som AI gir.

Førsteamanuensis Dr. Nguyen Ngoc Oanh vurderte utfordringene knyttet til ærlighet i nyheter, og sa at selv om Chat GPT har mange fremragende funksjoner, er det til syvende og sist bare et verktøy som journalister må lære å mestre, bruke det i arbeidet sitt for å skape verk og presseprodukter i henhold til yrkets prinsipper. Spørsmålet om å verifisere informasjonskildene til reportere og journalister er ekstremt viktig hvis de ikke ønsker å "hjelpe" med spredningen av unøyaktig informasjon.

Gjennom mange seminarer og diskusjoner om kunstig intelligens konkluderes det med at risikoen ved bruk av falske data og nyheter i journalistisk arbeid er svært høy hvis innholdsstyringen i redaksjonen ikke kan holde tritt med utviklingen av digital teknologi . I sammenheng med at den juridiske korridoren for digital journalistikk i Vietnam ennå ikke har holdt tritt med virkeligheten, er juridiske problemer, trusler mot mediesikkerheten, saker om brudd på opphavsrett og kontroverser om journalistisk etikk, pressens samfunnsansvar ved bruk av automatisert journalistikk ... store utfordringer i dag.

Phan Hoa Giang

Kilde: https://www.congluan.vn/thach-thuc-ve-tinh-trung-thuc-cua-tin-tuc-khi-toc-do-phat-trien-va-ap-dung-ai-o-muc-nhay-vot-post260620.html