Výzva integrity zpráv v souvislosti s urychlujícím se vývojem a zaváděním umělé inteligence

Potenciální rizika šíření dezinformací

Věda a technologie nejen ovlivňují způsob, jakým tisk a média sdělují svá sdělení, ovlivňují a ovlivňují způsob a efektivitu veřejného přístupu k informacím, ale také hluboce ovlivňují kvalitu informací.

Žurnalistika se ve skutečnosti dokázala rychle přizpůsobit technologickým inovacím, zejména v posledních letech. Umělá inteligence (AI) se postupně stala populární v masmédiích a v redakcích tiskových agentur. Aplikace AI přinesla výhody jak novinářům, tak mediálním organizacím. Osvobozuje novináře od únavných každodenních úkolů, pomáhá jim šetřit čas a soustředit se na kreativnější a vysoce kvalifikovanou práci.

Přestože má umělá inteligence mnoho výhod, vyvolává také určité obavy. Jedním z nejvýznamnějších rizik je potenciál, že obsah generovaný umělou inteligencí bude šířit dezinformace.

Deset největších světových tiskových agentur vyzývá ke kolektivním a transparentním jednáním mezi médii a vývojáři umělé inteligence s cílem kontrolovat, které materiály chráněné autorskými právy lze použít při trénování nástrojů umělé inteligence, a také eliminovat zkreslení v algoritmech umělé inteligence.

Minulý týden podepsalo 10 předních světových tiskových agentur dopis vyzývající k transparentnosti a jasným zákonům o autorských právech zaměřeným na umělou inteligenci. Tiskové agentury argumentovaly, že umělá inteligence má potenciál „ohrozit udržitelnost mediálního ekosystému“ tím, že výrazně naruší důvěru čtenářů v kvalitu a integritu zpráv.

Podle mnoha studií lze umělou inteligenci použít k filtrování a výběru příběhů, které s největší pravděpodobností zaujmou čtenáře a zaujmou je, čímž se ve zprávách vytváří nerovnováha, která by neexistovala, kdyby byly příběhy prezentovány objektivním způsobem, který by vytvořili lidé. Veřejnost je vystavena pouze jedné straně příběhu, a proto se může orientovat jednostrannými informacemi generovanými umělou inteligencí. Umělá inteligence může být navíc použita k šíření dezinformací a falešných zpráv mezi veřejností tím, že se vedle skutečných příběhů prezentují vymyšlené příběhy.

Umělá inteligence může být také zranitelná vůči falešným zprávám. Algoritmy umělé inteligence jsou navrženy tak, aby zpracovávaly data rychle a přesně, což znamená, že je obtížné rozlišit mezi skutečnými a falešnými zprávami. Umělá inteligence navíc není schopna pochopit emocionální a morální důsledky zpráv, které zpracovává. S tím, jak se umělá inteligence stává stále vyspělejší, se bude zvyšovat její zranitelnost vůči falešným zprávám, což ještě více ztěžuje rozlišení mezi tím, co je skutečné a co je falešné.

Podle docenta Dr. Nguyen Ngoc Oanha - vedoucího Fakulty mezinárodních vztahů Akademie žurnalistiky a komunikace, když se umělá inteligence stává mocnou, je to také doba, kdy musíme věnovat zvláštní pozornost a být proaktivní tváří v tvář riziku, že padouši a nepřátelské síly budou umělou inteligenci využívat k šíření škodlivých a falešných zpráv. Z pohledu mediální bezpečnosti to ukazuje potenciální riziko dezinformací, zkreslování a falešných zpráv. Jakmile se umělá inteligence uplatní v informační oblasti, technologie může pomoci s falešnými hlasy, obrazy, vytvářením falešných příběhů a prohlášení, která se zdají být reálná, a klamat veřejnost, zejména na sociálních sítích.

„Ti, kteří mají zlé úmysly, zneužívají roli a prestiž tisku k falšování informací a klamou veřejnost, že se jedná o informace poskytované a odrážené tiskem. Vývoj falešných zpráv bude stále sofistikovanější a komplexnější, a proto se spolu se zvyšováním ostražitosti musí metody identifikace, reakce na falešné zprávy a jejich nakládání s nimi zaměřit na investice do chytrých technologií a systematické nakládání s nimi. Kapacitu sociálního managementu a managementu tiskových agentur je třeba zlepšit, aby se přizpůsobila změnám,“ poznamenal docent Dr. Nguyen Ngoc Oanh.

Zpravodajský průmysl musí najít způsoby, jak chránit svůj kreativní obsah.

Od spuštění ChatGPT v listopadu 2022 jsou nové aplikace založené na generativní umělé inteligenci nasazovány téměř denně. V důsledku toho se internet zaplnil obsahem generovaným umělou inteligencí. I když existuje několik ohromujících obsahů, existuje také mnoho nevýrazného, ​​opakujícího se obsahu. To usnadňuje šíření dezinformací a klade větší zátěž na mediální průmysl, aby si vybudoval a obnovil důvěru mezi čtenáři.

Novinář Nguyen Hoang Nhat – zástupce šéfredaktora novin Vietnamplus, připomněl ponaučení z minulosti, kdy mnoho odborníků uvedlo, že jednou z prvních velkých chyb tisku byla příliš pomalá reakce na důležitost a invazi sociálních sítí. „Prošli jsme si dlouhým obdobím, kdy jsme veškerý obsah, který produkujeme, umisťovali na sociální sítě a měnili naše základní věci, aby jim sloužily, což někdy není naše silná stránka ani to, co čtenáři potřebují. Zkrátka jsme sociálním sítím dali příliš mnoho moci a vedlo to k tomu, že se sociální sítě obrátily a pohltily nás,“ řekl novinář Nguyen Hoang Nhat.

V době, kdy vietnamský ženský tým soutěžil na mistrovství světa, byly sociální sítě plné zdrojů šířících zkreslené a vymyšlené informace. (Foto: VTC)

Novinář Nguyen Hoang Nhat se zaměřil na současnou hrozbu ze strany umělé inteligence a uvedl, že umělá inteligence obecně pomáhá redakcím pracovat rychleji a šetřit náklady, ale zároveň způsobuje, že redaktoři a reportéři budou shovívavější a přispěje k rychlejšímu šíření falešných informací. „Například během nedávného mistrovství světa žen se falešný obsah o vietnamském ženském týmu stal strašně „virálním“ prostřednictvím memů vytvořených pomocí nástrojů založených na umělé inteligenci, což způsobilo, že obecná psychologie určité části publika byla dotlačena do extrémů,“ uvedl příklad novinář Nguyen Hoang Nhat.

V zahraničí News Guard zveřejnil překvapivou statistiku: 347 zpravodajských webů, které vypadají jako legitimní zpravodajské weby, ale jsou plné obsahu generovaného umělou inteligencí a šíří dezinformace. Nedávná studie Massachusettského technologického institutu (MIT) zjistila, že lidé spíše uvěří dezinformacím generovaným umělou inteligencí než falešným zprávám generovaným lidmi.

Podle novináře Nguyen Hoang Nhata tato realita staví zpravodajský průmysl do situace, kdy musí najít způsoby, jak chránit svůj tvůrčí obsah a duševní vlastnictví, ale nemůže se odvrátit od výhod, které umělá inteligence přináší.

Docent Dr. Nguyen Ngoc Oanh při hodnocení problémů v oblasti poctivosti zpráv uvedl, že ačkoli má Chat GPT mnoho vynikajících vlastností, nakonec je to jen nástroj, který se novináři musí naučit ovládat a používat ho ve svých pracovních činnostech k tvorbě děl a tiskových produktů v souladu se zásadami profese. Otázka ověřování zdrojů informací reportérů a novinářů je nesmírně důležitá, pokud nechtějí „napomáhat“ šíření nepřesných informací.

Prostřednictvím mnoha seminářů a diskusí o umělé inteligenci se dospělo k závěru, že riziko používání falešných dat a zpráv v novinářských dílech je velmi vysoké, pokud správa obsahu v redakci nedokáže držet krok s rozvojem digitálních technologií . V kontextu, že právní koridor pro digitální žurnalistiku ve Vietnamu dosud nedrží krok s realitou, jsou právní problémy, hrozby pro bezpečnost médií, případy porušování autorských práv a kontroverze ohledně novinářské etiky, společenské odpovědnosti tisku při aplikaci automatizované žurnalistiky... hlavními výzvami dneška.

Phan Hòa Giang

Zdroj: https://www.congluan.vn/thach-thuc-ve-tinh-trung-thuc-cua-tin-tuc-khi-toc-do-phat-trien-va-ap-dung-ai-o-muc-nhay-vot-post260620.html