Legendární boj proti dezinformacím, deepfakesům a podvodům

(NB&CL) Kromě války, ozbrojeného násilí nebo hlubokých globálních geopolitických rozdělení čelí svět v roce 2024 dalšímu velkému boji proti dezinformacím, falešným zprávám a podvodům. Tento problém bude legendárním příběhem, který bude těžké ukončit a předpokládá se, že se stane vážnějším, pokud se svět nezapojí do drastických opatření.

Informační chaos – stále rostoucí nebezpečí

Narušení informační sítě, zejména dezinformace a kybernetické podvody, je považováno za „globální pandemii“, společný boj světa, v němž tradiční mediální organizace se svým posláním chránit pravdu musí hrát vedoucí roli. Boj však může být úspěšný pouze tehdy, pokud budou v každé zemi a globálních organizacích přijata drastická a zásadní opatření.

Falešné zprávy, dezinformace a zejména podvodné aktivity se staly nevyhnutelnými důsledky a negativními aspekty vstupu světa do nové éry médií. Jednoduše řečeno, scéna už není jen pro mediální agentury a cenzurované noviny. Jak víme, exploze internetu, high-tech zařízení a zejména sociálních sítí umožnila každému stát se „novinářem“, „reportérem“ nebo dokonce „mluvčím“, kterého sledují miliony lidí.

Sociální sítě, svět bez pravidel

Všechno má dvě strany. Exploze sociálních sítí přinesla mnoho výhod, například to, že pomohla informacím a znalostem rychle a široce šířit okázalým způsobem. Dnes se informace o nehodě dostanou ke každému během několika minut, i když je to na druhém konci světa. Nebo informace o přírodních katastrofách, jako jsou povodně, bouře, lesní požáry..., jsou také rychle aktualizovány všemi prostřednictvím platforem sociálních sítí nebo sdíleny, což pomáhá efektivně šířit informace nebo varovat.

Spolu s pozitivními stránkami však sociální sítě a platformy pro sdílení v komunitě přinášejí znepokojivé důsledky. Ještě děsivější je, že nejen lidé, ale i stroje a zejména bouřlivé pronikání umělé inteligence (AI) činí z internetového světa obecně a technologických platforem zejména místo s příliš mnoha riziky.

„Informační pandemie“ na sociálních sítích

Podle statistik zveřejněných společností Redline na konci června 2024 existuje na celém světě 4,9 miliardy uživatelů sociálních médií. Podle tohoto průzkumu mezi Američany většina uživatelů sociálních médií nedůvěřuje přesnosti informací šířených na těchto platformách, od Facebooku, TikToku až po YouTube. Tato organizace proto použila termín „infodemie“ k označení současného stavu dezinformací na sociálních médiích.

Svět sociálních sítí je jako prales, téměř bez pravidel. Lidé v něm žijí a užívají si plodnosti, svobody a osvěžení, ale spolu s tím se skrývají i smrtelné pasti. Doposud se téměř každá země potýká s managementem a organizací tohoto „pralesa“ a podniká i první kroky k řešení porušování pravidel, zatímco tento „svět“ pokrývá celé lidstvo.

Koncem listopadu letošního roku se Austrálie stala první zemí na světě, která oficiálně zavedla zákon zakazující dětem vstup do fascinujícího, ale nebezpečného a téměř bezprávného „primitivního“ světa. Konkrétně Austrálie zakázala dětem mladším 16 let používat sociální sítě a v případě porušení sociálních sítí uloží vysoké pokuty až do výše 32 milionů USD.

V této souvislosti se exploze falešných zpráv, dezinformací a zejména podvodů na sociálních sítích (stejně jako prostřednictvím dalších high-tech forem, jako jsou softwarové aplikace, podvodné webové stránky atd.) nadále stává globálním problémem. Ve Vietnamu každý den slýcháme srdcervoucí příběhy o obětech podvodníků ve všech podobách v kyberprostoru. I ve světě je to problém pro každou zemi.

V březnu letošního roku Interpol oznámil, že kybernetické podvody v jihovýchodní Asii se celosvětově rozšířily a ročně vynesly až 3 biliony dolarů (což odpovídá HDP Francie). Dokonce i britský technologický gigant přišel o 25 milionů dolarů poté, co podvodníci použili deepfakes, aby se vydávali za vrcholového manažera a objednali si převody peněz. Toto je samozřejmě jen několik příkladů milionů kybernetických podvodů.

Řešení dezinformací na sociálních sítích – nemožné?

Přestože se země a globální organizace neustále snaží předcházet nelegálním aktivitám v kyberprostoru nebo je trestat, zejména na velkých sociálních platformách, jako jsou TikTok, Facebook nebo X, počet řešených případů je jen velmi malý.

Ještě pozoruhodnější je, že doposud téměř žádná země ani organizace nepohnala sociální sítě k odpovědnosti za protiprávní jednání, jako je šíření nepravdivých informací nebo dokonce porušování zákona. V květnu letošního roku sama Meta přiznala, že na svých platformách Facebook a Instagram našla obsah „pravděpodobně generovaný umělou inteligencí“, který byl použit ke zkreslení nebo klamání. Toto prohlášení ukazuje, že samotné sociální sítě se domnívají, že jsou „nevinné“, když šíří škodlivé informace, jinak by se takto „nepřiznávaly“.

Velké technologické společnosti, jako jsou Meta, TikTok, Google, Microsoft nebo X, musely po celém světě zaplatit pokuty v řádu miliard dolarů za svá porušení, ale ty se týkají pouze porušování předpisů na ochranu soukromí uživatelů nebo antimonopolních zákonů a za to, že k porušením docházelo v jejich „domě“, proti nim nebyly uloženy téměř žádné sankce.

Nejvýznamnějším případem v této oblasti bylo zatčení šéfa Telegramu Pavla Durova ve Francii, obviněného z napomáhání trestné činnosti na této platformě pro zasílání zpráv. Zatčení, které je údajně politicky motivované, však proběhlo tajně. Nejednalo se o veřejný soudní proces proti sociální síti nebo běžné společnosti. Ve skutečnosti Telegram nikdy nebyl potrestán za trestnou činnost na platformě, a to i přesto, že Organizace spojených národů v říjnu 2024 zveřejnila zprávu, že platforma je nástrojem zločineckých gangů k nelegálním transakcím.

Svět se stále potýká s problémem falešných zpráv, dezinformací a podvodů na platformách sociálních médií. Ilustrační foto: IJNET

Takže i při tak zjevných nelegálních aktivitách, pokud nelze jednat s platformami sociálních médií nebo sdílet v komunitě, je jasné, že kontrola toxického obsahu, falešných zpráv a dezinformací je extrémně vzdálená.

Platformy se tedy nejen nebojí, ale stále častěji vykazují známky „jednání na vlastní pěst“ a podporují kontroverzní, senzační, nesmyslné nebo toxické informace, aby přilákaly diváky prostřednictvím svých stále sofistikovanějších algoritmů. Za zmínku stojí, že velké technologické společnosti jsou také připraveny vyvíjet tlak nebo zpochybňovat jakýkoli krok k jejich potrestání v této věci. Miliardář Elon Musk, majitel sociální sítě X, v září 2024 vyjádřil svůj nesouhlas s novým australským zákonem, který navrhuje pokutovat společnosti sociálních médií, pokud se jim nepodaří zabránit šíření dezinformací online.

Podle zákona, který je stále australský, by internetové platformy mohly být pokutovány až do výše 5 % svých globálních příjmů za šíření dezinformací. Další velké technologické platformy, jako jsou Google a Meta, také vyjádřily obavy a zpochybnily nový australský zákon. Je třeba poznamenat, že se jedná o světově vzácný návrh zákona, který zmiňuje pokutování sociálních sítí za šíření dezinformací, falešných zpráv a podvodných aktivit.

Pokud se podíváme na svět tradičních médií a žurnalistiky, je tento paradox těžko akceptovatelný. Každý ví, že pokud noviny nebo televizní kanál udělají byť jen malou profesionální chybu, nemluvě o poskytnutí nepravdivých nebo nelegálních informací, může být celá agentura přísně potrestána, přinejmenším se čtenáři otočí zády, odpovědnost ponese nejen reportér nebo redaktor, který informaci poskytl.

„Globální pandemie“ se vymyká kontrole

Dá se říci, že problém dezinformací, falešných zpráv, toxických zpráv a podvodů je závažnější než jakákoli válka nebo pandemie, když může postihnout celou generaci na celém světě, zejména mladé lidi. Existuje příliš mnoho studií, které ukazují, jak sociální sítě, zejména návykové funkce krátkých videí na Facebooku, TikToku nebo Googlu, mají škodlivé účinky na fyzické a duševní zdraví dětí.

V nedávné studii UNICEF poukázal na to, že sociální média jsou navržena tak, aby co nejdéle upoutala pozornost uživatelů, a využívají přitom našich předsudků a psychologických zranitelností, jako je touha po uznání nebo strach z odmítnutí. Nadměrné používání sociálních médií je spojováno s pocity závisti, méněcennosti a nízké životní spokojenosti. Studie dokonce naznačují, že tento zvyk může vést k příznakům deprese, úzkosti a nedostatku spánku, z nichž nejtypičtější jsou duševní onemocnění...

Zpěvačka Taylor Swift je jednou z celebrit, které se staly obětí deepfakeu s využitím umělé inteligence. Foto: Herbert Wang

Vietnamské nařízení, které nutí sociální sítě k ověřování uživatelů, vstoupí v platnost.

Vyhláška 147/2024/ND-CP o správě, poskytování a používání internetových služeb a online informací, kterou nedávno vydala vietnamská vláda, vstoupí v platnost 25. prosince 2024. Nařízení proto vyžaduje, aby sociální sítě ověřovaly uživatele pomocí telefonního čísla nebo osobního identifikačního čísla a pouze ověřené účty mohou poskytovat informace (psát články, komentovat, živě streamovat) a sdílet informace na sociálních sítích. Očekává se, že tato vyhláška výrazně omezí šíření falešných a zavádějících informací, zejména podvodných aktivit na sociálních sítích.

Existuje mnoho příkladů toho, jak dezinformace, falešné zprávy a deepfaky mohou mít vážný dopad na skutečný život a stát se globální hrozbou. V srpnu letošního roku vypukly nepokoje kvůli falešnému tvrzení kolujícímu na sociálních sítích, že podezřelým z bodné smrti mladé dívky ve Spojeném království byl radikální muslimský imigrant (který byl ve skutečnosti Brit). Nepokoje vedly k tisícům zatčení policií.

V případě pokusu o atentát na Donalda Trumpa v červenci 2024 byl svět sociálních médií zaplaven falešnými zprávami nebo konspiračními teoriemi, jako například případ italského novináře, který byl považován za podezřelého (ve skutečnosti šlo o dvacetiletého Američana). Kromě toho se na sociálních médiích objevovaly i zkreslené informace, že podezřelý byl Číňan nebo že incident byl „zinscenovaný“. Šíření falešných informací také zvyšuje nenávist vůči všem konfliktům a ohniskovým oblastem světa, jako je válka mezi Ruskem a Ukrajinou, izraelsko-palestinská válka nebo problém protimuslimských a antisemitských postojů.

A přesto se s explozí umělé inteligence boj proti dezinformacím vymyká kontrole. Nástroje deepfake a levné modely umělé inteligence se šíří bez jakékoli významné kontroly.

Podle statistik DeepMedia počet deepfake videí a hlasů každoročně prudce roste. Počet deepfake videí se v roce 2023 zvýšil více než ztrojnásobil a počet deepfake hlasů více než osmkrát ve srovnání s rokem 2022. Předpokládá se, že v roce 2024 bude na sociálních sítích celosvětově sdíleno přibližně 500 000 deepfake videí a hlasů.

Začátkem roku 2024 se na sociálních sítích šířila série pornografických obrázků zpěvačky Taylor Swift generovaných umělou inteligencí, což vyvolalo rozruch po celém světě. Oběťmi problému deepfake se stala i řada politiků po celém světě, včetně amerického prezidenta Joea Bidena a lídrů ve Velké Británii, Indii, Nigérii, Súdánu, Etiopii a na Slovensku.

Problém falešných zpráv, dezinformací a zejména podvodných aktivit v kyberprostoru se tak stává stále závažnějším. V nadcházející éře umělé inteligence se tato „globální pandemie“ může vymknout kontrole bez společného úsilí celého světa, zejména tvůrců politik v jednotlivých zemích.

Hoang Hai

Zdroj: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html