Když se umělá inteligence v oblasti falešných zpráv stane viníkem šíření dezinformací

Falešné zprávy explodují na sociálních sítích

Během deseti let se sociální sítě změnily z pouhého místa, kde uživatelé sdíleli fotografie a aktualizovali statusy, na „jeviště“ pro bezpočet neověřených příběhů.

Rychlost, s jakou se falešné zprávy šíří, je to, co je činí tak nebezpečnými: stačí jeden příspěvek z jednoho účtu a několik sdílení, aby se informace vymkla kontrole a dostala se do konverzací milionů lidí.

Mnoho uživatelů si myslí, že jsou dostatečně střízliví na to, aby se s falešnými zprávami vypořádali, ale realita ukazuje opak. Falešné zprávy jsou často zahaleny silnými emocemi, hněvem, soucitem, rozhořčením… což divákům usnadňuje ignorovat krok kontroly zdroje.

Algoritmy sociálních médií upřednostňují kontroverzní obsah a neúmyslně ho posouvají výše v kanálu zpráv. Čím více lidí ho vidí, tím více mu věří a cyklus pokračuje.

Důsledky sahají nad rámec pouhého nepochopení události. Na mnoha místech po celém světě , včetně Vietnamu, falešné zprávy poškodily osobní pověst, narušily obchodní operace, způsobily společenské nepokoje a dokonce ovlivnily politická rozhodnutí.

Tato realita nám připomíná, že žijeme v době, kdy každou informaci, kterou obdržíme, musíme přehodnotit, než jí uvěříme a sdílíme ji.

Identifikujte falešné zprávy vytvořené pomocí generativní technologie umělé inteligence

Zatímco dříve se falešné zprávy vytvářely zkreslováním pravdy, technologie umělé inteligence (od textu, obrázků až po videa ) nyní proměnila vytváření dezinformací v mnohem rychlejší, levnější a hůře odhalitelný proces.

Realistické fotografie vznikají během několika sekund, deepfake videa simulují lidské hlasy a tváře do té míry, že je obtížné je rozeznat pouhým okem. Mnoho uživatelů internetu bylo svědky záběrů politiků, kteří se objevují na místech, kde nikdy nebyli, firem, kterým jsou vymýšlena prohlášení, nebo obyčejných lidí, kteří jsou umisťováni do zcela nereálných situací. Produkty generativní umělé inteligence fungují jako jakási „technologická kamufláž“, která mění falešné informace na informace rozumné a ztěžuje divákům pochybnosti.

Falešné zprávy vytvořené umělou inteligencí však stále zanechávají určité stopy. Nepřirozené oči, nadbytečné prsty, malé detaily v osvětlení, tělesné proporce nebo až příliš dokonalá, emocionálně necitlivá slova… to vše jsou známky rozpoznání.

Mnoho platforem navíc nyní začalo začleňovat nástroje pro detekci obsahu generovaného umělou inteligencí, ale rozpoznávací schopnosti zatím nedrží krok s tempem technologického pokroku.

Tato situace vyžaduje, aby si uživatelé sociálních médií vytvořili zvyk: vždy se ptát „kdo tuto informaci vytvořil?“, „proč se objevuje právě teď?“, „existuje nějaký oficiální zdroj, který by ji potvrdil?“… Ve světě, kde umělá inteligence dokáže vytvořit „alternativní pravdu“, se střízlivost uživatelů sociálních médií stává nejdůležitějším štítem.

Zdroj: https://baovanhoa.vn/nhip-song-so/khi-tin-gia-ai-tro-thanh-thu-pham-khuech-dai-thong-tin-sai-lech-186877.html