Důvěra je ve věku algoritmů manipulována.
Vyšetřování britského deníku The Guardian odhaluje, že mnoho extremistických skupin po celém světě využívá umělou inteligenci, zejména klonování hlasu a technologii převodu textu na řeč s využitím umělé inteligence, k šíření své propagandy. Od neofašistických skupin až po extremistické džihádistické sítě transformují text do zvukových klipů, které zní „realisticky“, zachovávají tón, emoce a intenzitu své ideologie a poté je šíří napříč různými platformami a jazyky.
Tento manipulační mechanismus využívá velmi základní psychologický reflex: lidé mají tendenci věřit rychleji, když je pocit autenticity dostatečně silný. Známý, zdánlivě důvěryhodný hlas s nádechem autority nebo odbornosti oslabí bariéru skepticismu. Pokud je takový obsah i nadále upřednostňován algoritmem pro distribuci, protože je šokující, kontroverzní nebo emocionálně stimulující, důvěra se postupně vytváří prostřednictvím emocí, opakování a zdání „autentičnosti“.
Podle deníku The Guardian si anglické verze extremistických projevů, vytvořené pomocí technologie klonování hlasu s využitím umělé inteligence, nasbíraly desítky milionů poslechů a zhlédnutí na platformách, jako jsou X, Instagram a TikTok.
Důsledky této eroze důvěry sahají i za hranice technologií. Tim Davie, generální ředitel British Broadcasting Corporation, varoval, že „budoucnost soudržné a demokratické společnosti je skutečně v sázce“. Vlnu dezinformací na digitálních platformách označil za „krizi důvěry“ a zdůraznil, že když společnosti chybí společný základ pravdy, disidenti jsou snadno vnímáni jako nepřátelé, empatie se zmenšuje a demokratické hodnoty jsou narušovány.
Podle studie amerických a německých vědců z roku 2024, kteří spolupracovali na systému doporučení pro TikTok, výzkumný tým sledoval chování 347 skutečných uživatelů a 5 kontrolovaných simulovaných uživatelských účtů, aby pozoroval, jak algoritmus reaguje na každodenní interakce. Výsledky ukázaly, že 30–50 % doporučení obsahu na TikToku bylo založeno přímo na preferencích automaticky identifikovaných algoritmem, spíše než na vědomých volbách uživatele. Když tento personalizovaný proud doporučení funguje téměř zcela automaticky, důvěra se může vytvořit ještě dříve, než se kritické myšlení vůbec rozvine.
Získejte zpět kontrolu nad algoritmem.
V době algoritmů neexistují žádné „zkratky“, jak rychle obnovit společenskou důvěru. Mnoho zemí a mezinárodních organizací však začalo zavádět konkrétní opatření k opětovnému získání kontroly nad doporučovacími systémy, a to s obecným pochopením, že algoritmy se staly společenskou silou, kterou je třeba monitorovat a řídit.
Jedním z nejdůležitějších kroků je požadavek na transparentnost a dohled nad algoritmy. Evropská unie (EU) je v tomto ohledu lídrem díky přijetí zákona o digitálních službách (DSA), který nutí hlavní technologické platformy zveřejňovat principy fungování jejich doporučovacích systémů, umožňuje nezávislým orgánům a výzkumníkům posuzovat sociální rizika a volá je k právní odpovědnosti, pokud jejich algoritmy zesilují škodlivý obsah.
Mnoho zemí prosazuje změnu cílů v návrhu algoritmů. Platformy musí namísto pouhé optimalizace pro zapojení zvažovat dlouhodobý společenský dopad. Švédsko, Finsko a Dánsko vyvíjejí tlak na platformy, aby omezily opakování extremistického obsahu, zvýšily rozmanitost informačních zdrojů ve svých doporučovacích systémech, snížily hodnocení obsahu označeného jako manipulovaný a zejména omezily ekonomické přínosy z podněcování k obsahu.
Role veřejnoprávních médií a profesionální žurnalistiky se přizpůsobují praktičtějšímu směru. Mnoho zpravodajských organizací funguje v algoritmicky řízeném prostoru a přesto si zachovává profesionální standardy. Profesorka Sonia Livingstone, výzkumnice mediálních studií na London School of Economics and Political Science, tvrdí, že vzhledem k tomu, že většina veřejnosti, zejména mladých lidí, přistupuje ke zprávám primárně prostřednictvím digitálních platforem, absence mainstreamové žurnalistiky zanechává informační mezery, které lze snadno zaplnit dezinformacemi a manipulací. Podle ní je v algoritmicky řízeném mediálním prostředí přítomnost etické žurnalistiky na platformách, kde si veřejnost utváří své vnímání, nezbytná pro to, aby se ověřené informace dostaly ke správnému publiku ve správný čas.
Na individuální úrovni se odborníci na média a vzdělávání domnívají, že řešení spočívá ve zlepšení dovedností uživatelů v oblasti zpracování informací. Mnoho zemí, jako je Kanada, Austrálie a evropské národy, začlenilo vzdělávání v oblasti digitální gramotnosti a mediální gramotnosti do škol a komunitních programů. Cílem těchto programů je pomoci lidem rozvinout zvyk odkládat reakci na šokující obsah, proaktivně odkazovat na více zdrojů, číst celý text namísto pouhého nadpisu a uvědomovat si, že i malé akce, jako je pozastavení sledování nebo opakované sledování obsahu, jsou způsoby, jak „trénovat“ algoritmy.
Dnešní algoritmy fungují jako neviditelná sociální infrastruktura a představují riziko tím, že postupně formují a narušují důvěru opakováním a zesilováním určitých informací. V této souvislosti je pro společnost nezbytné znovuzískání kontroly nad algoritmy, aby si zachovala schopnost vést dialog založený na pravdě a činit zodpovědná kolektivní rozhodnutí.
Zdroj: https://daidoanket.vn/thuat-toan-dang-dinh-hinh-niem-tin-cua-chung-ta.html
Komentář (0)