Sociální média, umělá inteligence a zesilovací algoritmy: „Atomová“ kombinace, která obrací svět vzhůru nohama

Algoritmus pro podněcování nenávisti

Algoritmy sociálních médií už neslouží jen k navrhování zábavného obsahu, ale také k zesilování nenávistných projevů a extremistické ideologie. Generální tajemník OSN António Guterres varoval, že některé platformy sociálních médií se staly „toxickými skládkami“ plnými nenávistných projevů a dezinformací, což podporuje šíření extremismu.

Studie z reálného světa ukazují, že během několika dní mohou doporučovací algoritmy problém zhoršit. Například britská studie zjistila, že algoritmus TikToku během pouhých pěti dnů čtyřnásobně zvýšil doporučování misogynního obsahu z 13 % na 56 % videí .

Výzkumníci vysvětlují, že algoritmus automaticky cílí na zranitelnosti uživatelů (jako jsou pocity osamělosti, ztráta kontroly, nenávist) a proměňuje extremistický obsah v atraktivní „zábavu“, aby přilákal diváky.

Na sociálních sítích se nyní i malé informace nebo nepodložené fámy mohou snadno stát spouštěčem násilí. Typickým příkladem jsou nepokoje ve Velké Británii v roce 2024. Po útoku v Southportu se na sociálních sítích rychle šířily falešné zvěsti o podezřelém – že je muslim nebo uprchlík – spolu s protimuslimským a protiimigrantským jazykem. Podle zprávy amerického Úřadu pro účetnictví (GAO) z roku 2024 byla téměř třetina uživatelů internetu vystavena online nenávistným projevům.
Zejména série nedávných vážných protestů a nepokojů generace Z nebo studentů v různých zemích, od Asie, Afriky až po Latinskou Ameriku, byly iniciovány a podněcovány na platformách sociálních médií s téměř stejným scénářem: zneužití problému a následné podněcování celé společnosti.

Dobyl — Software umělé inteligence a zesilovací algoritmy manipulují s virtuálním i reálným světem . Ilustrace: Nafets

Většina světa je ponořena do „iluze“

Věci se vymykají kontrole s explozí umělé inteligence, která umožňuje téměř komukoli vytvořit „továrnu na falešné zprávy“ v nebývalém rozsahu a rychlosti. Modely umělé inteligence, jako jsou GPT, Claude nebo LLaMA, dokáží automaticky vygenerovat sérii zkreslených článků, obrázků a videí během zlomku vteřiny. Systém botů s umělou inteligencí dokáže současně vytvářet a sdílet tisíce příspěvků nebo komentářů, čímž promění falešné a toxické zprávy v online „trendy“.

Studie provedená americkou univerzitou RIT tvrdí: „Umělá inteligence velmi rychle šíří nejrůznější dezinformace… Boti s umělou inteligencí mohou tento obsah šířit po internetu, protože se k jeho tvorbě nemusí spoléhat na lidi.“

Dnes si za pouhých pár desítek dolarů měsíčně, které si člověk může zakoupit pomocí nástroje umělé inteligence, může vytvořit tisíce falešných obrázků a videí čehokoli od hlasů, fotografií až po videa. Úroveň sofistikovanosti a rozšíření je tak vysoká, že si dnes všichni říkáme: Je to, co vidíme na sociálních sítích, generováno umělou inteligencí?

Ironií ale je, že většina světa je v tomto „virtuálním“ světě ponořena na hodiny, každý den – a užívá si ho dokonce jako „závislost“. Podle zprávy Digital 2025 používá sociální sítě přibližně 5,2 až 5,6 miliardy lidí, což odpovídá 64 % světové populace. A průměrná doba, kterou každý člověk používá sociální sítě, se pohybuje kolem 2 hodin a 20 minut denně.

Potřeba kontrolovat „atomové“ bomby

Vzhledem k tomu, že falešné zprávy a dezinformace jsou produkovány stále levnějším a nebezpečnějším tempem, kontrola obsahu na internetu se téměř vymkla lidské kontrole. Technologický expert Lukasz Olejnik z King's College London (Spojené království) poznamenal: „Každý měsíc jsou továrny [na falešné zprávy] levnější, přesnější a hůře odhalitelné.“

Studie RAND z roku 2024 mezitím poukázala na to, že vyhlídka na to, že umělá inteligence bude schopna „zaplnit internet“ falešnými účty na sociálních sítích, je jasná a téměř nevyhnutelná bez jakýchkoli zvratů.

Jaderná technologie byla kdysi velkým vynálezem lidstva, stejně jako sociální média. Pokud se však nechá bez povšimnutí, může způsobit katastrofu. Podobně, pokud se sociální média, umělá inteligence a zesilovací algoritmy nechají napospas osudu, mohou v kyberprostoru spustit „atomové bomby“ – a být dostatečně silné na to, aby zničily skutečný svět.

Zdroj: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html