Když umělá inteligence rozhoduje o tom, co říkáte online

V digitálním světě, kde má každý hlas, pomáhají algoritmy filtrování komentářů chránit komunity, nebo neúmyslně potlačují hlasy uživatelů?

Umělá inteligence skenuje a maže komentáře na sociálních sítích

Když lidé zanechají komentář k videu na YouTube, příspěvku na Facebooku nebo online článku, nemají tušení, zda se k někomu dostane. Není to proto, že by byl překlep, ani proto, že by byl nelegální, je jednoduše blokován automatickým filtrovacím algoritmem.

Technologické platformy nyní používají systémy filtrování komentářů k odstranění nenávistných projevů, pornografie, násilí a kontroverzních projevů. Cílem je „udržet komunity v bezpečí“, ale jsou tyto nástroje natolik dezinfekční, že se stávají necitlivými?

Když se umělá inteligence stane strážcem řeči

Na rozdíl od raných dob internetu, kdy se „surové“ komentáře mohly volně objevovat, většina hlavních platforem nyní deleguje odpovědnost za filtrování obsahu na umělou inteligenci. Díky strojovému učení mohou systémy denně skenovat miliony řádků textu, vyhodnocovat jazyk, tón a dokonce i „kontext“ a rozhodnout se, zda je ponechat, nebo smazat.

Tento systém však není vždy přesný.

Paní Ngoc Vy (HCMC) sdílela: „Můj komentář k produktu byl z nějakého neznámého důvodu skryt. Žádné nadávky, žádný spam, jen komentář, který po několika sekundách zmizel.“

Mnoho kusů obsahu je odstraněno jednoduše proto, že používá citlivá slova v naprosto běžném kontextu. Fráze jako „chudoba“, „hlad“, „politika“ nebo „systém“ jsou někdy špatně chápány jako negativní, pokud stroj nedokáže „přečíst“ ducha věty.

Filtrovat, nebo eliminovat kritiku?

Podle varování německé organizace AlgorithmWatch mohou automatizované cenzurní systémy neúmyslně eliminovat disentní hlasy, zejména ze znevýhodněných nebo menšinových skupin, protože se tyto systémy učí z chování většiny, která není dostatečně rozmanitá z hlediska kultury a názorů.

Ve Vietnamu se přísná kontrola obsahu ze strany platforem sociálních médií stává stále běžnější, zejména u vysoce interaktivních zpravodajských webů. Komentáře k aktuálním a sociálním tématům jsou často omezeny nebo musí být „předem schváleny“, což vede mnoho lidí k otázce: Existuje v kyberprostoru stále svoboda projevu?

Znepokojivé je, že uživatelé jen zřídka vědí, proč jsou komentáře skryty nebo smazány. Neexistují žádná oznámení ani transparentní mechanismy zpětné vazby. Všechno se děje potichu a ve světě řízeném algoritmy může být mlčení nejjemnější formou cenzury.

Udržujte internet čistý, ale nezakrývejte konverzaci.

Čistý kyberprostor by neměl znamenat sterilní. Společnost je místem, kde se vyjadřují různé názory, konstruktivně, kriticky a diskutuje se o nich. Potřebujeme algoritmy k filtrování toxické řeči, ale také musíme chránit právo na odlišný názor, právo klást otázky a právo vznášet námitky.

Když musí být každý komentář „moderován“, musíme se ptát: Chrání technologie komunitu, nebo filtruje to, co komunita smí slyšet?

Technologie nemohou nahradit lidi při přijímání hodnotných rozhodnutí. A ve věku umělé inteligence jsou transparentnost a právo na zpětnou vazbu nejspravedlivějšími „algoritmy“ pro celý systém.

Technologie by měla lidem pomáhat se ozvat, ne rozhodovat, co říct za ně.

JEDNODUCHÁ INTELIGENCE

Zdroj: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm