Коли ШІ вирішує, що ви говорите в Інтернеті

У цифровому світі, де кожен має право голосу, чи допомагають алгоритми фільтрації коментарів захищати спільноти, чи вони ненавмисно придушують голоси користувачів?

Штучний інтелект сканує та видаляє коментарі в соцмережах

Коли люди залишають коментар до відео на YouTube, допису у Facebook чи онлайн-статті, вони не знають, чи дійде він до когось. Це не тому, що там є орфографічні помилки, і не тому, що це незаконно, його просто блокує автоматизований алгоритм фільтрації.

Технологічні платформи зараз використовують системи фільтрації коментарів для видалення мови ненависті, порнографії, насильства та роз'єднувальних висловлювань. Мета полягає в тому, щоб «забезпечити безпеку громад», але чи є ці інструменти настільки очищувальними, що стають нечутливими?

Коли ШІ стає охоронцем мови

На відміну від ранніх днів інтернету, де «сирі» коментарі могли вільно з’являтися, більшість основних платформ зараз делегують відповідальність за фільтрацію контенту штучному інтелекту. Завдяки машинному навчанню системи можуть сканувати мільйони рядків тексту щодня, оцінюючи мову, тон і навіть «контекст», щоб вирішити, чи зберігати коментарі, чи видаляти.

Однак ця система не завжди точна.

Пані Нгок Ві (Гошмід-Кристал) поділилася: «Мій коментар щодо продукту був прихований з невідомої причини. Жодної лайливої ​​лексики, жодного спаму, просто коментар, який зник через кілька секунд».

Багато фрагментів контенту видаляються просто тому, що в них використовуються делікатні слова в цілком звичайному контексті. Такі фрази, як «бідність», «голод», «політика» або «система», іноді неправильно сприймаються як негативні, якщо машина не може «зчитати» суть речення.

Фільтрувати чи усувати критику?

Згідно з попередженням німецької організації AlgorithmWatch, автоматизовані системи цензури можуть ненавмисно усувати голоси незгодних, особливо з числа знедолених груп або меншин, оскільки ці системи навчаються на поведінці більшості, яка недостатньо різноманітна з точки зору культури та поглядів.

У В'єтнамі суворий контроль контенту з боку соціальних мереж стає все більш поширеним явищем, особливо на високоінтерактивних новинних сайтах. Коментарі щодо актуальних та соціальних питань часто заборонені для показу або мають бути «попередньо схвалені», що змушує багатьох людей запитувати: чи існує досі свобода слова в кіберпросторі?

Тривожить те, що користувачі рідко знають, чому коментарі приховані або видалені. Немає жодних сповіщень, жодних прозорих механізмів зворотного зв’язку. Все відбувається непомітно, а у світі, яким керують алгоритми, мовчання може бути найвитонченішою формою цензури.

Підтримуйте чистоту інтернету, але не приховуйте розмови

Чистий кіберпростір не повинен означати стерильний. Суспільство – це місце, де висловлюються різні думки, вони конструктивні, критичні та обговорюються. Нам потрібні алгоритми для фільтрації токсичної мови, але нам також потрібно захищати право на відмінність, право ставити запитання, право висловлювати незручності.

Коли кожен коментар має бути «модерований», ми маємо запитати: чи захищає технологія спільноту, чи фільтрує те, що спільноті дозволено чути?

Технології не можуть замінити людей у ​​прийнятті цінних рішень. А в епоху штучного інтелекту прозорість та право на зворотний зв'язок є найсправедливішими «алгоритмами» для всієї системи.

Технології повинні допомагати людям висловлюватися, а не вирішувати, що сказати за них.

ЄДИНА ІНТЕЛЕКЦІЯ

Джерело: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm