Когда ИИ решает, что вы говорите в Интернете

В цифровом мире, где у каждого есть голос, помогают ли алгоритмы фильтрации комментариев защищать сообщества или они непреднамеренно подавляют собственные голоса пользователей?

ИИ сканирует и удаляет комментарии в социальных сетях

Когда люди оставляют комментарий к видео на YouTube, посту в Facebook или онлайн-статье, они не знают, дойдёт ли он до кого-нибудь. Дело не в том, что комментарий написан с ошибкой или является незаконным, а в том, что он просто блокируется автоматическим алгоритмом фильтрации.

Современные технологические платформы используют системы фильтрации комментариев, чтобы отсеивать язык вражды, порнографию, насилие и разжигающие рознь высказывания. Цель — «обеспечить безопасность сообществ», но не настолько ли эти инструменты стерильны, чтобы быть бесчувственными?

Когда ИИ становится хранителем речи

В отличие от ранних дней интернета, когда «сырые» комментарии были доступны для свободного распространения, большинство крупных платформ теперь делегируют ответственность за фильтрацию контента искусственному интеллекту. Благодаря машинному обучению системы могут ежедневно сканировать миллионы строк текста, оценивая язык, тон и даже «контекст», чтобы решить, сохранять или удалять комментарии.

Однако эта система не всегда точна.

Г-жа Нгок Ви (Хошимин) поделилась: «Мой комментарий о продукте был скрыт без причины. Никаких ругательств, никакого спама, просто комментарий, который исчез через несколько секунд».

Многие фрагменты контента удаляются просто потому, что в них используются деликатные слова в совершенно нормальном контексте. Такие фразы, как «бедность», «голод», «политика» или «система», иногда ошибочно воспринимаются как негативные, если система не может «прочитать» смысл предложения.

Фильтровать или устранять критику?

Согласно предупреждению AlgorithmWatch (Германия), автоматизированные системы цензуры могут непреднамеренно устранять инакомыслящие голоса, особенно из неблагополучных или меньшинств групп, поскольку эти системы учатся на поведении большинства, которое недостаточно разнообразно с точки зрения культуры и взглядов.

Во Вьетнаме строгий контроль контента со стороны социальных сетей становится всё более распространённым, особенно на высокоинтерактивных новостных сайтах. Комментарии по текущим и социальным вопросам часто ограничены к публикации или требуют «предварительного одобрения», что заставляет многих задаваться вопросом: существует ли ещё свобода слова в киберпространстве?

Беспокоит то, что пользователи редко знают, почему комментарии скрыты или удалены. Нет никаких уведомлений, нет прозрачных механизмов обратной связи. Всё происходит незаметно, а в мире , где правят алгоритмы, молчание может быть самой изощрённой формой цензуры.

Поддерживайте чистоту в Интернете, но не приукрашивайте разговоры

Чистое киберпространство не должно означать стерильное. Общество — это место, где высказываются разные мнения, конструктивные, критические и обсуждаются. Нам нужны алгоритмы для фильтрации токсичных высказываний, но мы также должны защищать право быть не таким, как все, право задавать вопросы, право сообщать о неудобствах.

Когда каждый комментарий должен быть «модерирован», мы должны спросить: защищает ли технология сообщество или фильтрует то, что сообществу позволено слышать?

Технологии не могут заменить людей в принятии важных решений. А в эпоху искусственного интеллекта прозрачность и право на обратную связь — самые справедливые «алгоритмы» для всей системы.

Технологии должны помогать людям высказываться, а не решать, что за них говорить.

ДВА РАЗУМА

Источник: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm