Когда ИИ решает, что вы говорите в интернете

В цифровом мире, где у каждого есть голос, помогают ли алгоритмы фильтрации комментариев защищать сообщества или они непреднамеренно подавляют голоса пользователей?

ИИ сканирует и удаляет комментарии в социальных сетях

Когда люди оставляют комментарий к видео на YouTube, посту в Facebook или онлайн-статье, они не знают, дойдёт ли он до кого-нибудь. Дело не в том, что комментарий написан с ошибкой или что он незаконен, а в том, что он просто блокируется автоматическим алгоритмом фильтрации.

Технологические платформы теперь используют системы фильтрации комментариев для удаления языка вражды, порнографии, насилия и разжигающих рознь высказываний. Цель — «обеспечить безопасность сообществ», но не настолько ли эти инструменты дезинфицируют, что становятся бесчувственными?

Когда ИИ становится хранителем речи

В отличие от ранних дней интернета, где «сырые» комментарии могли свободно публиковаться, большинство крупных платформ теперь делегируют ответственность за фильтрацию контента искусственному интеллекту. Благодаря машинному обучению системы могут ежедневно сканировать миллионы строк текста, оценивая язык, тон и даже «контекст», чтобы решить, сохранить или удалить комментарий.

Однако эта система не всегда точна.

Г-жа Нгок Ви (Хошимин) поделилась: «Мой комментарий о продукте был скрыт по неизвестной причине. Никакого ругательства, никакого спама, просто комментарий, который исчез через несколько секунд».

Многие фрагменты контента удаляются просто потому, что в них используются деликатные слова в совершенно нормальном контексте. Такие фразы, как «бедность», «голод», «политика» или «система», иногда ошибочно воспринимаются как негативные, если система не может «прочитать» смысл предложения.

Фильтровать или устранять критику?

По данным предупреждения немецкой организации AlgorithmWatch, автоматизированные системы цензуры могут непреднамеренно устранять инакомыслящие голоса, особенно из неблагополучных или меньшинств групп, поскольку эти системы учатся на поведении большинства, которое недостаточно разнообразно с точки зрения культуры и взглядов.

Во Вьетнаме строгий контроль контента со стороны социальных сетей становится всё более распространённым, особенно на высокоинтерактивных новостных сайтах. Комментарии по текущим и социальным вопросам часто ограничены к публикации или требуют «предварительного одобрения», что заставляет многих задаваться вопросом: существует ли ещё свобода слова в киберпространстве?

Беспокоит то, что пользователи редко знают, почему комментарии скрыты или удалены. Нет никаких уведомлений, нет прозрачных механизмов обратной связи. Всё происходит незаметно, а в мире , где правят алгоритмы, молчание может быть самой изощрённой формой цензуры.

Поддерживайте чистоту в Интернете, но не приукрашивайте разговоры

Чистое киберпространство не должно означать стерильное. Общество — это место, где высказываются разные мнения, конструктивные, критические и обсуждаются. Нам нужны алгоритмы для фильтрации токсичных высказываний, но мы также должны защищать право быть не таким, как все, право задавать вопросы, право сообщать о неудобствах.

Когда каждый комментарий должен «модерироваться», мы должны задаться вопросом: защищает ли технология сообщество или фильтрует то, что сообществу позволено слышать?

Технологии не могут заменить людей в принятии важных решений. А в эпоху искусственного интеллекта прозрачность и право на обратную связь — самые справедливые «алгоритмы» для всей системы.

Технологии должны помогать людям высказываться, а не решать, что за них говорить.

ЕДИНЫЙ ИНТЕЛЛЕКТ

Источник: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm