Социальные сети, ИИ и алгоритмы усиления: «атомная» комбинация, которая переворачивает мир с ног на голову

(NB&CL) Даже небольшой инцидент, но благодаря «атомарному» сочетанию социальных сетей, искусственного интеллекта и алгоритмов усиления, может вызвать волну экстремизма национального и даже мирового масштаба. Виртуальный мир серьёзно влияет на реальную жизнь и всё больше выходит из-под контроля.

Алгоритм разжигания ненависти

Алгоритмы социальных сетей теперь не только предлагают развлекательный контент, но и способствуют распространению языка вражды и экстремистской идеологии. Генеральный секретарь ООН Антониу Гутерриш предупредил, что некоторые платформы социальных сетей превратились в «токсичные свалки», наполненные языком вражды и дезинформацией, что способствует распространению экстремизма.

Реальные исследования показывают, что всего за несколько дней рекомендательные алгоритмы могут усугубить проблему. Например, исследование, проведённое в Великобритании, показало, что алгоритм TikTok увеличил количество рекомендаций женоненавистнического контента в четыре раза — с 13% до 56% всего за пять дней .

Исследователи объясняют, что алгоритм автоматически воздействует на уязвимые места пользователей (такие как чувство одиночества, потери контроля, ненависти), превращая экстремистский контент в привлекательное «развлечение» для привлечения зрителей.

В социальных сетях даже незначительная информация или беспочвенные слухи могут легко стать поводом для насилия. Типичный пример — беспорядки в Великобритании в 2024 году. После нападения в Саутпорте в социальных сетях быстро распространились ложные слухи о подозреваемом — о том, что он мусульманин или беженец, — а также антимусульманские и антииммигрантские высказывания. Согласно отчёту Главного контрольно-ревизионного управления США (GAO) за 2024 год, почти треть интернет-пользователей столкнулась с проявлениями ненависти в интернете.
В частности, серия недавних серьезных протестов, беспорядков со стороны поколения Z или студентов в разных странах — от Азии и Африки до Латинской Америки — были инициированы и спровоцированы на платформах социальных сетей, причем сценарий был практически одинаковым: эксплуатация проблемы, а затем подстрекательство всего общества.

Программное обеспечение на основе искусственного интеллекта и алгоритмы усиления воздействуют как на виртуальный, так и на реальный миры . Иллюстрация: Nafets

Большая часть мира погружена в «иллюзию».

Ситуация выходит из-под контроля из-за бурного развития искусственного интеллекта, который позволяет практически любому человеку создавать «фабрику фейковых новостей» беспрецедентных масштабов и скорости. Модели ИИ, такие как GPT, Claude или LLaMA, могут автоматически генерировать серию искажённых статей, изображений и видео за доли секунды. Система ИИ-ботов может одновременно создавать и распространять тысячи постов или комментариев, превращая фейковые и токсичные новости в «тренды» в интернете.

Исследование, проведенное в Университете Риверсайд-Технолоджи (RIT) в США, утверждает: «Искусственный интеллект позволил очень быстро распространять всевозможную дезинформацию… Боты на основе искусственного интеллекта могут распространять этот контент по всему Интернету, поскольку им не нужно зависеть от людей для его создания».

Сегодня, всего за несколько десятков долларов в месяц за инструмент с искусственным интеллектом, любой может создать тысячи поддельных изображений и видео, содержащих что угодно: голоса, фотографии и видео. Уровень сложности и распространённости настолько высок, что сегодня у каждого из нас в глубине души возникает вопрос: неужели то, что мы видим в социальных сетях, создано искусственным интеллектом?

Но ирония в том, что большая часть мира погружена в этот «виртуальный» мир на долгие часы, каждый день, и даже наслаждается им, словно «зависимостью». Согласно отчёту Digital 2025, социальными сетями пользуются от 5,2 до 5,6 миллиарда человек, что составляет 64% населения мира. При этом среднее время, которое каждый человек проводит в социальных сетях, колеблется около 2 часов 20 минут в день.

Необходимость контроля над «атомными» бомбами

В связи с тем, что фейковые новости и дезинформация производятся всё более дешёвыми и опасными способами, контроль над контентом в интернете практически вышел из-под контроля человека. Эксперт по технологиям Лукаш Олейник из Королевского колледжа Лондона (Великобритания) отметил: «С каждым месяцем фабрики [фейковых новостей] становятся всё дешевле, совершеннее и их всё сложнее обнаружить».

Между тем, исследование RAND, проведенное в 2024 году, показало, что перспектива того, что ИИ сможет «заполнить интернет» фейковыми аккаунтами в социальных сетях, очевидна и практически неизбежна без каких-либо неожиданностей.

Ядерные технологии когда-то были великим изобретением человечества, как и социальные сети. Однако, если их не контролировать, они могут привести к катастрофе. Аналогично, если дать волю социальным сетям, искусственному интеллекту и алгоритмам усиления, они могут спровоцировать «атомные бомбы» в киберпространстве — и оказаться достаточно мощными, чтобы уничтожить реальный мир.

Source: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html