Соціальні мережі, штучний інтелект та алгоритми посилення: «атомна» комбінація, яка перевертає світ з ніг на голову

(NB&CL) Навіть невеликий інцидент, але з «атомним» поєднанням соціальних мереж, штучного інтелекту та алгоритмів посилення, може створити хвилю екстремізму в національному та навіть глобальному масштабі. Віртуальний світ серйозно впливає на реальне життя та дедалі більше виходить з-під контролю.

Алгоритм розпалювання ненависті

Алгоритми соціальних мереж більше не лише пропонують розважальний контент, а й посилюють мову ненависті та екстремістську ідеологію. Генеральний секретар ООН Антоніу Гутерріш попередив, що деякі платформи соціальних мереж перетворилися на «токсичні звалища», наповнені мовою ненависті та дезінформацією, що підживлює поширення екстремізму.

Реальні дослідження показують, що всього за кілька днів алгоритми рекомендацій можуть посилити проблему. Наприклад, дослідження у Великій Британії виявило, що алгоритм TikTok збільшив кількість рекомендацій мізогіністичного контенту в чотири рази з 13% до 56% відео всього за п'ять днів.

Дослідники пояснюють, що алгоритм автоматично виявляє вразливості користувачів (такі як почуття самотності, втрати контролю, ненависті), перетворюючи екстремістський контент на привабливу «розвагу» для залучення глядачів.

Зараз у соціальних мережах навіть незначні фрагменти інформації чи безпідставні чутки можуть легко стати поштовхом до насильства. Типовим прикладом є заворушення у Великій Британії у 2024 році. Після нападу в Саутпорті неправдиві чутки про підозрюваного – що він мусульманин або біженець – швидко поширилися в соціальних мережах разом з антимусульманською та антиіммігрантською мовою. Згідно зі звітом Генерального бухгалтерського управління США (GAO) за 2024 рік, майже третина користувачів Інтернету стикалися з мовою ворожнечі в Інтернеті.
Зокрема, серія нещодавніх серйозних протестів, заворушень, організованих поколінням Z або студентами в різних країнах, від Азії, Африки до Латинської Америки, були ініційовані та спровоковані на платформах соціальних мереж майже за однаковим сценарієм: експлуатація проблеми та подальше підбурювання всього суспільства.

Програмне забезпечення штучного інтелекту та алгоритми посилення маніпулюють як віртуальним, так і реальним світами . Ілюстрація: Nafets

Більша частина світу занурена в «ілюзію»

Ситуація виходить з-під контролю з вибуховим розвитком штучного інтелекту, який дозволяє майже будь-кому створити «фабрику фейкових новин» у безпрецедентних масштабах та швидкості. Моделі штучного інтелекту, такі як GPT, Claude або LLaMA, можуть автоматично генерувати серію спотворених статей, зображень та відео за частку секунди. Система ботів на основі штучного інтелекту може одночасно створювати та поширювати тисячі постів або коментарів, перетворюючи фейкові та токсичні новини на «тренди» в Інтернеті.

У дослідженні, проведеному Університетом RIT у США, стверджувалося: «Штучний інтелект значно пришвидшив поширення всілякої дезінформації… Боти на базі ШІ можуть поширювати цей контент в інтернеті, оскільки їм не потрібно залежати від людей для його створення».

Сьогодні, витративши лише кілька десятків доларів на місяць на інструмент штучного інтелекту, людина може створити тисячі фальшивих зображень та відео будь-чого: від голосів, фотографій до відео. Рівень складності та поширеності настільки високий, що сьогодні ми всі думаємо: чи те, що ми бачимо в соціальних мережах, створено штучним інтелектом?

Але іронія полягає в тому, що більша частина світу щодня годинами занурена у цей «віртуальний» світ – навіть насолоджуючись ним як «залежністю». Згідно зі звітом «Цифровий 2025», близько 5,2–5,6 мільярда людей користуються соціальними мережами, що еквівалентно 64% ​​населення світу. А середній час, який кожна людина проводить у соціальних мережах, коливається близько 2 годин 20 хвилин на день.

Необхідність контролю над «атомними» бомбами

Зі зростанням дешевизни та небезпечності виробництва фейкових новин та дезінформації контроль над контентом в інтернеті майже вийшов з-під людського контролю. Експерт з технологій Лукаш Олейник з Королівського коледжу Лондона (Велика Британія) прокоментував: «Щомісяця фабрики [фейкових новин] стають дешевшими, точнішими та важчими для виявлення».

Тим часом, дослідження RAND, проведене у 2024 році, зазначило, що перспектива того, що штучний інтелект зможе «заповнити інтернет» фальшивими акаунтами в соціальних мережах, є очевидною та майже неминучою без жодних підтекстів.

Ядерні технології колись були великим винаходом людства, як і соціальні мережі. Однак, якщо їх не контролювати, вони можуть спричинити катастрофу. Так само, якщо соціальні мережі, штучний інтелект та алгоритми посилення залишать бездіяльними, вони можуть запустити «атомні бомби» в кіберпросторі – і стати достатньо потужними, щоб знищити реальний світ.

Джерело: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html