Навіть штучний інтелект отримує «пошкодження мозку», якщо занадто багато гортає TikTok

Так само, як люди можуть зазнавати негативного впливу від постійного пошуку негативних новин в Інтернеті, штучний інтелект (ШІ) також стикається з тією ж проблемою.

Báo Khoa học và Đời sống•01/11/2025

Нове дослідження, проведене Техаським університетом в Остіні, Техаським університетом A&M та Університетом Пердью, показує, що штучний інтелект може стати «гнилим для мозку», як і люди, якщо його годують неякісним контентом із соціальних мереж.

Це явище, відоме як «гниття мозку від штучного інтелекту», свідчить про те, що коли великі мовні моделі поглинають занадто багато вірусного, сенсаційного та поверхневого контенту, вони поступово втрачають здатність логічно мислити, запам'ятовувати і навіть стають морально девіантними.

Не тільки люди, але й штучний інтелект страждає від дегенерації мозку, переглядаючи забагато непотрібних коротких відео .

Дослідницька група під керівництвом Джуньюань Хонг, який зараз є викладачем Національного університету Сінгапуру, провела експерименти з двома моделями мов програмування з відкритим кодом: Llama від Meta та Qwen від Alibaba.

Вони завантажували моделі різними типами даних — деякими нейтральним інформаційним контентом, іншими — публікаціями в соціальних мережах, що викликають сильну залежність, зі звичайними словами, такими як «вау», «дивись» та «лише сьогодні». Метою було побачити, що відбувається, коли штучний інтелект навчається на контенті, призначеному для залучення переглядів, а не для надання реальної цінності.

Результати показали, що моделі, яких «годували» потоком непотрібної онлайн-інформації, почали демонструвати чіткі ознаки когнітивного спаду: їхня здатність міркувати послабшала, короткочасна пам'ять погіршилася, і, що ще більш тривожно, вони стали більш «неетичними» за шкалами оцінки поведінки.

Деякі вимірювання також показують «психологічне спотворення», яке імітує психологічну реакцію людей після тривалого впливу шкідливого контенту, явище, яке перегукується з попередніми дослідженнями людей, які показують, що «doomscroling» – постійне прокручування негативних новин в Інтернеті – може поступово руйнувати мозок.

Фраза «гниль мозку» навіть була обрана Оксфордським словником словом 2024 року, що відображає поширеність цього явища в цифровому житті.

Цей висновок є серйозним попередженням для індустрії штучного інтелекту, де багато компаній досі вважають дані соціальних мереж багатим джерелом навчальних ресурсів, за словами пана Хонга.

«Навчання з використанням вірусного контенту може допомогти масштабувати дані, але воно також непомітно руйнує міркування, етику та увагу моделі», – сказав він. Ще більш тривожно те, що моделі, на які вплинули такі низькоякісні дані, не можуть повністю відновитися навіть після перенавчання з використанням «чистіших» даних.

Це створює велику проблему в контексті того, що сам штучний інтелект зараз створює все більше контенту в соціальних мережах. Оскільки публікації, зображення та коментарі, згенеровані штучним інтелектом, стають дедалі поширенішими, вони продовжують ставати навчальним матеріалом для наступного покоління штучного інтелекту, створюючи замкнене коло, яке призводить до зниження якості даних.

«Поширення небажаного контенту, створеного штучним інтелектом, забруднює ті самі дані, на яких навчатимуться майбутні моделі», – попередив Хонг. «Як тільки починається ця «гниль мозку», перенавчання з використанням чистих даних не може повністю її вилікувати».

Дослідження стало тривожним сигналом для розробників штучного інтелекту: поки світ поспішає розширити масштаби даних, ще більш тривожним є те, що ми можемо плекати «штучний мозок», який повільно гниє – не через брак інформації, а через надлишок безглуздих речей.