Риск «деградации мышления» из-за неправильного использования ИИ.

DNVN - Недавние исследования бьют тревогу по поводу непредсказуемых последствий растущей зависимости человечества от искусственного интеллекта (ИИ), особенно от больших языковых моделей (ЛСМ), таких как ChatGPT.

Иллюстративное изображение.

Искусственный интеллект присутствует практически во всех аспектах человеческой жизни, от повседневной деятельности до производства, образования , исследований и творчества. ИИ помогает людям оптимизировать процессы, повышать эффективность и сокращать трудозатраты. Взрывной рост ИИ продемонстрировал непрерывный рост применения технологий машинного обучения и больших данных, выведя искусственный интеллект на новый уровень развития.

Несмотря на эти огромные преимущества, ИИ рискует превратить сам процесс создания знаний в замкнутый цикл, угрожая инновациям и вызывая «деградацию» человеческого мышления.

По мнению экспертов, непосредственной выгоды от использования ИИ может обернуться потерей интеллектуальных ресурсов в долгосрочной перспективе.

Снижение функций мозга и «когнитивный долг»

Четырехмесячное исследование Массачусетского технологического института (MIT) пролило свет на серьезные последствия чрезмерного использования ИИ для человеческого мозга. Исследование, в котором приняли участие 54 человека, написавших эссе, показало, что зависимость от инструментов ИИ может ухудшить работу мозга и навыки критического мышления.

Используя технологию электроэнцефалографии (ЭЭГ), исследователи записали мозговую активность участников. Результаты оказались поразительными: группа, использовавшая инструмент на основе искусственного интеллекта, продемонстрировала значительно отличающиеся нейронные паттерны по сравнению с группой, которая только мысленно писала. У этой группы было обнаружено до 55% меньше нейронных связей, чем у группы, которая только мысленно записывала информацию, особенно в областях, отвечающих за глубокое мышление и формирование памяти.

Исследователи называют это явление «когнитивным долгом». Подобно финансовому долгу, который позволяет нам пользоваться текущими благами, но нести издержки в будущем, когнитивный долг возникает, когда мы делегируем интеллектуальные усилия внешним системам, что приводит к атрофии наших умственных способностей из-за бездействия. При злоупотреблении ИИ может превратить людей в пассивных потребителей, лишив их способности мыслить независимо.

Последствия снижения когнитивных функций очевидны:

Нарушение памяти : В первом сеансе исследования MIT целых 83% пользователей ИИ не смогли процитировать собственные тексты, и никто не предоставил точную цитату. Даже после нескольких сеансов многие по-прежнему испытывали трудности с этой элементарной задачей.

Ослабление критического мышления : использование ИИ приводит к «поверхностному вовлечению» и ослабляет навыки критического мышления, потенциально способствуя прокрастинации и лени.

Снижение мозговой активности : У людей, писавших эссе с помощью ИИ, наблюдалось значительно меньшее снижение мозговой активности, особенно в областях, связанных с памятью, критическим мышлением и исполнительными функциями.

Кризис создания знаний и «крах модели»

Проблема с LLM-системами заключается не в их способностях к синтезу, а в том, что они умеют лишь перерабатывать уже существующие данные. Эти системы не генерируют новые знания; они в основном используют существующие данные и перераспределяют их.

В отличие от людей, которые постоянно ищут новые направления, руководствуясь различными мотивами, такими как деньги, слава, любопытство или стремление к знаниям, ИИ не способен создавать «новизну». Когда ИИ сможет отвечать практически на любой сложный вопрос всего за несколько секунд, вознаграждение за человеческое творчество постепенно исчезнет.

Утрату динамики продемонстрировал пример Stack Overflow, форума, где программисты обмениваются знаниями: всего за 6 месяцев после появления ChatGPT количество вопросов на платформе сократилось более чем на 25%, а сейчас уменьшилось на 90%. Это потеря «живой базы знаний», где каждый ответ проверялся, обсуждался и дополнялся.

Ранее данные с таких платформ, как Stack Overflow, служили источником обучения для инструментов искусственного интеллекта. По мере того, как этот источник знаний иссякает, ИИ будет все чаще повторять то, что он уже создал.

Это явление известно как «коллапс модели». Исследователи предупреждают, что когда модели обучаются преимущественно на данных, сгенерированных самим ИИ, качество знаний постепенно ухудшается, теряя способность отражать разнообразие и точность реального мира . Профессор Ханна Ли из Колумбийского университета заключает: «В итоге они будут становиться хуже. Модели будут становиться хуже».

Риски гомогенизации и повторного использования знаний.

Помимо снижения индивидуального самосознания, злоупотребление ИИ также приводит к гомогенизации знаний. Эссе, написанные с помощью ИИ, демонстрируют поразительное сходство, выявляя «статистически однородные» закономерности. Это создает своего рода интеллектуальную монокультуру, где различные человеческие точки зрения фильтруются через одну и ту же алгоритмическую линзу, потенциально подавляя творческое разнообразие.

Искусственный интеллект, как правило, делает упор на общие закономерности в данных, постепенно упуская из виду редкую информацию, уникальные детали или данные, скрытые в тени статистики. Если эта тенденция сохранится, Интернет, богатый источник информации, рискует превратиться в мир, где знания будут утрачены. Человечество может вступить в эпоху «переработки знаний», когда инновации застопорятся, а вознаграждение за новые творения будет становиться все более неочевидным.

Искусственный интеллект — мощный инструмент, но он требует стратегического подхода. Исследователи из Массачусетского технологического института обнаружили обнадеживающий признак: участники, которые до использования ИИ обладали прочной когнитивной базой, смогли более эффективно его применять, при этом после введения ИИ наблюдалось даже увеличение нейронной активности. Они использовали ИИ как настоящего помощника, а не просто как вспомогательный инструмент.

Человеческие знания формируются благодаря усилиям, любопытству и смелости исследовать неизведанное. Однако, если мы превратим ИИ в единственную «железную дорогу», мы рискуем попасть в порочный круг, где и люди, и машины будут лишь повторять то, что уже было сделано.

Хьен Тао

Источник: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291