ИИ учится мечтать и забывать, как люди

(Дэн Три) - Для искусственного интеллекта (ИИ) знание того, что нужно помнить, так же важно, как и знание того, что нужно забыть.

Искусственный интеллект, научившийся видеть сны, больше не является научной фантастикой (Иллюстрация: WIRED).

Пока человеческий мозг неустанно трудится над фильтрацией и объединением воспоминаний во время глубокого сна, ученые работают над тем, чтобы оснастить искусственный интеллект (ИИ) аналогичными возможностями.

Это обещает открыть новую эру для ИИ, где он сможет учиться, запоминать и даже «забывать» гораздо эффективнее.

«Расчёт времени сна» для ИИ

Компания Bilt, предлагающая льготы арендаторам, стала пионером в развертывании миллионов «агентов ИИ» с использованием технологий стартапа Letta.

Эти агенты предназначены для обучения на основе прошлых разговоров и обмена воспоминаниями друг с другом. С помощью процесса, называемого «вычислениями во сне», ИИ автоматически решает, какую информацию необходимо хранить долго, а какую — быстро извлечь.

«Обновление одного блока памяти может изменить поведение миллионов агентов. Это чрезвычайно полезно, когда у вас есть строгий контроль над информацией, которую ИИ использует для реагирования», — объясняет Эндрю Фиц, инженер по ИИ в Bilt.

Преодоление ограничения «кратковременной памяти» LLM

Это значительное улучшение по сравнению с текущими моделями большого языка (LLM), которым присуща слабость «кратковременной памяти». LLM могут «запоминать» информацию только в ограниченном контекстном окне, и когда объём информации превышает этот предел, они склонны к деградации, галлюцинациям или спутанности сознания.

Чарльз Пакер, генеральный директор Letta, сравнил это так: «Ваш мозг постоянно совершенствуется, впитывая информацию, как губка. С языковыми моделями всё наоборот. Если оставить их работать достаточно долго, контекст станет „отравленным“, и они могут реагировать на информацию, которая не нужна пользователю».

Пакер и соучредитель Сара Вудерс ранее разработали MemGPT — проект с открытым исходным кодом, который помогает магистрам права (LLM) выбирать, хранить ли информацию в краткосрочной или долгосрочной памяти. С помощью Letta они вывели этот подход на новый уровень, позволяя агентам непрерывно обучаться в фоновом режиме.

Тенденция оснащения ИИ реальной памятью

Усилия Билта и Летты являются частью более широкой тенденции по оснащению ИИ реальной памятью, что делает чат-ботов более умными, а автоматизированных агентов менее подверженными ошибкам.

«Я рассматриваю память как неотъемлемую часть контекстной инженерии», — говорит Харрисон Чейз, генеральный директор LangChain, ещё одного пионера в области памяти для ИИ. «Важная часть работы инженера ИИ заключается в том, чтобы предоставить модели нужную информацию в нужное время».

Инструменты ИИ общего назначения также становятся менее забывчивыми. В феврале OpenAI объявила, что ChatGPT начнёт хранить информацию для обеспечения более персонализированного взаимодействия. Такие компании, как Letta и LangChain, делают этот процесс более прозрачным для разработчиков.

«Я думаю, невероятно важно, чтобы были открыты не только модели, но и система хранения данных», — сказал Клем Деланг, генеральный директор платформы искусственного интеллекта Hugging Face и инвестор Letta.

Искусство забывать

Гораздо интереснее научить ИИ искусству забывать. «Если пользователь говорит: „Проект, над которым мы работаем, давайте сотрём его из вашей памяти“, агент должен иметь возможность вернуться к нему и выборочно перезаписать каждое воспоминание», — говорит генеральный директор Letta Пакер.

Идея искусственного интеллекта с памятью, способного видеть сны и забывать, напоминает классический роман Филипа К. Дика «Мечтают ли андроиды об электроовцах?»

Сегодняшние большие языковые модели, возможно, пока не столь мятежны, как роботы в романе, но их память, похоже, становится столь же сложной и хрупкой.

Источник: https://dantri.com.vn/cong-nghe/ai-dang-hoc-cach-mo-va-quen-giong-nhu-con-nguoi-20250822112914458.htm