Соучредитель OpenAI рассказывает о суперИИ

Андрей Карпати, сооснователь OpenAI. Фото: Дваркеш Патель .

В то время как многие в технологической индустрии считают, что искусственный интеллект общего назначения (ИИО) вот-вот станет реальностью, Андрей Карпати, известный учёный , занимавший пост директора по ИИ в Tesla и соучредителя OpenAI, придерживается иной точки зрения. Он считает, что путь к ИИО ещё долог, и миру потребуется как минимум ещё десятилетие, чтобы преодолеть фундаментальные трудности.

«Проблемы решаемы, хотя сейчас они сложны. Думаю, потребуется около десяти лет, чтобы преодолеть все нынешние ограничения», — сказал Карпати в недавнем разговоре.

Ценный урок

По словам г-на Карпати, стремительное развитие больших языковых моделей (LLM) в последние годы привело многих к мысли о наступлении эры «ИИ-агентов» — систем с автономными возможностями. Однако бывший руководитель подразделения ИИ в Tesla не согласен с этим мнением. Он считает, что 2025 год не станет «годом ИИ-агентов».

Он объясняет, что такие инструменты, как Claude и Codex, демонстрируют потенциальную помощь людям в решении многих задач, но они все еще далеки от того, чтобы считаться «цифровыми коллегами».

«Сейчас ИИ-агенты недостаточно умны, они не используют компьютеры естественным образом и не способны к постоянному обучению. Нельзя сказать им что-то и ожидать, что они это запомнят. Им не хватает когнитивных способностей, и именно это мешает моделям работать по-настоящему», — сказал Карпати.

Карпати занимал должность директора по искусственному интеллекту в Tesla. Фото: Teslarati .

Карпати говорит, что за свою 15-летнюю карьеру в сфере искусственного интеллекта он стал свидетелем множества поворотных моментов, изменивших всю отрасль. Он учился и работал с Джеффри Хинтоном, отцом нейронных сетей, в Университете Торонто, когда глубокое обучение было ещё относительно малоизвестной областью исследований. Успех AlexNet в 2012 году ознаменовал начало новой эры в развитии искусственного интеллекта, сделав нейронные сети основой для многих будущих приложений.

После волны глубокого обучения индустрия искусственного интеллекта постепенно переключилась на создание агентов, способных наблюдать, действовать и учиться на основе окружающей среды. Одним из первых экспериментов было глубокое обучение с подкреплением в игре Atari, проведённое примерно в 2013 году. Хотя в то время это считалось новаторским, он считает, что это направление было «ошибкой по времени».

«Понятно, что люди хотят экспериментировать в игровой среде, где всё легко моделировать и измерять. Но она не отражает реальный мир . Если позволить ИИ просто печатать на клавиатуре, щёлкать мышью и ждать награды, он ничему существенному не научится», — сказал он.

Неподходящее время

Работая в OpenAI, Карпати работал над проектом «Вселенная» — попыткой создать управляемого мышью и клавиатурой агента, способного выполнять реальные задачи. Однако он признаёт, что проект был «слишком ранним».

«У нас пока нет мощи нейронных сетей и крупной платформы моделирования языка, которая есть сегодня», — сказал Карпати.

Карпати считает, что на разработку ОИИ потребуется десятилетие. Фото: Видья .

Ученый добавил, что для создания по-настоящему интеллектуального агента модели должны иметь прочную основу в области языкового представления и когнитивных способностей. Карпати сравнил процесс предварительного обучения на интернет-данных с некой формой «плохой эволюции». Однако этот процесс помогает ИИ накапливать огромный объём знаний и базовые навыки рассуждения.

Однако он предупреждает, что чрезмерная опора на существующие знания может сделать ИИ менее креативным. «Возможно, нам нужно найти способ избавиться от части знаний и оставить то, что мы называем когнитивным ядром, то есть ту часть, которая отвечает за способность мыслить, решать проблемы и разрабатывать стратегии», — сказал Карпати.

Соответственно, ИИ вступает в переходную фазу. Сочетание мощи языковых моделей и способности агентов к действию откроет новую главу в развитии технологий. Однако, по словам Карпати, этот путь невозможно просчитать всего за несколько лет.

Источник: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html