Эксперт по искусственному интеллекту покинул OpenAI — компанию, одним из основателей которой он был, — в начале этого года, чтобы основать собственную лабораторию искусственного интеллекта под названием Safe Superintelligence Inc.

«Предварительная подготовка в том виде, в каком мы ее знаем, прекратит свое существование», — заявил Суцкевер на конференции по обработке нейронной информации.

Термин «предварительное обучение» относится к раннему этапу разработки модели ИИ, когда большая языковая модель изучает закономерности на основе больших объемов немаркированных данных, часто текстов из Интернета, книг и других источников.

Исчерпание ресурсов данных

Суцкевер заявил, что, хотя он считает, что текущие данные все еще могут ускорить разработку ИИ, у отрасли заканчиваются новые ресурсы для обучения моделей.

По его словам, это в конечном итоге приведет к изменению современного способа обучения моделей ИИ.

8da2491217a6b424c37773100bec59ff.jpeg
Модели ИИ научатся обучаться на основе ограниченного объёма данных. Фото: Yahoo Tech

Аналогичная ситуация имела место и продолжает иметь место с ископаемыми ресурсами, когда нефтяные месторождения представляют собой ограниченный ресурс или когда Интернет содержит лишь ограниченное количество созданного человеком контента.

«Мы достигли пика данных, и в будущем его больше не будет», — сказал Суцкевер. «Мы должны работать с имеющимися данными, источником которых является интернет».

Суцкевер прогнозирует, что модели следующего поколения будут «по-настоящему подобны агентам». «Агент» — модное слово в области ИИ, обычно понимаемое как автономная система ИИ, которая самостоятельно выполняет задачи, принимает решения и взаимодействует с программным обеспечением.

По его словам, будущие системы ИИ не только будут «подобны агентам», но и смогут рассуждать. В отличие от нынешнего ИИ, который в основном распознаёт закономерности, основанные на том, чему модель научилась ранее, будущие системы ИИ смогут решать задачи шаг за шагом, ближе к мышлению. «Чем больше рассуждений, тем менее предсказуемой становится система», — сказал Суцкевер.

ИИ может создать собственный способ обучения

Эксперт также сравнил развитие систем ИИ с эволюционной биологией, сославшись на исследования, показывающие взаимосвязь между размером мозга и тела у животных.

Например, в то время как большинство млекопитающих следуют определенному пропорциональному шаблону, у людей пропорции мозга и тела существенно отличаются.

И в какой-то момент, когда эволюция найдет новые темпы роста мозга наших предков, ИИ также может найти новые способы масштабирования, превзойдя современные способы обучения моделей.

(По данным TheVerge, Yahoo Tech)

Раскрывая «заоблачные» зарплаты xAI и OpenAI , Илон Маск обвинил OpenAI в слишком высокой оплате труда сотрудников, назвав это нарушением конкуренции. Однако стартап миллиардера xAI также платит гораздо больше, чем обычно.