Основатель Facebook выпускает новую модель ИИ

Материнская компания Facebook только что анонсировала две новые модели в коллекции Llama 4. Это та же модель, которая используется для помощника Meta AI в Интернете, а также в WhatsApp, Messenger и Instagram, помогая людям создавать более персонализированные мультимедийные впечатления.

Две новые модели, которые теперь доступны для загрузки на Meta или Hugging Face, — это Llama 4 Scout и Llama 4 Maverick. Meta сообщает, что все еще находится в процессе обучения Llama 4 Behemoth, огромной модели, которую генеральный директор Марк Цукерберг называет «самой эффективной платформенной моделью в мире ».

По данным Meta, контекстное окно Llama 4 Scout составляет до 10 миллионов токенов, что во много раз больше, чем у модели с самым большим числом токенов на данный момент — Gemini. Это число представляет собой рабочую память модели ИИ.

Meta описывает модель как превосходящую Gemma 3 и Gemini 2.0 Flash-Lite от Google, а также Mistral 3.1 «на многих популярных общедоступных тестах», при этом способную «работать на одном графическом процессоре Nvidia H100».

Для Llama 4 Maverick компания делает аналогичные заявления о производительности по сравнению с OpenAI GPT-4o и Google Gemini 2.0 Flash. Задачи программирования и вывода Maverick сопоставимы с DeepSeek-V3, несмотря на то, что используется менее половины параметров.

Фигурки новых моделей коллекции Llama 4. Фото: Мета.

Между тем, у Behemoth 288 миллиардов активных параметров из 2000 миллиардов параметров. Meta утверждает, что Behemoth, хотя он еще не выпущен, способен превзойти своих конкурентов (в частности, GPT-4.5 и Claude Sonnet 3.7) «по ряду показателей в области STEM».

Компания Meta сообщает, что перешла на архитектуру «смешанных экспертов» (MoE), ту же самую архитектуру, которая сделала DeepSeek успешным. Метод экономит ресурсы, активируя только те части модели, которые необходимы для каждой конкретной задачи. Более подробная информация о планах по выпуску продукции будет объявлена ​​на конференции LlamaCon, которая состоится 29 апреля.

Несмотря на критику по поводу ограничений лицензирования, Meta называет Llama 4 «проектом с открытым исходным кодом», как и предыдущие модели. Например, лицензия Llama 4 требует, чтобы коммерческие организации с более чем 700 миллионами активных пользователей в месяц получали разрешение от Meta перед использованием модели.

По данным Open Source Initiative, в 2023 году такое регулирование «делает модель более не имеющей открытого исходного кода».

Источник: https://znews.vn/cha-de-facebook-ra-mo-hinh-ai-moi-post1543744.html