Засновник Facebook створює нову модель штучного інтелекту.

Материнська компанія Facebook щойно анонсувала дві нові моделі у своїй колекції Llama 4. Це ті самі моделі, що зараз використовуються для помічника Meta AI в Інтернеті, а також у WhatsApp, Messenger та Instagram, допомагаючи людям створювати більш персоналізований мультимедійний досвід.

Дві нові моделі, які тепер доступні для завантаження на Meta або Hugging Face, – це Llama 4 Scout та Llama 4 Maverick. Meta стверджує, що компанія все ще перебуває в процесі навчання Llama 4 Behemoth, масивної моделі, яку генеральний директор Марк Цукерберг називає «найпродуктивнішою платформною моделлю у світі ».

Згідно з Meta, Llama 4 Scout має контекстне вікно до 10 мільйонів токенів, що у багато разів більше, ніж у моделі з найбільшою кількістю токенів наразі, Gemini. Це число відображає робочу пам'ять моделі штучного інтелекту.

Meta описує модель як перевершуючу Google Gemma 3 та Gemini 2.0 Flash-Lite, а також Mistral 3.1, «за низкою широко опублікованих бенчмарків», водночас здатну «працювати на одному графічному процесорі Nvidia H100».

Для Llama 4 Maverick компанія зробила аналогічні заяви про продуктивність, порівнюючи його з GPT-4o від OpenAI та Gemini 2.0 Flash від Google. Завдання програмування та логічного висновку Maverick порівнянні з DeepSeek-V3, хоча він використовує менше половини параметрів.

Цифри для нових моделей колекції Llama 4. Фото: Meta.

Тим часом Behemoth може похвалитися 288 мільярдами активних параметрів із загальної кількості 2 трильйонів. Хоча це ще не оприлюднено, Meta стверджує, що Behemoth має потенціал перевершити своїх конкурентів (зокрема GPT-4.5 та Claude Sonnet 3.7) «за кількома STEM-метриками».

Компанія Meta оголосила про перехід на архітектуру «суміші експертів» (MoE), ту саму архітектуру, яка зробила DeepSeek таким успішним. Такий підхід економить ресурси, активуючи лише ті частини моделі, які необхідні для кожного конкретного завдання. Більш детальна інформація про план продукту буде оголошена на конференції LlamaCon 29 квітня.

Незважаючи на критику щодо обмежень ліцензування, Meta продовжує називати Llama 4 «програмою з відкритим вихідним кодом», подібно до своїх попередніх моделей. Наприклад, ліцензія Llama 4 вимагає від комерційних організацій з понад 700 мільйонами активних користувачів щомісяця отримати дозвіл від Meta перед використанням моделі.

Згідно з Ініціативою відкритого коду від 2023 року, такі правила «зробили так, що модель більше не класифікується як така, що має відкритий код».

Джерело: https://znews.vn/cha-de-facebook-ra-mo-hinh-ai-moi-post1543744.html