Zakladatel Facebooku vytváří nový model umělé inteligence.

Mateřská společnost Facebooku právě oznámila dva nové modely ve své kolekci Llama 4. Jde o stejné modely, které se v současnosti používají pro asistenta Meta AI na webu, stejně jako ve WhatsAppu, Messengeru a Instagramu, a pomáhají lidem vytvářet personalizovanější multimediální zážitky.

Dva nové modely, které jsou nyní k dispozici ke stažení z webů Meta nebo Hugging Face, jsou Llama 4 Scout a Llama 4 Maverick. Společnost Meta uvádí, že stále probíhá proces tréninku Llama 4 Behemoth, masivního modelu, který generální ředitel Mark Zuckerberg nazývá „nejvýkonnější platformou na světě “.

Podle Mety má Llama 4 Scout kontextové okno až 10 milionů tokenů, což je mnohonásobně více než model s aktuálně nejvyšším počtem tokenů, Gemini. Toto číslo představuje pracovní paměť modelu umělé inteligence.

Meta popisuje model jako lepší než Google Gemma 3 a Gemini 2.0 Flash-Lite, stejně jako Mistral 3.1, „v řadě široce publikovaných benchmarků“ a zároveň je schopen „běžet na jediné grafické kartě Nvidia H100“.

U Llama 4 Maverick společnost uvedla podobná tvrzení o výkonu při porovnání s OpenAI GPT-4o a Google Gemini 2.0 Flash. Programovací a inferenční úlohy Mavericku jsou srovnatelné s DeepSeek-V3, i když používá pouze méně než polovinu parametrů.

Údaje o nových modelech kolekce Llama 4. Foto: Meta.

Behemoth se mezitím pyšní 288 miliardami aktivních parametrů z celkových 2 bilionů. Ačkoli to ještě nebylo zveřejněno, Meta uvádí, že Behemoth má potenciál překonat své konkurenty (konkrétně GPT-4.5 a Claude Sonnet 3.7) „v několika metrikách STEM“.

Společnost Meta oznámila, že přešla na architekturu „smíšených expertů“ (MoE), tedy na stejnou architekturu, která zajistila úspěch DeepSeeku. Tento přístup šetří zdroje tím, že aktivuje pouze ty části modelu, které jsou nezbytné pro každý konkrétní úkol. Více podrobností o produktovém plánu bude oznámeno na konferenci LlamaCon 29. dubna.

Navzdory kritice ohledně licenčních omezení společnost Meta nadále označuje Llama 4 za „open source“, podobně jako její předchozí modely. Například licence Llama 4 vyžaduje, aby komerční organizace s více než 700 miliony aktivních uživatelů měsíčně získaly od společnosti Meta povolení před použitím modelu.

Podle iniciativy Open Source z roku 2023 tato nařízení „způsobila, že model již není klasifikován jako open source“.

Zdroj: https://znews.vn/cha-de-facebook-ra-mo-hinh-ai-moi-post1543744.html