Technologičtí giganti Alibaba, Baidu a ByteDance se předhánějí v podkopávání nákladů na „inferenční“ umělou inteligenci a nabízejí ceny, které jsou o 90 % nižší než ceny nabízené jejich americkými protějšky.
Firmy z pevninské Číny snižují náklady vytvářením modelů trénovaných na menším množství dat, což vyžaduje menší výpočetní výkon, ale optimalizovaný hardware, uvedl Lee Kai-Fu, zakladatel 01.ai a bývalý šéf Google China.
Podle žebříčku, který nedávno zveřejnily UC Berkeley SkyLab a LMSYS, se model Yi-Lingtninga ze startupu 01.ai umístil na třetím místě, dělí se o Grok-2 od x.AI, za OpenAI a Google. Toto hodnocení je založeno na skóre uživatelů v odpovědích na dotazy.
01.ai a DeepSeek jsou pevninské společnosti zabývající se umělou inteligencí, které přijímají strategii zaměření se na menší datové sady pro trénování modelů a zároveň najímají levnou a vysoce kvalifikovanou pracovní sílu.
FT uvedl, že náklady na odvození u Yi-Lightning jsou 14 centů na milion tokenů, ve srovnání s 26 centy u GPT o1-mini od OpenAI. GPT 4o naopak stojí až 4,40 dolarů na milion tokenů. Počet tokenů použitých k vygenerování odpovědi závisí na složitosti každého dotazu.
Zakladatelé společnosti Yi-Lightning prozradili, že společnost utratila 3 miliony dolarů za „počáteční školení“ a poté provedla doladění pro různé případy použití. Lee uvedl, že jejich cílem nebylo „vytvořit nejlepší model“, ale postavit konkurenční model, který by byl „5–10krát levnější“.
Metoda, kterou použily společnosti 01.ai, DeepSeek, MiniMax a Stepfun, se nazývá „expertní modelování“ – což jednoduše znamená kombinaci více neuronových sítí trénovaných na datových sadách specifických pro danou doménu.
Výzkumníci považují tento přístup za klíčový způsob, jak dosáhnout stejné úrovně inteligence jako u modelů velkých dat, ale s menším výpočetním výkonem. Problém s tímto přístupem však spočívá v tom, že inženýři musí koordinovat proces školení s „více experty“ namísto pouze jednoho obecného modelu.
Kvůli obtížím s přístupem k špičkovým čipům umělé inteligence se čínské společnosti zaměřily na vývoj vysoce kvalitních datových sad, které lze použít k trénování expertních modelů, a tím konkurovat západním konkurentům.
Lee uvedl, že 01.ai má netradiční způsoby sběru dat, jako je skenování knih nebo sběr článků v aplikaci pro zasílání zpráv WeChat, které nejsou dostupné na otevřeném webu.
Zakladatel se domnívá, že Čína je v lepší pozici než USA s obrovským množstvím levných technických talentů.
(Podle FT, Bloomberg)
Zdroj: https://vietnamnet.vn/trung-quoc-giam-90-chi-phi-ai-suy-luan-so-voi-my-2334520.html
Komentář (0)