AWS AI Factory: Zlepšení výkonu infrastruktury umělé inteligence v datových centrech

Vybudujte si specializovanou infrastrukturu umělé inteligence přímo v datovém centru.

Vzhledem k tomu, že vlády a velké organizace se snaží rozšířit projekty umělé inteligence (AI), mnoho z nich se začalo přiklánět ke konceptu „továren AI“, aby splnily specifické potřeby týkající se datové suverenity a dodržování předpisů.

Vybudování vysoce výkonné továrny umělé inteligence však vyžaduje komplexní systém zahrnující procesy řízení, databáze, úložiště a zabezpečení, což je složitost, kterou je jen málo zákazníků ochotno nést na vlastních bedrech.

Organizace v silně regulovaných sektorech a ve veřejném sektoru čelí při zavádění rozsáhlých projektů značným výzvám v oblasti infrastruktury umělé inteligence. Budování vlastních kapacit umělé inteligence vyžaduje masivní investice do grafických procesorů, datových center a energie, stejně jako zvládání složitých procesů zadávání veřejných zakázek, výběr správného modelu pro každý případ použití a licencování více dodavatelů umělé inteligence.

Všechny tyto faktory způsobují, že se proces implementace protahuje po mnoho let, zvyšují provozní složitost a odvádějí pozornost organizací od jejich hlavních obchodních cílů.

Aby se společnost AWS s touto výzvou vypořádala, spustila 11. prosince novou službu AWS AI Factories, která poskytuje firmám a vládám specializovanou infrastrukturu umělé inteligence přímo v datovém centru zákazníka a je provozována výhradně pro ně.

AWS AI Factories integruje pokročilé nástroje pro akceleraci umělé inteligence, od špičkové výpočetní technologie NVIDIA AI až po čipy Trainium, v kombinaci s vysokorychlostními síťovými funkcemi s nízkou latencí, vysoce výkonným úložištěm a databázemi, komplexním zabezpečením, energeticky úspornou infrastrukturou a výkonnými službami AWS AI, jako jsou Amazon Bedrock a SageMaker AI.

To umožňuje zákazníkům rychle vyvíjet a nasazovat aplikace umělé inteligence ve velkém měřítku, optimalizovat výkon a splňovat specifické obchodní potřeby.

AWS AI Factories fungují jako samostatné regiony AWS a poskytují bezpečný a nízkolatenční přístup k výpočetnímu výkonu, úložišti, databázím a službám umělé inteligence. Tento přístup využívá dostupný prostor a výkon datových center a zároveň otevírá přístup ke kompletní infrastruktuře a službám umělé inteligence AWS, od špičkových čipů umělé inteligence pro trénování a inferenci až po nástroje pro vytváření, trénování a nasazování modelů umělé inteligence.

Spravované služby navíc poskytují přístup k předním základním modelům bez nutnosti samostatných smluv s jednotlivými poskytovateli a zároveň pomáhají zákazníkům plně splňovat požadavky na zabezpečení, datovou suverenitu a dodržování předpisů týkajících se toho, kde jsou data zpracovávána a ukládána.

Díky téměř dvěma desetiletím vedoucí pozice v oblasti cloud computingu a vynikajícím zkušenostem s návrhem rozsáhlých systémů umělé inteligence dokáže AWS nasadit bezpečnou a spolehlivou infrastrukturu umělé inteligence mnohem rychleji, než si ji většina organizací dokáže vybudovat sama, což šetří roky úsilí a výrazně snižuje provozní složitost.

Patnáctileté partnerství mezi AWS a NVIDIA

Vztah mezi AWS a NVIDIA začal před 15 lety, kdy AWS spustila první cloud pro grafické procesory na světě . Od té doby AWS poskytuje zákazníkům nejrozmanitější portfolio řešení pro grafické procesory.

AWS a NVIDIA staví na dlouhodobém partnerství v oblasti poskytování pokročilé infrastruktury umělé inteligence a pomáhají zákazníkům vytvářet a provozovat rozsáhlé jazykové modely rychleji, efektivněji a bezpečněji než kdekoli jinde, a to přímo v jejich vlastních datových centrech.

Díky integraci NVIDIA-AWS AI Factories získají zákazníci AWS bezproblémový přístup k akcelerované výpočetní platformě NVIDIA, komplexní sadě softwaru pro umělou inteligenci a tisícům aplikací akcelerovaných GPU, což jim poskytuje vynikající výkon, vysokou efektivitu a flexibilní škálovatelnost pro vývoj řešení umělé inteligence nové generace.

Obě strany i nadále kombinují špičkové technologie: systém AWS Nitro, síťové prvky Elastic Fabric Adapter (EFA) v petabitovém měřítku a klastry Amazon EC2 UltraClusters s podporou nejnovějších platforem NVIDIA Grace Blackwell a NVIDIA Vera Rubin nové generace.

V budoucnu AWS přidá podporu pro technologii vysokorychlostního připojení čipů NVIDIA NVLink Fusion do čipů Trainium4 a Graviton nové generace a také do systémů Nitro. Tato integrace pomáhá zákazníkům zkrátit dobu uvedení na trh a zároveň dosáhnout vynikajícího výkonu.

Ian Buck, viceprezident a generální ředitel pro hyperscale a HPC výpočetní techniku ve společnosti NVIDIA, uvedl: „Rozsáhlá umělá inteligence vyžaduje holistický přístup od pokročilých GPU a síťové infrastruktury až po software a služby, které optimalizují každou vrstvu datového centra. Společně s AWS přinášíme všechny tyto prvky přímo do prostředí našich zákazníků.“

„Kombinací nejnovějších architektur Grace Blackwell a Vera Rubin od NVIDIA s bezpečnou a vysoce výkonnou infrastrukturou a komplexní sadou softwaru pro umělou inteligenci od AWS pomáhá AWS AI Factories organizacím nasadit výkonné funkce umělé inteligence za zlomek času a zároveň se soustředit výhradně na inovace, místo aby se musely starat o integraci,“ uvedl Ian Buck.

Podpora veřejného sektoru s cílem urychlit zavádění umělé inteligence.

Továrny AWS AI Factories jsou navrženy tak, aby splňovaly nejpřísnější bezpečnostní standardy AWS, a poskytují tak zákazníkům z vládního sektoru maximální jistotu při provozování citlivých úloh na všech úrovních utajení: Neutajované, Citlivé, Utajované a Přísně tajné.

Zároveň AWS AI Factories poskytuje vládám po celém světě připravenost, spolehlivost, zabezpečení a kontrolu potřebnou k podpoře hospodářského růstu a maximalizaci výhod technologie umělé inteligence.

Společnosti AWS a NVIDIA strategicky spolupracují se společností HUMAIN, globální společností se sídlem v Saúdské Arábii, která se specializuje na vývoj komplexních funkcí umělé inteligence.

V rámci této spolupráce společnost AWS vybuduje v Saúdské Arábii první průkopnickou „zónu umělé inteligence“ s rozsahem až 150 000 čipů umělé inteligence, včetně grafických procesorů GB300, specializované infrastruktury umělé inteligence AWS a služeb umělé inteligence AWS, to vše nasazené ve speciálně navrženém datovém centru společností HUMAIN.

Tareq Amin, generální ředitel společnosti HUMAIN, se podělil: „Továrna umělé inteligence, kterou AWS staví v naší nové zóně umělé inteligence, představuje pro HUMAIN a AWS začátek cesty k vícegigawattové výrobě. Tato infrastruktura byla od samého začátku navržena tak, aby sloužit jak rostoucím potřebám v oblasti výpočetní techniky umělé inteligence na místní, tak i globální úrovni.“

„Díky našemu společnému závazku k rozšiřování globálních trhů vytváříme ekosystém, který bude formovat budoucnost toho, jak se budou nápady v oblasti umělé inteligence vytvářet, nasazovat a škálovat po celém světě,“ dodal Tareq Amin.

NGUYEN BAO

Zdroj: https://nhandan.vn/nha-may-tri-tue-nhan-tao-aws-nang-cao-hieu-nang-ha-tang-ai-trong-trung-tam-du-lieu-post929637.html