AWS AI Factory: Förbättra AI-infrastrukturens prestanda i datacenter

Bygg dedikerad AI-infrastruktur direkt i datacentret.

I takt med att regeringar och stora organisationer försöker utöka sina projekt inom artificiell intelligens (AI) har många börjat röra sig mot konceptet "AI-fabriker" för att möta specifika behov gällande datasuveränitet och regelefterlevnad.

Att bygga en högpresterande AI-fabrik kräver dock ett omfattande system som omfattar hanteringsprocesser, databaser, lagring och säkerhet, med en komplexitet som få kunder är villiga att axla själva.

Organisationer i hårt reglerade sektorer och den offentliga sektorn står inför betydande utmaningar med AI-infrastrukturen när de driftsätter storskaliga projekt. Att bygga upp sina egna AI-funktioner kräver massiva investeringar i grafikprocessorer, datacenter och energi, samt att navigera i komplexa upphandlingsprocesser, välja rätt modell för varje användningsfall och licensiera flera AI-leverantörer.

Alla dessa faktorer gör att implementeringsprocessen drar ut på tiden i många år, ökar den operativa komplexiteten och distraherar organisationer från sina kärnverksamhetsmål.

För att möta denna utmaning lanserade AWS den 11 december AWS AI Factories, en ny tjänst som förser företag och myndigheter med en dedikerad AI-infrastruktur, direkt i kundens datacenter, som drivs exklusivt för dem.

AWS AI Factories integrerar avancerade AI-accelerationsverktyg, från den senaste NVIDIA AI-beräkningstekniken till Trainium-chip, kombinerat med snabba nätverksfunktioner med låg latens, högpresterande lagring och databaser, omfattande säkerhet, energieffektiv infrastruktur och kraftfulla AWS AI-tjänster som Amazon Bedrock och SageMaker AI.

Detta gör det möjligt för kunder att snabbt utveckla och driftsätta AI-applikationer i stor skala, vilket optimerar prestanda och möter specifika affärsbehov.

AWS AI-fabriker fungerar som separata AWS-regioner och ger säker åtkomst med låg latens till databehandling, lagring, databaser och AI-tjänster. Denna metod utnyttjar tillgängligt datacenterutrymme och kraft samtidigt som den öppnar upp åtkomst till hela AWS AI-infrastrukturen och tjänsterna, från banbrytande AI-chip för träning och inferens till verktyg för att bygga, träna och driftsätta AI-modeller.

Dessutom ger hanterade tjänster tillgång till ledande grundmodeller utan behov av separata avtal med enskilda leverantörer, samtidigt som de hjälper kunderna att fullt ut uppfylla kraven på säkerhet, datasuveränitet och regelefterlevnad gällande var data behandlas och lagras.

Med nästan två decenniers ledarskap inom molntjänster och överlägsen erfarenhet av att designa storskaliga AI-system kan AWS driftsätta säker och pålitlig AI-infrastruktur mycket snabbare än de flesta organisationer kan bygga den själva, vilket sparar åratal av arbete och avsevärt minskar den operativa komplexiteten.

Det 15-åriga partnerskapet mellan AWS och NVIDIA

Samarbetet mellan AWS och NVIDIA började för 15 år sedan, när AWS lanserade världens första GPU-moln. Sedan dess har AWS försett kunderna med den mest varierade portföljen av GPU-lösningar.

AWS och NVIDIA bygger vidare på ett långvarigt partnerskap för att leverera avancerad AI-infrastruktur och hjälper kunder att bygga och köra storskaliga språkmodeller snabbare, effektivare och säkrare än någon annanstans, direkt i sina egna datacenter.

Med integrationen mellan NVIDIA och AWS AI Factories får AWS-kunder sömlös åtkomst till NVIDIAs accelererade datorplattform, en omfattande AI-programvarusvit och tusentals GPU-accelererade applikationer, vilket ger överlägsen prestanda, hög effektivitet och flexibel skalbarhet för att utveckla nästa generations AI-lösningar.

De två sidorna fortsätter att kombinera banbrytande teknik: AWS Nitro System, petabit-skaligt Elastic Fabric Adapter (EFA)-nätverk och Amazon EC2 UltraClusters som stöder de senaste NVIDIA Grace Blackwell- och nästa generations NVIDIA Vera Rubin-plattformar.

I framtiden kommer AWS att lägga till stöd för NVIDIA NVLink Fusion höghastighetschipanslutningsteknik till nästa generations Trainium4- och Graviton-chip, såväl som i Nitro Systems. Denna integration hjälper kunder att förkorta tiden till marknaden samtidigt som de uppnår överlägsen prestanda.

Ian Buck, vice vd och chef för hyperskala och HPC-beräkning på NVIDIA, delade: ”Storskalig AI kräver en helhetssyn från avancerade grafikprocessorer och nätverksinfrastruktur till programvara och tjänster som optimerar varje lager i datacentret. Tillsammans med AWS tar vi alla dessa element direkt in i våra kunders miljöer.”

”Genom att kombinera NVIDIAs senaste Grace Blackwell- och Vera Rubin-arkitekturer med AWS säkra, högpresterande infrastruktur och omfattande AI-programvarusvit, hjälper AWS AI Factories organisationer att driftsätta kraftfulla AI-funktioner på en bråkdel av tiden, samtidigt som de helt fokuserar på innovation istället för att oroa sig för integration”, säger Ian Buck.

Stödja den offentliga sektorn för att påskynda implementeringen av AI.

AWS AI Factories är utformade för att uppfylla AWS strängaste säkerhetsstandarder, vilket ger myndighetskunder största möjliga förtroende för att köra känsliga arbetsbelastningar på alla klassificeringsnivåer: Oklassificerad, Känslig, Klassificerad och Topphemlig.

Samtidigt förser AWS AI Factories regeringar världen över med den beredskap, tillförlitlighet, säkerhet och kontroll som behövs för att driva ekonomisk tillväxt och maximera fördelarna med AI-teknik.

AWS och NVIDIA samarbetar strategiskt med HUMAIN, ett globalt företag baserat i Saudiarabien som specialiserar sig på att utveckla omfattande AI-funktioner.

Som en del av detta samarbete kommer AWS att bygga den första banbrytande "AI-zonen" i Saudiarabien, med en skala på upp till 150 000 AI-chip, inklusive GB300 GPU:er, AWS dedikerade AI-infrastruktur och AWS AI-tjänster, allt distribuerat i ett specialdesignat datacenter av HUMAIN.

Tareq Amin, VD för HUMAIN, delade: ”AI-fabriken som AWS bygger i vår nya AI-zon markerar början på en resa på flera gigawatt för HUMAIN och AWS. Från början har denna infrastruktur utformats för att tillgodose både de accelererande AI-beräkningsbehoven lokalt och globalt.”

”Genom vårt gemensamma engagemang för att expandera globala marknader skapar vi ett ekosystem som kommer att forma framtiden för hur AI-idéer byggs, distribueras och skalas upp över hela världen”, tillade Tareq Amin.

Nguyen Bao

Källa: https://nhandan.vn/nha-may-tri-tue-nhan-tao-aws-nang-cao-hieu-nang-ha-tang-ai-trong-trung-tam-du-lieu-post929637.html