AWS AI Factory: De prestaties van AI-infrastructuur in datacenters verbeteren

Bouw een speciale AI-infrastructuur direct in het datacenter.

Naarmate overheden en grote organisaties hun projecten op het gebied van kunstmatige intelligentie (AI) willen uitbreiden, zijn velen begonnen met het concept van "AI-fabrieken" om te voldoen aan specifieke behoeften met betrekking tot datasoevereiniteit en naleving van regelgeving.

Het bouwen van een hoogwaardige AI-fabriek vereist echter een allesomvattend systeem dat beheerprocessen, databases, opslag en beveiliging omvat, met een complexiteit die maar weinig klanten zelf willen dragen.

Organisaties in sterk gereguleerde sectoren en de publieke sector staan voor aanzienlijke uitdagingen op het gebied van AI-infrastructuur bij de implementatie van grootschalige projecten. Het opbouwen van eigen AI-capaciteiten vereist enorme investeringen in GPU's, datacenters en energie, evenals het doorlopen van complexe aanbestedingsprocessen, het selecteren van het juiste model voor elk gebruiksscenario en het verkrijgen van licenties van meerdere AI-leveranciers.

Al deze factoren zorgen ervoor dat het implementatieproces jarenlang aansleept, de operationele complexiteit toeneemt en organisaties worden afgeleid van hun kernbedrijfsdoelstellingen.

Om deze uitdaging aan te gaan, lanceerde AWS op 11 december AWS AI Factories, een nieuwe dienst die bedrijven en overheden een speciale AI-infrastructuur biedt, direct in het datacenter van de klant, die exclusief voor hen wordt beheerd.

AWS AI Factories integreert geavanceerde tools voor AI-acceleratie, van de allernieuwste NVIDIA AI-computingtechnologie tot Trainium-chips, in combinatie met snelle netwerkmogelijkheden met lage latentie, krachtige opslag en databases, uitgebreide beveiliging, energiezuinige infrastructuur en krachtige AWS AI-services zoals Amazon Bedrock en SageMaker AI.

Dit stelt klanten in staat om snel AI-toepassingen op grote schaal te ontwikkelen en te implementeren, de prestaties te optimaliseren en aan specifieke zakelijke behoeften te voldoen.

AWS AI Factories functioneren als afzonderlijke AWS-regio's en bieden veilige toegang met lage latentie tot rekenkracht, opslag, databases en AI-services. Deze aanpak maakt optimaal gebruik van de beschikbare datacenterruimte en -capaciteit, terwijl tegelijkertijd toegang wordt geboden tot de volledige AWS AI-infrastructuur en -services, van geavanceerde AI-chips voor training en inferentie tot tools voor het bouwen, trainen en implementeren van AI-modellen.

Bovendien bieden beheerde services toegang tot toonaangevende basismodellen zonder dat er aparte contracten met individuele leveranciers nodig zijn, en helpen ze klanten volledig te voldoen aan de eisen op het gebied van beveiliging, gegevenssoevereiniteit en wettelijke naleving met betrekking tot waar gegevens worden verwerkt en opgeslagen.

Met bijna twintig jaar leiderschap in cloudcomputing en superieure ervaring in het ontwerpen van grootschalige AI-systemen, kan AWS een veilige en betrouwbare AI-infrastructuur veel sneller implementeren dan de meeste organisaties dat zelf kunnen. Dit bespaart jaren aan inspanningen en vermindert de operationele complexiteit aanzienlijk.

Het 15-jarige partnerschap tussen AWS en NVIDIA

De relatie tussen AWS en NVIDIA begon 15 jaar geleden, toen AWS 's werelds eerste GPU-cloud lanceerde. Sindsdien heeft AWS klanten voorzien van het meest diverse portfolio aan GPU-oplossingen.

Voortbouwend op een langdurig partnerschap voor het leveren van geavanceerde AI-infrastructuur, helpen AWS en NVIDIA klanten om grootschalige taalmodellen sneller, efficiënter en veiliger te bouwen en uit te voeren dan waar ook ter wereld, rechtstreeks binnen hun eigen datacenters.

Met de NVIDIA-AWS AI Factories-integratie krijgen AWS-klanten naadloze toegang tot NVIDIA's platform voor versnelde computing, een uitgebreide suite aan AI-software en duizenden GPU-versnelde applicaties. Dit levert superieure prestaties, hoge efficiëntie en flexibele schaalbaarheid op voor de ontwikkeling van de volgende generatie AI-oplossingen.

De twee partijen blijven de nieuwste technologieën combineren: AWS Nitro System, petabit-schaal Elastic Fabric Adapter (EFA)-netwerken en Amazon EC2 UltraClusters die de nieuwste NVIDIA Grace Blackwell- en de volgende generatie NVIDIA Vera Rubin-platforms ondersteunen.

In de toekomst zal AWS ondersteuning voor de snelle chipconnectiviteitstechnologie NVIDIA NVLink Fusion toevoegen aan de volgende generatie Trainium4- en Graviton-chips, evenals aan Nitro-systemen. Deze integratie helpt klanten de time-to-market te verkorten en tegelijkertijd superieure prestaties te behalen.

Ian Buck, Vice President en General Manager van Hyperscale en HPC Computing bij NVIDIA, zei: "Grootschalige AI vereist een holistische aanpak, van geavanceerde GPU's en netwerkinfrastructuur tot software en services die elke laag van het datacenter optimaliseren. Samen met AWS brengen we al deze elementen rechtstreeks naar de omgevingen van onze klanten."

"Door de nieuwste Grace Blackwell- en Vera Rubin-architecturen van NVIDIA te combineren met de veilige, krachtige infrastructuur en de uitgebreide AI-softwaresuite van AWS, helpt AWS AI Factories organisaties om krachtige AI-mogelijkheden in een fractie van de tijd te implementeren, zodat ze zich volledig kunnen richten op innovatie in plaats van zich zorgen te hoeven maken over integratie," aldus Ian Buck.

Het ondersteunen van de publieke sector om de adoptie van AI te versnellen.

AWS AI Factories zijn ontworpen om te voldoen aan de strengste beveiligingsnormen van AWS, waardoor overheidsklanten er volledig op kunnen vertrouwen dat ze gevoelige workloads op alle classificatieniveaus kunnen uitvoeren: niet-geclassificeerd, gevoelig, geclassificeerd en topgeheim.

Tegelijkertijd biedt AWS AI Factories overheden wereldwijd de paraatheid, betrouwbaarheid, beveiliging en controle die nodig zijn om economische groei te stimuleren en de voordelen van AI-technologie te maximaliseren.

AWS en NVIDIA werken strategisch samen met HUMAIN, een wereldwijd bedrijf gevestigd in Saoedi-Arabië dat gespecialiseerd is in de ontwikkeling van uitgebreide AI-oplossingen.

Als onderdeel van deze samenwerking zal AWS de eerste baanbrekende "AI-zone" in Saoedi-Arabië bouwen, met maximaal 150.000 AI-chips, waaronder GB300 GPU's, AWS's speciale AI-infrastructuur en AWS AI-services, die allemaal worden geïmplementeerd in een speciaal ontworpen datacenter door HUMAIN.

Tareq Amin, CEO van HUMAIN, vertelde: "De AI-fabriek die AWS bouwt in onze nieuwe AI Zone markeert het begin van een reis van meerdere gigawatt voor HUMAIN en AWS. Deze infrastructuur is vanaf het begin ontworpen om te voldoen aan de snelgroeiende behoefte aan AI-computing, zowel lokaal als wereldwijd."

"Door onze gezamenlijke inzet voor de uitbreiding van wereldwijde markten creëren we een ecosysteem dat de toekomst zal vormgeven van hoe AI-ideeën wereldwijd worden ontwikkeld, ingezet en opgeschaald," voegde Tareq Amin eraan toe.

NGUYEN BAO

Bron: https://nhandan.vn/nha-may-tri-tue-nhan-tao-aws-nang-cao-hieu-nang-ha-tang-ai-trong-trung-tam-du-lieu-post929637.html