AWS AI Factory: mejora del rendimiento de la infraestructura de IA en los centros de datos

Construya una infraestructura de IA dedicada directamente en el centro de datos.

A medida que los gobiernos y las grandes organizaciones buscan expandir los proyectos de inteligencia artificial (IA), muchos han comenzado a avanzar hacia el concepto de "fábricas de IA" para satisfacer necesidades específicas con respecto a la soberanía de los datos y el cumplimiento normativo.

Sin embargo, construir una fábrica de IA de alto rendimiento requiere un sistema integral que abarque procesos de gestión, bases de datos, almacenamiento y seguridad, con una complejidad que pocos clientes están dispuestos a asumir.

Las organizaciones de sectores altamente regulados y del sector público se enfrentan a importantes desafíos en cuanto a infraestructura de IA al implementar proyectos a gran escala. Desarrollar sus propias capacidades de IA requiere inversiones masivas en GPU, centros de datos y energía, además de gestionar complejos procesos de adquisición, seleccionar el modelo adecuado para cada caso de uso y obtener licencias de múltiples proveedores de IA.

Todos estos factores hacen que el proceso de implementación se prolongue durante muchos años, aumente la complejidad operativa y distraiga a las organizaciones de sus objetivos comerciales principales.

Para abordar este desafío, el 11 de diciembre, AWS lanzó AWS AI Factories, un nuevo servicio que brinda a las empresas y los gobiernos una infraestructura de IA dedicada, directamente en el centro de datos del cliente, operada exclusivamente para ellos.

AWS AI Factories integra herramientas avanzadas de aceleración de IA, desde tecnología informática de IA de vanguardia de NVIDIA hasta chips Trainium, combinadas con capacidades de red de alta velocidad y baja latencia, almacenamiento y bases de datos de alto rendimiento, seguridad integral, infraestructura energéticamente eficiente y potentes servicios de IA de AWS como Amazon Bedrock y SageMaker AI.

Como resultado, los clientes pueden desarrollar e implementar rápidamente aplicaciones de IA a escala, optimizando el rendimiento y satisfaciendo necesidades comerciales específicas.

Las Fábricas de IA de AWS operan como regiones independientes de AWS, proporcionando acceso seguro y de baja latencia a servicios de computación, almacenamiento, bases de datos y IA. Este enfoque aprovecha el espacio y la potencia disponibles en los centros de datos, a la vez que facilita el acceso a toda la infraestructura y los servicios de IA de AWS, desde chips de IA de vanguardia para entrenamiento e inferencia hasta herramientas para crear, entrenar e implementar modelos de IA.

Además, los servicios administrados brindan acceso a los principales modelos básicos sin la necesidad de contratos separados con proveedores individuales, al tiempo que ayudan a los clientes a cumplir plenamente los requisitos de seguridad, soberanía de datos y cumplimiento normativo con respecto a dónde se procesan y almacenan los datos.

Con casi dos décadas de liderazgo en computación en la nube y una experiencia superior en el diseño de sistemas de IA a gran escala, AWS puede implementar una infraestructura de IA segura y confiable mucho más rápido de lo que la mayoría de las organizaciones pueden construirla por sí mismas, ahorrando años de esfuerzo y reduciendo significativamente la complejidad operativa.

La asociación de 15 años entre AWS y NVIDIA

La relación entre AWS y NVIDIA comenzó hace 15 años, cuando AWS lanzó la primera nube de GPU del mundo . Desde entonces, AWS ha proporcionado a sus clientes la cartera más diversa de soluciones de GPU.

Basándose en una asociación de larga data para brindar infraestructura de IA avanzada, AWS y NVIDIA ayudan a los clientes a crear y ejecutar modelos de lenguaje a gran escala de forma más rápida, eficiente y segura que en cualquier otro lugar, directamente dentro de sus propios centros de datos.

Con la integración de NVIDIA-AWS AI Factories, los clientes de AWS obtienen acceso perfecto a la plataforma informática acelerada de NVIDIA, un paquete integral de software de IA y miles de aplicaciones aceleradas por GPU, lo que brinda un rendimiento superior, alta eficiencia y escalabilidad flexible para desarrollar soluciones de IA de próxima generación.

Las dos partes continúan combinando tecnologías de vanguardia: AWS Nitro System, redes Elastic Fabric Adapter (EFA) a escala de petabit y Amazon EC2 UltraClusters compatibles con las últimas plataformas NVIDIA Grace Blackwell y NVIDIA Vera Rubin de próxima generación.

En el futuro, AWS incorporará compatibilidad con la tecnología de conectividad de chips de alta velocidad NVIDIA NVLink Fusion a los chips Trainium4 y Graviton de próxima generación, así como a los sistemas Nitro. Esta integración ayuda a los clientes a reducir el tiempo de comercialización y a lograr un rendimiento superior.

Ian Buck, vicepresidente y director general de Hiperescala y Computación HPC de NVIDIA, comentó: «La IA a gran escala requiere un enfoque holístico que abarca desde GPU avanzadas e infraestructura de red hasta software y servicios que optimizan cada capa del centro de datos. Junto con AWS, integramos todos estos elementos directamente en los entornos de nuestros clientes».

"Al combinar las últimas arquitecturas Grace Blackwell y Vera Rubin de NVIDIA con la infraestructura segura y de alto rendimiento de AWS y el paquete integral de software de IA, AWS AI Factories ayuda a las organizaciones a implementar potentes capacidades de IA en una fracción del tiempo, mientras se centran completamente en la innovación en lugar de preocuparse por la integración", afirmó Ian Buck.

Apoyar al sector público para acelerar la adopción de IA.

Las fábricas de inteligencia artificial de AWS están diseñadas para cumplir con los estándares de seguridad más estrictos de AWS, lo que brinda a los clientes gubernamentales la máxima confianza al ejecutar cargas de trabajo confidenciales en todos los niveles de clasificación: no clasificado, confidencial, clasificado y alto secreto.

Al mismo tiempo, AWS AI Factories proporciona a los gobiernos de todo el mundo la preparación, la confiabilidad, la seguridad y el control necesarios para impulsar el crecimiento económico y maximizar los beneficios de la tecnología de IA.

AWS y NVIDIA se están asociando estratégicamente con HUMAIN, una empresa global con sede en Arabia Saudita especializada en el desarrollo de capacidades integrales de IA.

Como parte de esta colaboración, AWS construirá la primera “Zona de IA” pionera en Arabia Saudita, con una escala de hasta 150.000 chips de IA, incluidas GPU GB300, la infraestructura de IA dedicada de AWS y los servicios de IA de AWS, todos implementados en un centro de datos diseñado a medida por HUMAIN.

Tareq Amin, director ejecutivo de HUMAIN, comentó: «La fábrica de IA que AWS está construyendo en nuestra nueva Zona de IA marca el inicio de un viaje multigigavatio para HUMAIN y AWS. Desde el principio, esta infraestructura se diseñó para satisfacer las crecientes necesidades de computación de IA a nivel local y global».

"A través de nuestro compromiso compartido de expandir los mercados globales, estamos creando un ecosistema que dará forma al futuro de cómo se construyen, implementan y escalan las ideas de IA en todo el mundo", agregó Tareq Amin.

NGUYEN BAO

Fuente: https://nhandan.vn/nha-may-tri-tue-nhan-tao-aws-nang-cao-hieu-nang-ha-tang-ai-trong-trung-tam-du-lieu-post929637.html