AWS AI Factory: підвищення продуктивності інфраструктури штучного інтелекту в центрах обробки даних

Спеціалізована інфраструктура штучного інтелекту (ШІ) AWS, розгорнута безпосередньо в існуючих центрах обробки даних клієнтів, дозволяє їм швидко розробляти та розгортати додатки ШІ у великих масштабах.

Ілюстративне зображення.

Створіть спеціалізовану інфраструктуру штучного інтелекту безпосередньо в центрі обробки даних.

Оскільки уряди та великі організації прагнуть розширити проекти штучного інтелекту (ШІ), багато хто почав рухатися до концепції «фабрик ШІ» для задоволення конкретних потреб щодо суверенітету даних та дотримання нормативних вимог.

Однак, для створення високопродуктивної фабрики штучного інтелекту потрібна комплексна система, що охоплює процеси управління, бази даних, сховище та безпеку, зі складністю, яку мало хто з клієнтів готовий взяти на себе.

Організації у жорстко регульованих секторах та державному секторі стикаються зі значними проблемами інфраструктури штучного інтелекту під час розгортання масштабних проектів. Розробка власних можливостей штучного інтелекту вимагає величезних інвестицій у графічні процесори, центри обробки даних та енергію, а також навігації складними процесами закупівель, вибору правильної моделі для кожного випадку використання та ліцензування кількох постачальників штучного інтелекту.

Усі ці фактори призводять до того, що процес впровадження затягується на багато років, збільшують операційну складність та відволікають організації від їхніх основних бізнес-цілей.

Щоб вирішити цю проблему, 11 грудня AWS запустила AWS AI Factories – нову послугу, яка надає підприємствам та урядам спеціалізовану інфраструктуру штучного інтелекту безпосередньо в центрі обробки даних клієнта, що працює виключно для них.

AWS AI Factories інтегрує передові інструменти прискорення штучного інтелекту, від передової обчислювальної технології NVIDIA AI до чіпів Trainium, у поєднанні з високошвидкісними мережевими можливостями з низькою затримкою, високопродуктивним сховищем та базами даних, комплексною безпекою, енергоефективною інфраструктурою та потужними сервісами AWS AI, такими як Amazon Bedrock та SageMaker AI.

Це дозволяє клієнтам швидко розробляти та розгортати додатки штучного інтелекту в великих масштабах, оптимізуючи продуктивність та задовольняючи конкретні бізнес-потреби.

Фабрики штучного інтелекту AWS працюють як окремі регіони AWS, забезпечуючи безпечний доступ з низькою затримкою до обчислень, сховищ, баз даних та послуг штучного інтелекту. Такий підхід використовує доступний простір та потужність центрів обробки даних, водночас відкриваючи доступ до повної інфраструктури та послуг штучного інтелекту AWS, від передових чіпів штучного інтелекту для навчання та логічного висновку до інструментів для створення, навчання та розгортання моделей штучного інтелекту.

Крім того, керовані сервіси надають доступ до провідних базових моделей без необхідності укладання окремих контрактів з окремими постачальниками, водночас допомагаючи клієнтам повністю відповідати вимогам безпеки, суверенітету даних та відповідності нормативним вимогам щодо того, де дані обробляються та зберігаються.

Маючи майже два десятиліття лідерства в хмарних обчисленнях та чудовий досвід у проектуванні великомасштабних систем штучного інтелекту, AWS може розгортати безпечну та надійну інфраструктуру штучного інтелекту набагато швидше, ніж більшість організацій можуть побудувати її самостійно, заощаджуючи роки зусиль та значно зменшуючи складність експлуатації.

15-річне партнерство між AWS та NVIDIA

Співпраця між AWS та NVIDIA розпочалася 15 років тому, коли AWS запустила першу у світі хмару для графічних процесорів. Відтоді AWS надає клієнтам найрізноманітніший портфель рішень на основі графічних процесорів.

Спираючись на давнє партнерство у сфері створення передової інфраструктури штучного інтелекту, AWS та NVIDIA допомагають клієнтам створювати та запускати великомасштабні мовні моделі швидше, ефективніше та безпечніше, ніж будь-де, безпосередньо у власних центрах обробки даних.

Завдяки інтеграції NVIDIA-AWS AI Factories, клієнти AWS отримують безперешкодний доступ до платформи прискорених обчислень NVIDIA, комплексного пакету програмного забезпечення для штучного інтелекту та тисяч програм із прискоренням на графічному процесорі, забезпечуючи чудову продуктивність, високу ефективність та гнучку масштабованість для розробки рішень штучного інтелекту наступного покоління.

Обидві сторони продовжують поєднувати передові технології: систему AWS Nitro, мережу Elastic Fabric Adapter (EFA) петабітного масштабу та Amazon EC2 UltraClusters, що підтримують найновіші платформи NVIDIA Grace Blackwell та NVIDIA Vera Rubin наступного покоління.

У майбутньому AWS додасть підтримку технології високошвидкісного підключення мікросхем NVIDIA NVLink Fusion до мікросхем Trainium4 та Graviton наступного покоління, а також до систем Nitro. Ця інтеграція допомагає клієнтам скоротити час виведення продуктів на ринок, одночасно досягаючи чудової продуктивності.

Ієн Бак, віцепрезидент і генеральний менеджер з гіпермасштабних та високопродуктивних обчислень у NVIDIA, поділився: «Великомасштабний штучний інтелект вимагає цілісного підходу – від передових графічних процесорів та мережевої інфраструктури до програмного забезпечення та послуг, які оптимізують кожен рівень центру обробки даних. Разом з AWS ми впроваджуємо всі ці елементи безпосередньо в середовища наших клієнтів».

«Поєднуючи новітні архітектури Grace Blackwell та Vera Rubin від NVIDIA з безпечною, високопродуктивною інфраструктурою AWS та комплексним пакетом програмного забезпечення для штучного інтелекту, AWS AI Factories допомагає організаціям розгортати потужні можливості штучного інтелекту за лічені хвилини, повністю зосереджуючись на інноваціях, а не на інтеграції», – сказав Іен Бак.

Підтримка державного сектору для пришвидшення впровадження штучного інтелекту.

Фабрики штучного інтелекту AWS розроблені відповідно до найсуворіших стандартів безпеки AWS, що надає державним клієнтам максимальну впевненість у виконанні конфіденційних завдань усіх рівнів секретності: несекретних, конфіденційних, секретних та цілком таємних.

Водночас, AWS AI Factories забезпечує уряди в усьому світі готовністю, надійністю, безпекою та контролем, необхідними для стимулювання економічного зростання та максимізації переваг технології штучного інтелекту.

AWS та NVIDIA укладають стратегічне партнерство з HUMAIN, глобальною компанією, що базується в Саудівській Аравії та спеціалізується на розробці комплексних можливостей штучного інтелекту.

В рамках цієї співпраці AWS створить першу в Саудівській Аравії новаторську «зону штучного інтелекту» масштабом до 150 000 чіпів штучного інтелекту, включаючи графічні процесори GB300, спеціалізовану інфраструктуру штучного інтелекту AWS та сервіси штучного інтелекту AWS, розгорнуті в спеціально розробленому центрі обробки даних HUMAIN.

Тарек Амін, генеральний директор HUMAIN, поділився: «Фабрика штучного інтелекту, яку AWS будує в нашій новій Зоні штучного інтелекту, знаменує собою початок багатогігаватного шляху для HUMAIN та AWS. З самого початку ця інфраструктура була розроблена для задоволення як зростаючих потреб у обчисленнях штучного інтелекту на місцевому, так і на глобальному рівні».

«Завдяки нашому спільному зобов’язанню розширювати світові ринки, ми створюємо екосистему, яка формуватиме майбутнє того, як ідеї штучного інтелекту будуть створюватися, розгортатися та масштабуватися в усьому світі», – додав Тарек Амін.

Нгуєн Бао

Джерело: https://nhandan.vn/nha-may-tri-tue-nhan-tao-aws-nang-cao-hieu-nang-ha-tang-ai-trong-trung-tam-du-lieu-post929637.html