AWS AI Factory: Meningkatkan Kinerja Infrastruktur AI di Pusat Data

Bangun infrastruktur AI khusus langsung di pusat data.

Seiring pemerintah dan organisasi besar berupaya memperluas proyek kecerdasan buatan (AI), banyak yang mulai beralih ke konsep "pabrik AI" untuk memenuhi kebutuhan spesifik terkait kedaulatan data dan kepatuhan terhadap peraturan.

Namun, membangun pabrik AI berkinerja tinggi membutuhkan sistem komprehensif yang mencakup proses manajemen, basis data, penyimpanan, dan keamanan, dengan kompleksitas yang hanya sedikit pelanggan yang bersedia menanggungnya sendiri.

Organisasi di sektor yang sangat diatur dan sektor publik menghadapi tantangan infrastruktur AI yang signifikan saat menerapkan proyek skala besar. Membangun kemampuan AI mereka sendiri membutuhkan investasi besar-besaran dalam GPU, pusat data, dan energi, serta menavigasi proses pengadaan yang kompleks, memilih model yang tepat untuk setiap kasus penggunaan, dan melisensikan beberapa vendor AI.

Semua faktor ini menyebabkan proses implementasi berlarut-larut selama bertahun-tahun, meningkatkan kompleksitas operasional, dan mengalihkan perhatian organisasi dari tujuan bisnis inti mereka.

Untuk mengatasi tantangan ini, pada tanggal 11 Desember, AWS meluncurkan AWS AI Factories, layanan baru yang menyediakan infrastruktur AI khusus bagi bisnis dan pemerintah , tepat di pusat data pelanggan, yang dioperasikan secara eksklusif untuk mereka.

AWS AI Factories mengintegrasikan alat akselerasi AI canggih, mulai dari teknologi komputasi AI NVIDIA mutakhir hingga chip Trainium, dikombinasikan dengan kemampuan jaringan berkecepatan tinggi dan latensi rendah, penyimpanan dan basis data berkinerja tinggi, keamanan komprehensif, infrastruktur hemat energi, dan layanan AI AWS yang andal seperti Amazon Bedrock dan SageMaker AI.

Hasilnya, pelanggan dapat dengan cepat mengembangkan dan menerapkan aplikasi AI dalam skala besar, mengoptimalkan kinerja, dan memenuhi kebutuhan bisnis tertentu.

AWS AI Factories beroperasi sebagai AWS Region terpisah, menyediakan akses aman dan latensi rendah ke komputasi, penyimpanan, basis data, dan layanan AI. Pendekatan ini memanfaatkan ruang dan daya pusat data yang tersedia sekaligus membuka akses ke seluruh infrastruktur dan layanan AWS AI, mulai dari chip AI canggih untuk pelatihan dan inferensi hingga alat untuk membangun, melatih, dan menerapkan model AI.

Selain itu, layanan terkelola menyediakan akses ke model dasar terkemuka tanpa perlu kontrak terpisah dengan masing-masing penyedia, sekaligus membantu pelanggan sepenuhnya memenuhi persyaratan keamanan, kedaulatan data, dan kepatuhan peraturan terkait tempat data diproses dan disimpan.

Dengan hampir dua dekade kepemimpinan dalam komputasi awan dan pengalaman unggul dalam merancang sistem AI skala besar, AWS dapat menerapkan infrastruktur AI yang aman dan andal jauh lebih cepat daripada yang dapat dibangun sendiri oleh sebagian besar organisasi, menghemat waktu bertahun-tahun dan secara signifikan mengurangi kompleksitas operasional.

Kemitraan selama 15 tahun antara AWS dan NVIDIA

Hubungan antara AWS dan NVIDIA dimulai 15 tahun yang lalu, ketika AWS meluncurkan cloud GPU pertama di dunia . Sejak saat itu, AWS telah menyediakan portofolio solusi GPU yang paling beragam kepada para pelanggannya.

Berbekal kemitraan jangka panjang untuk menghadirkan infrastruktur AI canggih, AWS dan NVIDIA membantu pelanggan membangun dan menjalankan model bahasa skala besar dengan lebih cepat, lebih efisien, dan lebih aman daripada di tempat lain mana pun, langsung di dalam pusat data mereka sendiri.

Dengan integrasi NVIDIA-AWS AI Factories, pelanggan AWS mendapatkan akses tanpa hambatan ke platform komputasi akselerasi NVIDIA, rangkaian perangkat lunak AI yang komprehensif, dan ribuan aplikasi yang diakselerasi GPU, yang memberikan kinerja superior, efisiensi tinggi, dan skalabilitas fleksibel untuk mengembangkan solusi AI generasi berikutnya.

Kedua pihak terus menggabungkan teknologi mutakhir: AWS Nitro System, jaringan Elastic Fabric Adapter (EFA) skala petabit, dan Amazon EC2 UltraClusters yang mendukung platform NVIDIA Grace Blackwell terbaru dan NVIDIA Vera Rubin generasi berikutnya.

Di masa mendatang, AWS akan menambahkan dukungan untuk teknologi konektivitas chip berkecepatan tinggi NVIDIA NVLink Fusion ke chip Trainium4 dan Graviton generasi berikutnya, serta di Nitro Systems. Integrasi ini membantu pelanggan mempersingkat waktu pemasaran sekaligus mencapai kinerja yang unggul.

Ian Buck, Wakil Presiden dan Manajer Umum Komputasi Hyperscale dan HPC di NVIDIA, berbagi: “AI skala besar membutuhkan pendekatan holistik mulai dari GPU canggih dan infrastruktur jaringan hingga perangkat lunak dan layanan yang mengoptimalkan setiap lapisan pusat data. Bersama AWS, kami menghadirkan semua elemen ini langsung ke lingkungan pelanggan kami.”

"Dengan menggabungkan arsitektur Grace Blackwell dan Vera Rubin terbaru dari NVIDIA dengan infrastruktur AWS yang aman dan berkinerja tinggi serta rangkaian perangkat lunak AI yang komprehensif, AWS AI Factories membantu organisasi menerapkan kemampuan AI yang canggih dalam waktu yang jauh lebih singkat, sambil sepenuhnya fokus pada inovasi alih-alih mengkhawatirkan integrasi," kata Ian Buck.

Mendukung sektor publik untuk mempercepat adopsi AI.

AWS AI Factories dirancang untuk memenuhi standar keamanan AWS yang paling ketat, memberikan kepercayaan penuh kepada pelanggan pemerintah dalam menjalankan beban kerja sensitif di semua tingkat klasifikasi: Tidak Rahasia, Sensitif, Rahasia, dan Sangat Rahasia.

Pada saat yang sama, AWS AI Factories menyediakan kesiapan, keandalan, keamanan, dan kendali yang dibutuhkan pemerintah di seluruh dunia untuk mendorong pertumbuhan ekonomi dan memaksimalkan manfaat teknologi AI.

AWS dan NVIDIA menjalin kemitraan strategis dengan HUMAIN, sebuah perusahaan global yang berbasis di Arab Saudi yang mengkhususkan diri dalam mengembangkan kemampuan AI yang komprehensif.

Sebagai bagian dari kolaborasi ini, AWS akan membangun “Zona AI” perintis pertama di Arab Saudi, dengan skala hingga 150.000 chip AI, termasuk GPU GB300, infrastruktur AI khusus AWS, dan layanan AI AWS, semuanya diterapkan di pusat data yang dirancang khusus oleh HUMAIN.

Tareq Amin, CEO HUMAIN, menyampaikan: “Pabrik AI yang sedang dibangun AWS di Zona AI baru kami menandai awal perjalanan multi-gigawatt bagi HUMAIN dan AWS. Sejak awal, infrastruktur ini telah dirancang untuk melayani kebutuhan komputasi AI yang semakin meningkat baik secara lokal maupun global.”

"Melalui komitmen bersama kami untuk memperluas pasar global, kami menciptakan ekosistem yang akan membentuk masa depan bagaimana ide-ide AI dibangun, diterapkan, dan dikembangkan di seluruh dunia," tambah Tareq Amin.

NGUYEN BAO

Sumber: https://nhandan.vn/nha-may-tri-tue-nhan-tao-aws-nang-cao-hieu-nang-ha-tang-ai-trong-trung-tam-du-lieu-post929637.html