Huawei ສ້າງຊິບ AI ທີ່ໄວກວ່າ Nvidia 1,000 ເທົ່າບໍ?

ດ້ວຍຄວາມກະຕືລືລົ້ນສໍາລັບຊິບ semiconductor ຄຸນນະພາບສູງທີ່ຖືກຂັດຂວາງໂດຍການລົງໂທດຂອງສະຫະລັດ, Huawei ໄດ້ມີການເຄື່ອນໄຫວທີ່ຫນ້າຕົກໃຈໃນໂລກເຕັກໂນໂລຢີ. ຍັກໃຫຍ່ຂອງຈີນອ້າງວ່າຊອບແວໃຫມ່ຂອງມັນສາມາດສ້າງ 'ຊິບ AI ແບບຈໍາລອງ' ທີ່ມີຄວາມໄວໃນການປຸງແຕ່ງ 1,000 ເທົ່າໄວກວ່າຄູ່ແຂ່ງທີ່ຮຸນແຮງຂອງມັນ Nvidia.

ເມື່ອບໍ່ດົນມານີ້ Huawei ໄດ້ນຳສະເໜີ Flex:ai ຢ່າງເປັນທາງການ, ເຄື່ອງມື Orchestration ແບບໂອເພນຊອດທີ່ອອກແບບມາເພື່ອເພີ່ມປະສິດທິພາບຄວາມສາມາດຂອງກຸ່ມຄອມພິວເຕີຂະໜາດໃຫຍ່.

ການເປີດຕົວຂອງ Flex:ai orchestration ເຄື່ອງມືສໍາລັບກຸ່ມ supercomputing.

ສ້າງຂຶ້ນຢູ່ເທິງ Kubernetes ແລະປ່ອຍອອກມາໂດຍຜ່ານຊຸມຊົນ ModelEngine, Flex:ai ແມ່ນຫຼາຍກ່ວາພຽງແຕ່ເຄື່ອງມືການຄຸ້ມຄອງ.

ມັນໄດ້ຖືກເຫັນວ່າເປັນການແກ້ໄຂອັນຮີບດ່ວນຂອງຍຸດທະສາດໃນປັດຈຸບັນຂອງຈີນຂອງ 'ການນໍາໃຊ້ຊອບແວເພື່ອເຮັດໃຫ້ມີຮາດແວ'.

ຄໍາຮຽກຮ້ອງທີ່ໂດດເດັ່ນທີ່ສຸດຂອງ Huawei ແມ່ນວ່າມັນສາມາດ "ສ້າງຊິບ AI ທີ່ມີການຈໍາລອງທີ່ໄວກວ່າ Nvidia 1,000 ເທົ່າ." ໃນຂະນະທີ່ມັນຍັງບໍ່ໄດ້ເປີດເຜີຍລາຍລະອຽດດ້ານວິຊາການທີ່ຢູ່ເບື້ອງຫລັງຈໍານວນຂະຫນາດໃຫຍ່ນີ້, ໃນແງ່ຂອງການປະຕິບັດການປະຕິບັດ, Huawei ອ້າງວ່າ Flex:ai ເພີ່ມການໃຊ້ຊິບ AI ໂດຍສະເລ່ຍປະມານ 30%.

ແທນທີ່ຈະປ່ອຍໃຫ້ເຄື່ອງເລັ່ງ (GPU/NPU) ເຮັດວຽກແຍກຕ່າງຫາກແລະເສຍຊັບພະຍາກອນ, Flex:ai ໃຊ້ກົນໄກການສະຫຼາດສະຫຼາດ. ເຄື່ອງມືນີ້ 'slices' ບັດ GPU ຫຼື NPU ທາງກາຍຍະພາບເຂົ້າໄປໃນຫຼາຍຕົວຢ່າງ virtual compute.

ຊິບທີ່ຈຳລອງມີຄວາມໄວທີ່ Huawei ອ້າງບໍ?

ສໍາລັບວຽກງານຂະຫນາດນ້ອຍ: Flex:ai stacks ໃຫ້ເຂົາເຈົ້າເພື່ອຂະຫຍາຍ headroom ຊັບພະຍາກອນສູງສຸດ. ສໍາລັບແບບຈໍາລອງ AI ຂະຫນາດໃຫຍ່: ມັນຊ່ວຍໃຫ້ການໂຫຼດຂອງວຽກສາມາດແຜ່ລາມໄປທົ່ວບັດຫຼາຍບັດ, ເອົາຊະນະຂໍ້ຈໍາກັດທາງດ້ານຮ່າງກາຍຂອງອຸປະກອນດຽວ.

ຫົວໃຈຂອງລະບົບແມ່ນ 'Hi Scheduler' - ຄວາມສາມາດໃນການສົ່ງຊັບພະຍາກອນທີ່ບໍ່ເຮັດວຽກໃນເວລາຈິງ, ຮັບປະກັນວ່າບໍ່ມີພະລັງງານຄອມພິວເຕີ້ຖືກສູນເສຍໃນຂະນະທີ່ວຽກງານ AI ລໍຖ້າຢູ່ໃນແຖວ.

ຄວາມທະເຍີທະຍານທີ່ຈະລວມເອົາລະບົບ chip ທີ່ແຕກຕ່າງກັນ

ຄວາມແຕກຕ່າງທີ່ໃຫຍ່ຫຼວງລະຫວ່າງ Flex: ai ແລະວິທີແກ້ໄຂທີ່ມີຢູ່ແມ່ນຄວາມເຂົ້າກັນໄດ້ຂ້າມ. ໃນຂະນະທີ່ເຄື່ອງມືເຊັ່ນ Run:ai (ໄດ້ມາໂດຍ Nvidia ໃນປີ 2024) ສຸມໃສ່ລະບົບນິເວດຂອງ Nvidia, Flex:ai ມີຈຸດປະສົງເພື່ອປະສົມປະສານປະເພດຕ່າງໆຂອງຮາດແວ. ມັນມີການສະຫນັບສະຫນູນທີ່ເຂັ້ມແຂງສໍາລັບຊິບ Ascend ຂອງ Huawei ພ້ອມກັບ GPU ມາດຕະຖານອື່ນໆ.

ເຄື່ອງມືດັ່ງກ່າວໄດ້ຮັບການພັດທະນາໂດຍມີການປະກອບສ່ວນຈາກນັກຄົ້ນຄ້ວາຂອງ Shanghai Jiaotong University, Xi'an Jiaotong University, ແລະ Xiamen University (ຈີນ).

ໃນປັດຈຸບັນ, Huawei ຍັງບໍ່ທັນໄດ້ເປີດເຜີຍລະຫັດແຫຼ່ງແລະຜົນການທົດສອບສະເພາະ. ຜູ້ຊ່ຽວຊານກໍາລັງຕັ້ງຄໍາຖາມໃຫຍ່ກ່ຽວກັບວ່າ Flex: ai ແມ່ນເຫມາະສົມກັບ GPU ທີ່ນິຍົມຢ່າງລຽບງ່າຍໂດຍຜ່ານ plugins ມາດຕະຖານບໍ? ແລະຕົວເລກ '1,000 ເທື່ອໄວ' ເປັນຄວາມກ້າວຫນ້າທີ່ແທ້ຈິງຫຼືພຽງແຕ່ການປຽບທຽບການຕະຫຼາດໃນສະພາບແວດລ້ອມ emulator? ຄໍາຕອບຈະມີໃຫ້ເມື່ອ Flex:ai ສາມາດໃຊ້ໄດ້ກັບຊຸມຊົນການຂຽນໂປຼແກຼມຢ່າງເປັນທາງການ.