image001.jpg

GPU হলো AI কম্পিউটারের মস্তিষ্ক

সহজ কথায়, গ্রাফিক্স প্রসেসিং ইউনিট (GPU) AI কম্পিউটারের মস্তিষ্ক হিসেবে কাজ করে।

আপনারা হয়তো জানেন, সেন্ট্রাল প্রসেসিং ইউনিট (CPU) হলো কম্পিউটারের মস্তিষ্ক। GPU-এর সুবিধা হলো এটি একটি বিশেষায়িত CPU যা জটিল গণনা করতে পারে। এটি করার দ্রুততম উপায় হল GPU-এর গ্রুপগুলিকে একই সমস্যা সমাধান করা। তবে, একটি AI মডেলকে প্রশিক্ষণ দিতে এখনও সপ্তাহ বা এমনকি মাস সময় লাগতে পারে। একবার তৈরি হয়ে গেলে, এটি একটি ফ্রন্ট-এন্ড কম্পিউটার সিস্টেমে স্থাপন করা হয় এবং ব্যবহারকারীরা AI মডেলকে প্রশ্ন জিজ্ঞাসা করতে পারেন, যাকে ইনফারেন্স বলা হয়।

একাধিক GPU ধারণকারী একটি AI কম্পিউটার

AI সমস্যার জন্য সর্বোত্তম স্থাপত্য হল একটি র‍্যাকে GPU-এর একটি ক্লাস্টার ব্যবহার করা, যা র‍্যাকের উপরে থাকা একটি সুইচের সাথে সংযুক্ত থাকে। নেটওয়ার্কিংয়ের একটি শ্রেণিবিন্যাসে একাধিক GPU র‍্যাক সংযুক্ত করা যেতে পারে। সমস্যাটি আরও জটিল হওয়ার সাথে সাথে, GPU-এর প্রয়োজনীয়তা বৃদ্ধি পায় এবং কিছু প্রকল্পে হাজার হাজার GPU-এর ক্লাস্টার স্থাপনের প্রয়োজন হতে পারে।

প্রতিটি এআই ক্লাস্টার একটি ছোট নেটওয়ার্ক

একটি AI ক্লাস্টার তৈরি করার সময়, সংযোগ স্থাপনের জন্য একটি ছোট কম্পিউটার নেটওয়ার্ক স্থাপন করা প্রয়োজন এবং GPU গুলিকে একসাথে কাজ করতে এবং দক্ষতার সাথে ডেটা ভাগ করে নেওয়ার অনুমতি দিতে হবে।

image002.jpg
একটি এআই ক্লাস্টার

উপরের চিত্রটি একটি AI ক্লাস্টারকে চিত্রিত করে যেখানে নীচের বৃত্তগুলি GPU-তে চলমান কর্মপ্রবাহকে প্রতিনিধিত্ব করে। GPU গুলি টপ-অফ-র্যাক (ToR) সুইচগুলির সাথে সংযুক্ত হয়। ToR সুইচগুলি ডায়াগ্রামের উপরে দেখানো নেটওয়ার্ক ব্যাকবোন সুইচগুলির সাথেও সংযুক্ত হয়, যা একাধিক GPU জড়িত থাকলে প্রয়োজনীয় স্পষ্ট নেটওয়ার্ক শ্রেণিবিন্যাস প্রদর্শন করে।

এআই স্থাপনার ক্ষেত্রে নেটওয়ার্কগুলি একটি বাধা
গত শরতে, ওপেন কম্পিউটার প্রজেক্ট (ওসিপি) গ্লোবাল সামিটে, যেখানে প্রতিনিধিরা পরবর্তী প্রজন্মের এআই অবকাঠামো তৈরির জন্য কাজ করছিলেন, মার্ভেল টেকনোলজির প্রতিনিধি লোই নগুয়েন একটি গুরুত্বপূর্ণ বিষয় তুলে ধরেন: "নেটওয়ার্কিং হল নতুন বাধা।"

টেকনিক্যালি, উচ্চ প্যাকেট ল্যাটেন্সি বা নেটওয়ার্ক কনজেশনের কারণে প্যাকেট নষ্ট হওয়ার ফলে প্যাকেটগুলি পুনরায় পাঠানো হতে পারে, যা কাজ সমাপ্তির সময় (JCT) উল্লেখযোগ্যভাবে বৃদ্ধি করে। ফলস্বরূপ, অদক্ষ AI সিস্টেমের কারণে লক্ষ লক্ষ বা দশ মিলিয়ন ডলার মূল্যের GPU গুলি ব্যবসার দ্বারা নষ্ট হয়, যার ফলে ব্যবসার রাজস্ব এবং বাজারজাতকরণের সময় উভয়ই নষ্ট হয়।

এআই নেটওয়ার্কের সফল পরিচালনার জন্য পরিমাপ একটি গুরুত্বপূর্ণ শর্ত

একটি AI ক্লাস্টার কার্যকরভাবে পরিচালনা করার জন্য, GPU গুলিকে সম্পূর্ণরূপে ব্যবহার করতে সক্ষম হতে হবে যাতে প্রশিক্ষণের সময় কমানো যায় এবং বিনিয়োগের উপর সর্বাধিক রিটার্ন অর্জনের জন্য শেখার মডেলটি ব্যবহার করা যায়। অতএব, AI ক্লাস্টারের কর্মক্ষমতা পরীক্ষা এবং মূল্যায়ন করা প্রয়োজন (চিত্র 2)। তবে, এই কাজটি সহজ নয়, কারণ সিস্টেম আর্কিটেকচারের দিক থেকে, GPU এবং নেটওয়ার্ক কাঠামোর মধ্যে অনেক সেটিংস এবং সম্পর্ক রয়েছে যা সমস্যা সমাধানের জন্য একে অপরের পরিপূরক হতে হবে।

image005.jpg
এআই ডেটা সেন্টার টেস্টিং প্ল্যাটফর্ম এবং এটি কীভাবে এআই ডেটা সেন্টার ক্লাস্টার পরীক্ষা করে

এটি এআই নেটওয়ার্ক পরিমাপে অনেক চ্যালেঞ্জ তৈরি করে:

- খরচ, সরঞ্জামের সীমাবদ্ধতা, দক্ষ নেটওয়ার্ক এআই ইঞ্জিনিয়ারের অভাব, স্থান, বিদ্যুৎ এবং তাপমাত্রার কারণে ল্যাবে সম্পূর্ণ উৎপাদন নেটওয়ার্ক পুনরুৎপাদনে অসুবিধা।

- উৎপাদন ব্যবস্থার পরিমাপ উৎপাদন ব্যবস্থার উপলব্ধ প্রক্রিয়াকরণ ক্ষমতা হ্রাস করে।

- সমস্যার স্কেল এবং পরিধির পার্থক্যের কারণে সমস্যাগুলি সঠিকভাবে পুনরুত্পাদন করতে অসুবিধা।

- জিপিইউগুলি কীভাবে সম্মিলিতভাবে সংযুক্ত থাকে তার জটিলতা।

এই চ্যালেঞ্জগুলি মোকাবেলা করার জন্য, ব্যবসাগুলি ল্যাব পরিবেশে প্রস্তাবিত সেটআপগুলির একটি উপসেট পরীক্ষা করতে পারে যাতে কাজের সমাপ্তির সময় (JCT) এর মতো গুরুত্বপূর্ণ মেট্রিক্স, AI টিম যে ব্যান্ডউইথ অর্জন করতে পারে তা বেঞ্চমার্ক করা যায় এবং প্ল্যাটফর্ম ব্যবহার এবং ক্যাশে ব্যবহারের সাথে তুলনা করা যায়। এই বেঞ্চমার্কিং GPU/প্রসেসিং ওয়ার্কলোড এবং নেটওয়ার্ক ডিজাইন/সেটআপের মধ্যে সঠিক ভারসাম্য খুঁজে পেতে সহায়তা করে। ফলাফলের সাথে সন্তুষ্ট হয়ে গেলে, কম্পিউটার স্থপতি এবং নেটওয়ার্ক ইঞ্জিনিয়াররা এই সেটআপগুলিকে উৎপাদনে নিয়ে যেতে পারেন এবং নতুন ফলাফল পরিমাপ করতে পারেন।

কর্পোরেট গবেষণা ল্যাব, একাডেমিক প্রতিষ্ঠান এবং বিশ্ববিদ্যালয়গুলি বৃহৎ নেটওয়ার্কগুলিতে কাজ করার চ্যালেঞ্জগুলি মোকাবেলা করার জন্য কার্যকর AI নেটওয়ার্ক তৈরি এবং পরিচালনার প্রতিটি দিক বিশ্লেষণ করার জন্য কাজ করছে, বিশেষ করে যখন সেরা অনুশীলনগুলি বিকশিত হচ্ছে। এই সহযোগিতামূলক, পুনরাবৃত্তিযোগ্য পদ্ধতি হল কোম্পানিগুলির জন্য পুনরাবৃত্তিযোগ্য পরিমাপ সম্পাদন করার এবং দ্রুত "কি-যদি" পরিস্থিতি পরীক্ষা করার একমাত্র উপায় যা AI-এর জন্য নেটওয়ার্ক অপ্টিমাইজ করার ভিত্তি।

(সূত্র: কিসাইট টেকনোলজিস)