Groq کی خصوصی مصنوعی ذہانت (AI) چپ، LPU، سوشل میڈیا پر راتوں رات ایک سنسنی بن رہی ہے، کیونکہ اس کے عوامی طور پر دستیاب بینچ مارک ٹیسٹ سوشل میڈیا پلیٹ فارم X پر گردش کر رہے ہیں۔

Groq ' دنیا کے تیز ترین قدرتی لینگویج پروسیسنگ ماڈل' پیش کرنے کا دعویٰ کرتا ہے، اور وسیع آزاد جانچ سے پتہ چلتا ہے کہ دعویٰ درست ہو سکتا ہے۔

735783 1szzxeq groq.jpg
Groq کی وقف کردہ LPU AI چپ تجربات میں بڑی زبان کے ماڈلز کے لیے اعلیٰ کارکردگی پیش کرتی ہے۔

Groq خصوصی AI چپس تیار کرتا ہے جسے LPUs (Language Processing Units) کہتے ہیں، جن کے بارے میں کہا جاتا ہے کہ یہ Nvidia کے GPUs سے تیز ہیں۔ Nvidia کے GPUs کو اکثر AI ماڈل چلانے کے لیے انڈسٹری کا معیار سمجھا جاتا ہے، لیکن ابتدائی نتائج بتاتے ہیں کہ LPUs ان سے آگے نکل جائیں گے، کم از کم ان کاموں میں جن میں تیز رفتاری کی ضرورت ہوتی ہے۔

بنیادی طور پر، Groq کی LPU چپ ایک 'کمپیوٹنگ انجن' ہے جو چیٹ جی پی ٹی اور جیمنی جیسے چیٹ بوٹس کو انتہائی تیز استقبال اور جوابی رفتار کے ساتھ کام کرنے کے قابل بناتی ہے۔ کئے گئے ٹیسٹوں میں، ایل پی یو چپ کا استعمال کرنے والے چیٹ بوٹس نے دیگر AI چپس کا استعمال کرتے ہوئے کئی اہم کارکردگی کے میٹرکس پر آٹھ چیٹ بوٹس کو پیچھے چھوڑ دیا، بشمول تاخیر بمقابلہ تھرو پٹ اور کل رسپانس ٹائم۔ LPU کی اعلی کارکردگی سب سے زیادہ واضح تھی جب میٹا کے Llama 2-70b ماڈل کے ساتھ تجربہ کیا گیا۔

مصنوعی تجزیہ کے آزاد ٹیسٹوں کے مطابق، ایل پی یو چپس استعمال کرنے والے چیٹ بوٹس 247 ٹوکن فی سیکنڈ کا تھرو پٹ حاصل کر سکتے ہیں۔ مقابلے کے لیے، OpenAI کا ChatGPT فی الحال صرف 18 ٹوکن فی سیکنڈ کا زیادہ سے زیادہ تھرو پٹ حاصل کرتا ہے۔ اس کا مطلب ہے کہ Groq کے تیار کردہ چپس کا استعمال کرتے ہوئے ChatGPT 13 گنا زیادہ تیز ہو سکتا ہے، حالانکہ یہ بہت سے دیگر متعلقہ عوامل پر منحصر ہے۔

مصنوعی تجزیہ کے مطابق، کارکردگی کی یہ سطح مختلف شعبوں میں بڑے لینگویج ماڈلز (LLMs) کے لیے نئے امکانات کو کھول سکتی ہے۔ Groq کی LPU چپ کا استعمال کرتے ہوئے چیٹ بوٹس ایک لمحے میں سینکڑوں الفاظ پیدا کر سکتے ہیں، جس سے صارفین کو حقیقی وقت میں کام کرنے کی اجازت ملتی ہے۔ ایک تجربے میں، Groq کے بانی اور CEO جوناتھن راس نے دنیا کے دوسری طرف ایک AI چیٹ بوٹ کے ساتھ براہ راست بولی جانے والی گفتگو میں ایک CNN اینکر کی رہنمائی کی۔

AI چیٹ بوٹس جیسے ChatGPT، Gemini اور Llama نمایاں طور پر زیادہ مفید ہو سکتے ہیں اگر وہ تیزی سے جواب دیں۔ فی الحال اہم حدود میں سے ایک یہ ہے کہ یہ چیٹ بوٹس حقیقی وقت میں انسانی تقریر کو برقرار نہیں رکھ سکتے ہیں۔ بڑی تاخیر گفتگو کو روبوٹک اور بہت سے شعبوں کے لیے غیر موزوں بنا دیتی ہے۔

Groq کی LPU چپ کے ارد گرد کی توقعات کے باوجود، فوری مسئلہ اسی طرح کی مصنوعات کے مقابلے اس کے عملی اطلاق کا جائزہ لے رہا ہے۔ Nvidia کے GPUs یا Google کے TPUs کے برعکس، Groq کا LPU ایک خصوصی AI چپ ہے، جسے 'عمومی مقصد' AI چپ کے بجائے مخصوص کاموں کے لیے بہتر بنانے کے لیے ڈیزائن کیا گیا ہے۔

مزید برآں، یہ وہ وقت بھی ہے جب بڑے AI ڈویلپرز Nvidia کی مصنوعات پر انحصار سے بچنے کے لیے اپنی چپس تیار کرنے کی کوشش کر رہے ہیں۔ اوپن اے آئی مبینہ طور پر اپنی چپس تیار کرنے کے لیے کھربوں ڈالر کی فنڈنگ ​​کی تلاش میں ہے۔ OpenAI کے سی ای او سیم آلٹ مین یہاں تک کہ شروع سے پورے AI چپ فن تعمیر کو دوبارہ بنانے پر غور کر رہے ہیں۔

(Cryptoslate کے مطابق)