تراشه تخصصی هوش مصنوعی (AI) شرکت Groq، به نام LPU، به سرعت در حال تبدیل شدن به یک پدیده در رسانه‌های اجتماعی است، زیرا تست‌های بنچمارک عمومی آن در پلتفرم رسانه اجتماعی X در حال انتشار است.

Groq ادعا می‌کند که «سریع‌ترین مدل‌های پردازش زبان طبیعی جهان » را ارائه می‌دهد و آزمایش‌های گسترده و مستقل نشان می‌دهد که این ادعا ممکن است دقیق باشد.

۷۳۵۷۸۳ ۱szzxeq groq.jpg
تراشه اختصاصی هوش مصنوعی LPU شرکت Groq، عملکرد فوق‌العاده‌ای را برای مدل‌های زبانی بزرگ در آزمایش‌ها ارائه می‌دهد.

شرکت Groq تراشه‌های تخصصی هوش مصنوعی به نام LPU (واحدهای پردازش زبان) تولید می‌کند که گفته می‌شود از پردازنده‌های گرافیکی انویدیا سریع‌تر هستند. پردازنده‌های گرافیکی انویدیا اغلب به عنوان استاندارد صنعتی برای اجرای مدل‌های هوش مصنوعی در نظر گرفته می‌شوند، اما نتایج اولیه نشان می‌دهد که LPUها حداقل در کارهایی که به سرعت بالا نیاز دارند، از آنها پیشی خواهند گرفت.

اساساً، تراشه LPU شرکت Groq یک «موتور محاسباتی» است که به چت‌بات‌هایی مانند ChatGPT و Gemini امکان می‌دهد با سرعت دریافت و پاسخ بسیار بالایی کار کنند. در آزمایش‌های انجام‌شده، چت‌بات‌هایی که از تراشه LPU استفاده می‌کنند، در چندین معیار کلیدی عملکرد، از جمله تأخیر در مقابل توان عملیاتی و زمان پاسخ کل، از هشت چت‌بات که از تراشه‌های هوش مصنوعی دیگر استفاده می‌کنند، عملکرد بهتری داشتند. عملکرد برتر LPU هنگام آزمایش با مدل Llama 2-70b شرکت Meta کاملاً مشهود بود.

طبق آزمایش‌های مستقل انجام شده توسط Artificial Analysis، چت‌بات‌هایی که از تراشه‌های LPU استفاده می‌کنند می‌توانند به توان عملیاتی ۲۴۷ توکن در ثانیه دست یابند. برای مقایسه، ChatGPT شرکت OpenAI در حال حاضر تنها به حداکثر توان عملیاتی ۱۸ توکن در ثانیه دست می‌یابد. این بدان معناست که ChatGPT می‌تواند با استفاده از تراشه‌های توسعه‌یافته توسط Groq تا ۱۳ برابر سریع‌تر باشد، اگرچه این امر به عوامل مرتبط دیگری نیز بستگی دارد.

طبق گفته‌ی Artificial Analysis، این سطح از عملکرد می‌تواند امکانات جدیدی را برای مدل‌های زبانی بزرگ (LLM) در زمینه‌های مختلف فراهم کند. چت‌بات‌ها با استفاده از تراشه‌ی LPU شرکت Groq می‌توانند صدها کلمه را در یک لحظه تولید کنند و به کاربران امکان انجام وظایف را در زمان واقعی بدهند. در یک آزمایش، جاناتان راس، بنیانگذار و مدیرعامل Groq، یک مجری CNN را در یک گفتگوی زنده با یک چت‌بات هوش مصنوعی در آن سوی کره‌ی زمین هدایت کرد.

چت‌بات‌های هوش مصنوعی مانند ChatGPT، Gemini و Llama اگر سریع‌تر پاسخ دهند، می‌توانند به طور قابل توجهی مفیدتر باشند. یکی از محدودیت‌های قابل توجه در حال حاضر این است که این چت‌بات‌ها نمی‌توانند همزمان با گفتار انسان صحبت کنند. تأخیر زیاد باعث می‌شود مکالمه رباتیک به نظر برسد و برای بسیاری از زمینه‌ها نامناسب باشد.

علیرغم انتظارات پیرامون تراشه LPU شرکت Groq، مسئله اصلی، ارزیابی کاربرد عملی آن در مقایسه با محصولات مشابه است. برخلاف پردازنده‌های گرافیکی Nvidia یا TPU های گوگل، LPU شرکت Groq یک تراشه هوش مصنوعی تخصصی است که برای بهینه‌سازی وظایف خاص طراحی شده است، نه یک تراشه هوش مصنوعی «همه منظوره».

علاوه بر این، اکنون زمانی است که توسعه‌دهندگان بزرگ هوش مصنوعی به دنبال توسعه تراشه‌های خود هستند تا از وابستگی به محصولات انویدیا جلوگیری کنند. طبق گزارش‌ها، OpenAI به دنبال تریلیون‌ها دلار بودجه برای توسعه تراشه‌های خود است. سم آلتمن، مدیرعامل OpenAI، حتی در حال بررسی بازسازی کل معماری تراشه هوش مصنوعی از ابتدا است.

(طبق گفته کریپتوسلِیت)