مدیاتک از پلتفرم Llama 2 شرکت Meta برای بهبود هوش مصنوعی مولد استفاده می‌کند

SGGPO ۲۵ آگوست ۲۰۲۳، ساعت ۱۰:۳۷

مدیاتک، شرکت جهانی تولیدکننده نیمه‌هادی، اعلام کرده است که با Llama 2 شرکت متا، نسل بعدی مدل زبان بزرگ متن‌باز (LLM) این شرکت، همکاری نزدیکی دارد.

مدیاتک قصد دارد یک اکوسیستم کامل محاسبات لبه‌ای بسازد

مدیاتک با استفاده از مدرک کارشناسی ارشد مدیریت فناوری اطلاعات (LLM) شرکت متا و همچنین جدیدترین APUهای مدیاتک و پلتفرم هوش مصنوعی NeuroPilot، قصد دارد یک اکوسیستم کامل محاسبات لبه‌ای (edge computing) بسازد که برای تسریع توسعه برنامه‌های هوش مصنوعی در تلفن‌های هوشمند، اینترنت اشیا، وسایل نقلیه، خانه‌های هوشمند و سایر دستگاه‌های محاسبات لبه‌ای طراحی شده است.

در حال حاضر، بیشتر پردازش‌های هوش مصنوعی مولد از طریق فضای ابری انجام می‌شود. با این حال، استفاده از مدل‌های Llama 2 مدیاتک به برنامه‌های هوش مصنوعی مولد اجازه می‌دهد تا مستقیماً روی دستگاه اجرا شوند.

این امر مزایای متعددی را برای توسعه‌دهندگان و کاربران ارائه می‌دهد، از جمله عملکرد روان، افزایش حریم خصوصی، امنیت و قابلیت اطمینان بیشتر، تأخیر کمتر، افزایش توانایی کار در مناطقی با اتصال کم یا بدون اتصال و هزینه‌های عملیاتی کمتر.

برای بهره‌برداری واقعی از هوش مصنوعی مولد در دستگاه‌های محاسبات لبه، سازندگان دستگاه‌های لبه باید پردازنده‌های هوش مصنوعی رده بالا و کم‌مصرف و اتصال سریع‌تر و قابل اعتمادتری را برای افزایش قابلیت‌های محاسباتی به کار گیرند. هر یک از تراشه‌های موبایل 5G مدیاتک امروزه مجهز به APUهایی هستند که برای انجام انواع ویژگی‌های هوش مصنوعی مولد، مانند کاهش نویز هوش مصنوعی، افزایش وضوح هوش مصنوعی و موارد دیگر طراحی شده‌اند.

علاوه بر این، پردازنده پرچمدار نسل بعدی مدیاتک که انتظار می‌رود اواخر امسال معرفی شود، دارای یک پشته نرم‌افزاری بهینه‌شده برای اجرای Llama 2 به همراه یک APU ارتقا یافته با شتاب‌دهنده هسته Transformer، کاهش استفاده از فضای DRAM و پهنای باند و بهبود بیشتر عملکرد LLM و AIGC خواهد بود. این پیشرفت‌ها، توسعه سریع موارد استفاده از هوش مصنوعی مولد روی دستگاه را تسهیل می‌کند.

مدیاتک انتظار دارد برنامه‌های هوش مصنوعی مبتنی بر Llama 2 در گوشی‌های هوشمند مجهز به تراشه پرچمدار نسل بعدی این شرکت که قرار است اواخر امسال به بازار عرضه شود، در دسترس باشد.

منبع