MediaTek wykorzystuje platformę Llama 2 firmy Meta do udoskonalania generatywnej sztucznej inteligencji

SGGPO 25 sierpnia 2023 10:37

MediaTek, globalna firma produkująca półprzewodniki, poinformowała o ścisłej współpracy z Llama 2 firmy Meta, będącym następczą generacją otwartego modelu programowania dużych języków (LLM).

MediaTek ma zamiar zbudować kompletny ekosystem przetwarzania brzegowego

Wykorzystując program LLM firmy Meta, a także najnowsze układy APU i platformę sztucznej inteligencji NeuroPilot firmy MediaTek, MediaTek zamierza zbudować kompletny ekosystem przetwarzania brzegowego, zaprojektowany w celu przyspieszenia rozwoju aplikacji AI na smartfony, IoT, pojazdy, inteligentne domy i inne urządzenia przetwarzania brzegowego.

Obecnie większość generatywnego przetwarzania AI odbywa się w chmurze. Jednak wykorzystanie modeli Llama 2 firmy MediaTek umożliwi uruchamianie generatywnych aplikacji AI bezpośrednio na urządzeniu.

Zapewnia to szereg korzyści dla deweloperów i użytkowników, w tym płynną pracę, zwiększoną prywatność, większe bezpieczeństwo i niezawodność, mniejsze opóźnienia, większą możliwość pracy w obszarach o słabym lub zerowym dostępie do łączności oraz niższe koszty operacyjne.

Aby w pełni wykorzystać potencjał generatywnej sztucznej inteligencji (AI) w urządzeniach brzegowych, producenci tych urządzeń będą musieli wdrożyć zaawansowane, energooszczędne procesory AI oraz szybszą i bardziej niezawodną łączność, aby zwiększyć możliwości obliczeniowe. Każdy z mobilnych układów scalonych 5G firmy MediaTek jest obecnie wyposażony w układy APU zaprojektowane do realizacji szeregu funkcji generatywnej AI, takich jak redukcja szumów AI, poprawa rozdzielczości AI i inne.

Dodatkowo, flagowy procesor MediaTek nowej generacji, którego premiera planowana jest jeszcze w tym roku, będzie wyposażony w zoptymalizowany stos oprogramowania do obsługi Llama 2, a także ulepszony układ APU z akceleracją rdzenia Transformer, zmniejszonym obszarem pamięci DRAM i mniejszym wykorzystaniem przepustowości oraz jeszcze lepszą wydajnością LLM i AIGC. Te udoskonalenia ułatwią szybki rozwój zastosowań generatywnej sztucznej inteligencji na urządzeniach.

MediaTek spodziewa się, że aplikacje AI bazujące na platformie Llama 2 będą dostępne na smartfonach wyposażonych w flagowy układ SoC nowej generacji, który ma trafić na rynek jeszcze w tym roku.

Źródło: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html