MediaTek wykorzystuje platformę Llama 2 firmy Meta do udoskonalania generatywnej sztucznej inteligencji

SGGPO 25.08.2023 10:37

MediaTek, globalna firma produkująca półprzewodniki, poinformowała o nawiązaniu ścisłej współpracy z Llama 2 firmy Meta, będącym następczą generacją otwartego modelu programowania dużych języków (LLM).

MediaTek dąży do zbudowania kompletnego ekosystemu przetwarzania brzegowego

Wykorzystując program LLM firmy Meta, a także najnowsze układy APU i platformę sztucznej inteligencji NeuroPilot firmy MediaTek, MediaTek zamierza zbudować kompletny ekosystem przetwarzania brzegowego, zaprojektowany w celu przyspieszenia rozwoju aplikacji AI na smartfony, IoT, pojazdy, inteligentne domy i inne urządzenia przetwarzania brzegowego.

Obecnie większość przetwarzania generatywnej sztucznej inteligencji (AI) odbywa się w chmurze. Jednak wykorzystanie modeli Llama 2 firmy MediaTek umożliwi uruchamianie aplikacji generatywnej AI bezpośrednio na urządzeniu.

Zapewnia to szereg korzyści dla deweloperów i użytkowników, w tym płynną pracę, zwiększoną prywatność, większe bezpieczeństwo i niezawodność, mniejsze opóźnienia, większą możliwość pracy w obszarach o słabym lub zerowym dostępie do łączności oraz niższe koszty operacyjne.

Aby w pełni wykorzystać generatywną sztuczną inteligencję w urządzeniach brzegowych, producenci tych urządzeń będą musieli wdrożyć zaawansowane, energooszczędne procesory AI oraz szybszą i bardziej niezawodną łączność, aby zwiększyć możliwości obliczeniowe. Każdy z mobilnych układów scalonych 5G firmy MediaTek jest obecnie wyposażony w układy APU zaprojektowane do realizacji szeregu funkcji generatywnej AI, takich jak redukcja szumów AI, poprawa rozdzielczości AI i inne.

Ponadto, flagowy procesor MediaTek nowej generacji, którego premiera planowana jest na koniec tego roku, będzie wyposażony w zoptymalizowany stos oprogramowania do obsługi Llama 2, a także ulepszony układ APU z akceleracją rdzenia Transformer, zmniejszonym obszarem pamięci DRAM i mniejszym wykorzystaniem przepustowości, a także jeszcze lepszą wydajnością LLM i AIGC. Te udoskonalenia ułatwią szybkie opracowywanie zastosowań dla generatywnej sztucznej inteligencji na urządzeniach.

MediaTek spodziewa się, że aplikacje AI bazujące na platformie Llama 2 będą dostępne na smartfonach wyposażonych w flagowy układ SoC nowej generacji, który ma trafić na rynek jeszcze w tym roku.

Źródło: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html