Η MediaTek χρησιμοποιεί την πλατφόρμα Llama 2 της Meta για να βελτιώσει την γενετική τεχνητή νοημοσύνη

[διαφήμιση_1]

ΣΓΚΠΟ 25 Αυγούστου 2023 10:37

Η MediaTek, η παγκόσμια εταιρεία ημιαγωγών, ανακοίνωσε ότι συνεργάζεται στενά με το Llama 2 της Meta, το μοντέλο μεγάλης γλώσσας ανοιχτού κώδικα (LLM) επόμενης γενιάς της εταιρείας.

Η MediaTek στοχεύει στην κατασκευή ενός ολοκληρωμένου οικοσυστήματος edge computing

Χρησιμοποιώντας το LLM της Meta, καθώς και τις πιο πρόσφατες APU της MediaTek και την πλατφόρμα τεχνητής νοημοσύνης NeuroPilot, η MediaTek στοχεύει στη δημιουργία ενός ολοκληρωμένου οικοσυστήματος edge computing, σχεδιασμένου για να επιταχύνει την ανάπτυξη εφαρμογών τεχνητής νοημοσύνης σε smartphones, IoT, οχήματα, έξυπνα σπίτια και άλλες συσκευές edge computing.

Προς το παρόν, το μεγαλύτερο μέρος της επεξεργασίας γενετικής τεχνητής νοημοσύνης (GPU) γίνεται μέσω του cloud. Ωστόσο, η χρήση των μοντέλων Llama 2 της MediaTek θα επιτρέψει στις εφαρμογές γενετικής τεχνητής νοημοσύνης να εκτελούνται απευθείας στη συσκευή.

Αυτό προσφέρει μια σειρά από οφέλη για τους προγραμματιστές και τους χρήστες, όπως ομαλή απόδοση, βελτιωμένο απόρρητο, περισσότερη ασφάλεια και αξιοπιστία, χαμηλότερη καθυστέρηση, αυξημένη δυνατότητα εργασίας σε περιοχές με ελάχιστη ή καθόλου συνδεσιμότητα και χαμηλότερο λειτουργικό κόστος.

Για να αξιοποιήσουν πραγματικά την παραγωγική τεχνητή νοημοσύνη (generative AI) σε συσκευές edge computing, οι κατασκευαστές συσκευών edge θα πρέπει να υιοθετήσουν επεξεργαστές AI υψηλής τεχνολογίας και χαμηλής κατανάλωσης ενέργειας, καθώς και ταχύτερη και πιο αξιόπιστη συνδεσιμότητα για την ενίσχυση των υπολογιστικών δυνατοτήτων. Κάθε ένα από τα τσιπ 5G για κινητά της MediaTek σήμερα είναι εξοπλισμένο με APU σχεδιασμένες να εκτελούν μια ποικιλία λειτουργιών παραγωγικής τεχνητής νοημοσύνης, όπως μείωση θορύβου AI, βελτίωση ανάλυσης AI και πολλά άλλα.

Επιπλέον, ο κορυφαίος επεξεργαστής επόμενης γενιάς της MediaTek, ο οποίος αναμένεται να παρουσιαστεί αργότερα φέτος, θα διαθέτει βελτιστοποιημένο software stack για την εκτέλεση του Llama 2, μαζί με αναβαθμισμένη APU με επιτάχυνση πυρήνα Transformer, μειωμένη χρήση περιοχής DRAM και εύρους ζώνης, καθώς και περαιτέρω βελτιωμένη απόδοση LLM και AIGC. Αυτές οι εξελίξεις διευκολύνουν την ταχεία ανάπτυξη περιπτώσεων χρήσης γενετικής τεχνητής νοημοσύνης σε συσκευές.

Η MediaTek αναμένει ότι οι εφαρμογές τεχνητής νοημοσύνης που βασίζονται στο Llama 2 θα είναι διαθέσιμες σε smartphones εξοπλισμένα με το κορυφαίο SoC επόμενης γενιάς, το οποίο αναμένεται να κυκλοφορήσει στην αγορά αργότερα φέτος.

[διαφήμιση_2]
Πηγή