Ο Ζάλο και το ταξίδι της υπερνίκησης εμποδίων για την κατάκτηση των εγχώριων φιλοδοξιών

Καθώς ο κόσμος παρακολουθεί την ραγδαία πρόοδο στον τομέα της Τεχνητής Νοημοσύνης των υπερδυνάμεων, η ομάδα μηχανικών τεχνολογίας της Zalo ξεκινά ένα ταξίδι φιλοδοξίας: Να κατακτήσει την τεχνητή νοημοσύνη στα βιετναμέζικα.

Η έκρηξη της γενετικής τεχνητής νοημοσύνης (Generative AI) έχει αλλάξει εντελώς το παγκόσμιο τεχνολογικό τοπίο.

Από τότε που η OpenAI λάνσαρε το ChatGPT στα τέλη του 2022, μια σειρά από παρόμοια μοντέλα LLM έχουν εμφανιστεί συνεχώς, τα οποία εφαρμόζονται σε πολλούς τομείς όπως η υγειονομική περίθαλψη, η εκπαίδευση , τα χρηματοοικονομικά, η νομική... Ο αγώνας έχει γίνει σκληρός, όχι μόνο σε επίπεδο επιχείρησης αλλά και σε εθνικό επίπεδο όσον αφορά την ικανότητα κατάρτισης, την υπολογιστική υποδομή και τα δεδομένα.

Μεγάλες εταιρείες όπως η OpenAI, η Google, η Meta ή η Microsoft με οικονομικό δυναμικό και ευνοϊκές συνθήκες έχουν επενδύσει «γρήγορα» δισεκατομμύρια δολάρια για να αποκτήσουν χιλιάδες GPU υψηλής τεχνολογίας όπως η Nvidia H100 - ο βασικός παράγοντας για την εκπαίδευση μοντέλων LLM. Η τιμή της μετοχής της Nvidia εκτοξεύτηκε κατά τη διάρκεια αυτής της περιόδου, αντανακλώντας τη δίψα του κόσμου για υποδομές.

Εν τω μεταξύ, οι εταιρείες τεχνολογίας στις αναπτυσσόμενες χώρες, εκτός από τα ζητήματα κόστους, αντιμετωπίζουν επίσης περιορισμούς στην εισαγωγή και εξαγωγή εξοπλισμού τσιπ τεχνητής νοημοσύνης από τις ΗΠΑ. Αυτό οδηγεί σε έλλειψη εκπαιδευτικού εξοπλισμού και σε «πιο αργή» απόδοση σε σύγκριση με τους τεχνολογικούς κολοσσούς. Με τις εγχώριες φιλοδοξίες, η Zalo δεν αποτελεί εξαίρεση.

Όσον αφορά τα δεδομένα, τα προηγούμενα προβλήματα μηχανικής μάθησης απαιτούσαν μεγάλες ποσότητες δεδομένων εκπαίδευσης, αλλά για μεγάλα γλωσσικά μοντέλα, αυτή είναι μια τεράστια ποσότητα δεδομένων. Για να υπάρχει ένα αρκετά καλό μοντέλο, το σύστημα LLM απαιτεί δεκάδες ή και εκατοντάδες δισεκατομμύρια διακριτικά κειμένου εισόδου. Εν τω μεταξύ, όσον αφορά τη δημοτικότητα, τα βιετναμέζικα δεν είναι «ισάξια» με τα αγγλικά και τα κινέζικα. Αυτό έχει πολλαπλασιάσει τη δυσκολία για τους Βιετναμέζους προγραμματιστές LLM.

Το 2023, μεγάλα γλωσσικά μοντέλα (LLM) όπως τα GPT-3.5, GPT-4 έχουν κατακλύσει τον κόσμο της τεχνολογίας και πολλές βιετναμέζικες επιχειρήσεις έχουν επίσης επιλέξει μοντέλα που έχουν κατασκευαστεί στο εξωτερικό για να συντομεύσουν τον δρόμο και να προχωρήσουν στη διαδικασία εκπαίδευσης LLM.

Ο Ζάλο επέλεξε μια διαφορετική πορεία - πιο επίπονη, αλλά πιο αυτόνομη: Αυτοεκπαίδευση του μοντέλου από την αρχή (μοντέλο από το μηδέν). Μια πορεία που απαιτεί τα πάντα να κατασκευάζονται από την αρχή - από τα δεδομένα, την αρχιτεκτονική του μοντέλου μέχρι ολόκληρη τη διαδικασία εκπαίδευσης. Αυτή η απόφαση δεν ήταν να ανταγωνιστεί τους γίγαντες, αλλά να πραγματοποιήσει την φιλοδοξία του Βιετναμέζικου λαού: να κατακτήσει το μοντέλο LLM στη μητρική του γλώσσα.

«Προβλέψαμε τις δυσκολίες και παρόλα αυτά αποφασίσαμε να συμμετάσχουμε νωρίς στο παιχνίδι. Δεν ανταγωνιστήκαμε άμεσα τους «μεγάλους», αλλά επιλέξαμε μια εξειδικευμένη αγορά όπου θα μπορούσαμε να τα πάμε καλύτερα. Η φιλοδοξία μας είναι να δημιουργήσουμε ένα μοντέλο που οι Βιετναμέζοι θα ελέγχουν πλήρως - από τα δεδομένα έως τους αλγόριθμους», δήλωσε ο Δρ. Nguyen Truong Son, Διευθυντής Επιστημών στην Zalo AI.

Παρά το γεγονός ότι αντιμετωπίζουν πολλά εμπόδια σε τρεις βασικούς παράγοντες, όπως οι υποδομές, τα δεδομένα και το επίπεδο εκπαίδευσης, οι Βιετναμέζοι μηχανικοί έχουν βρει προληπτικά λύσεις για να ξεπεράσουν τις δυσκολίες. Αυτό καταδεικνύει το πνεύμα και τη δύναμη της θέλησης του βιετναμέζικου λαού σε δύσκολες συνθήκες, ειδικά σε αυτήν την περίπτωση, στην αντιμετώπιση των προκλήσεων στη διαδικασία ανάπτυξης του LLM για τους Βιετναμέζους.

Για την εκπαίδευση στο LLM, οι μηχανικοί χρειάζονταν την κατάλληλη υποδομή. Αλλά εκείνη την εποχή, οι GPU όπως η H100 της Nvidia ήταν σχεδόν «παγκόσμιες σπανιότητες». Εν τω μεταξύ, μεγάλες εταιρείες τις είχαν προπαραγγείλει για ένα χρόνο και πλήρωναν εκατομμύρια δολάρια για να τις αποκτήσουν. Στο Βιετνάμ, η Zalo προσπάθησε επίσης να αγοράσει 8 διακομιστές DGX H100, αλλά δεν ήταν εύκολο, καθώς έπρεπε να περιμένει κάθε παρτίδα παραδόσεων από τον κατασκευαστή.

Ελλείψει των GPU της Nvidia, οι Βιετναμέζοι μηχανικοί έπρεπε να χρησιμοποιούν με ευελιξία τις GPU των καταναλωτών για να πειραματίζονται σε κάθε γραμμή κώδικα και να εκτελούν κάθε μικρό μοντέλο. Αντί να περιμένουν, οι μηχανικοί προετοιμάζονταν προληπτικά, έτσι ώστε όταν θα είχαν σύγχρονο εξοπλισμό, όλα να είναι έτοιμα.

Όσον αφορά τα δεδομένα, αντί να βασίζεται στους διαθέσιμους πόρους, η Zalo επένδυσε στην κατασκευή μιας αποθήκης δεδομένων υψηλής ποιότητας ειδικά για τα Βιετναμέζικα, για να καλύψει τη σοβαρή έλλειψη σε σύγκριση με τα Αγγλικά και τα Κινέζικα.

Χάρη στην ευέλικτη στρατηγική ανάπτυξης, η Zalo μείωσε με επιτυχία τον χρόνο ανάπτυξης του μεγάλου γλωσσικού μοντέλου της από τους αναμενόμενους 18 μήνες σε 6 μήνες. Στο τέλος του 2023, το βιετναμέζικο μοντέλο μεγάλης γλώσσας της Zalo κυκλοφόρησε επίσημα σε μια εκδήλωση που συγκέντρωσε την κορυφαία κοινότητα τεχνολογίας και τεχνητής νοημοσύνης στο Βιετνάμ - Zalo AI Summit. Εδώ, το μοντέλο LLM της Zalo έκανε το ντεμπούτο του μέσω της πρόκλησης Kahoot που έθεσε το Tinhte.vn και ξεπέρασε παραδόξως το GPT 3.5, μόνο πίσω από το GPT4 - το μοντέλο LLM που θεωρούνταν το ισχυρότερο στον κόσμο εκείνη την εποχή.

Με βάση την πλατφόρμα αξιολόγησης VMLU (Vitennian Multitask Language Understanding Benchmark Suite for Large Language Models), το μοντέλο του Zalo είναι 1,5 φορές πιο ισχυρό από το GPT-3.5 του OpenAI. Μέχρι το τέλος του 2024, αυτό το μοντέλο θα ξεπεράσει μεγάλα ονόματα όπως το GPT-4 (OpenAI), το Gemma-2-9B (Google) ή το Phi-3-small (Microsoft), και θα βρίσκεται μόνο πίσω από το LLaMA-3-70B της Meta όσον αφορά την ικανότητα επεξεργασίας βιετναμέζικων στις κατατάξεις του VMLU.

Όχι μόνο σταματώντας στην έρευνα, η Zalo φέρνει σταδιακά την τεχνολογία από το εργαστήριο στη ζωή, εμπορευματοποιώντας και διαδίδοντας προϊόντα εφαρμογών από το LLM.

Στις αρχές του 2025, ο γενικός βοηθός ερωτήσεων και απαντήσεων Kiki Info - που λειτουργούσε ως επίσημος λογαριασμός στην πλατφόρμα Zalo - προσέλκυσε περισσότερους από 1 εκατομμύριο χρήστες σε λιγότερο από 2 μήνες. Μια άλλη εφαρμογή, η Thiep AI, έφτασε επίσης στον εντυπωσιακό αριθμό των 15 εκατομμυρίων καρτών που δημιουργήθηκαν και στάλθηκαν σε μόλις 2 μήνες.

Το ταξίδι της Zalo δεν αφορά μόνο μια εταιρεία που θέλει να αναπτύξει τεχνολογία. Είναι ένα κομμάτι της ευρύτερης εικόνας - όπου το Βιετνάμ προωθεί δυναμικά την καινοτομία, με πολιτικές από το Ψήφισμα 57-NQ/TW για την ανάπτυξη της επιστήμης και της τεχνολογίας και τον εθνικό ψηφιακό μετασχηματισμό. Ιδιαίτερη έμφαση δίνεται στον τομέα της τεχνητής νοημοσύνης.

Η εμφάνιση και η ραγδαία ανάπτυξη του Βιετναμέζικου LLM από το Zalo δεν αποτελεί μόνο ένα τεχνολογικό βήμα προς τα εμπρός για μια επιχείρηση, αλλά και μια απόδειξη της εγγενούς ικανότητας και επιμονής της βιετναμέζικης τεχνολογικής ομάδας.

Με την τεχνική «από το μηδέν» - την εκπαίδευση μοντέλων από το μηδέν, η Zalo επέλεξε τον μακρύ δρόμο, αλλά βοήθησε το Βιετνάμ να κατακτήσει πραγματικά την Τεχνητή Νοημοσύνη. Όχι μόνο όσον αφορά τα αποτελέσματα, αλλά και όσον αφορά ολόκληρη τη διαδικασία, από την αρχιτεκτονική του μοντέλου, τα δεδομένα, τους αλγόριθμους έως τα προϊόντα εφαρμογών. Η επιτυχία της Zalo βοήθησε επίσης το Βιετνάμ να γίνει μια από τις λίγες χώρες της Νοτιοανατολικής Ασίας που διαθέτουν ένα εγχώριο μοντέλο LLM - ένα στρατηγικό ορόσημο στο πλαίσιο του ολοένα και πιο έντονου παγκόσμιου τεχνολογικού ανταγωνισμού.

Στο μακρύ ταξίδι που έχουμε μπροστά μας, η Zalo δεν θα περιοριστεί μόνο σε ένα μοντέλο ή σε μερικά προϊόντα, αλλά θα συνεχίσει να τελειοποιεί το μοντέλο τόσο για να εξυπηρετεί τους χρήστες όσο και για να δημιουργεί μια βιετναμέζικη πλατφόρμα τεχνητής νοημοσύνης με ανταγωνιστική ποιότητα: «Το ταξίδι ανάπτυξης τεχνητής νοημοσύνης της Zalo είναι ακόμα μακρύ. Θα συνεχίσουμε να βελτιστοποιούμε το μοντέλο τόσο σε εύρος όσο και σε βάθος, προωθώντας παράλληλα την πρακτική εφαρμογή. Ο απώτερος στόχος είναι η δημιουργία ποιοτικών προϊόντων τεχνητής νοημοσύνης που εξυπηρετούν πρακτικά τον λαό του Βιετνάμ», πρόσθεσε ο κ. Son.

Η επιτυχημένη ανάπτυξη του βιετναμέζικου LLM από την Zalo δεν αποτελεί μόνο μια σημαντική ανακάλυψη για μια επιχείρηση, αλλά ανοίγει επίσης ένα πιθανό μέλλον για την τεχνητή νοημοσύνη του Βιετνάμ. Η επιμονή και η φιλοδοξία του βιετναμέζικου λαού έχουν οδηγήσει το ταξίδι για την επίτευξη αξιόλογων αποτελεσμάτων. Το μέλλον της βιετναμέζικης τεχνητής νοημοσύνης δεν θα έχει μόνο έναν «Zalo», αλλά και μια γενιά γενναίων μηχανικών να ακολουθήσουν, να κληρονομήσουν και να κατακτήσουν τον κόσμο της τεχνολογίας.

Πηγή: https://znews.vn/zalo-va-hanh-trinh-lam-chu-llm-tieng-viet-post1561765.html