Das weltweite Interesse an KI wächst. Dabei konzentriert sich die Aufmerksamkeit vor allem auf Länder mit führenden KI-Modellen, wie die USA und China. Südostasien – eine der wichtigsten Wirtschaftsregionen der Welt – entwickelt sich zunehmend zu einem neuen KI-Hotspot mit bedeutenden Fortschritten, die für globale politische Entscheidungsträger, Investoren und Technologieexperten interessant sein könnten.
Auch in Vietnam sind Partei und Regierung entschlossen, die technologische Entwicklung des Landes zu gestalten und voranzutreiben. Dies zeigt sich in der Resolution 57-NQ/TW über Durchbrüche in Wissenschaft und Technologie, Innovation und nationaler digitaler Transformation. Diese Ausrichtung hat eine starke Triebkraft für einheimische Technologieunternehmen geschaffen, in das Potenzial fortschrittlicher globaler Technologien zu investieren und es zu nutzen.
Vietnam ist mittlerweile eines der wenigen Länder Südostasiens mit einem nationalen LLM-Modell (Large Language Model). Seit 2023 hat Zalo erfolgreich ein LLM-Modell mit Schwerpunkt Vietnamesisch entwickelt und auf den Markt gebracht, das vollständig von einem Team vietnamesischer Ingenieure erforscht und entwickelt wurde.
Wählen Sie ein Training von Grund auf und erzielen Sie unerwartete Ergebnisse
Derzeit verfügen KI-Modelle über zwei Trainingstechniken: Die Technik der fein abgestimmten Modelle ist die Methode zur Optimierung zuvor trainierter LLMs, um neue LLMs für spezielle Zwecke zu erstellen. Die Trainingstechnik für Modelle von Grund auf ist der Prozess des Erstellens eines völlig neuen Modells, von der Parameterinitialisierung über die Entscheidung über die Modellarchitektur bis hin zum Trainingsalgorithmus anhand eines bestimmten Datensatzes.
Viele Unternehmen entscheiden sich aufgrund ihrer Vorteile wie einfacher Implementierung, Ressourceneinsparung und höherer Effizienz für Feinabstimmungstechniken. Insbesondere in Vietnam, wo Schulungsgeräte und Daten begrenzt sind, sind Feinabstimmungstechniken eine hervorragende Lösung.
Zalo hat sich jedoch von Anfang an für diese Trainingsmethode entschieden. Bei dieser Methode liegt der gesamte Trainingsprozess und das Modell vollständig in der Hand der Vietnamesen und wird von ihnen kontrolliert. Dadurch ist Vietnam eines der wenigen Länder Südostasiens, das über ein im Inland entwickeltes großes Sprachmodell (LLM) verfügt.
Bei seiner Markteinführung im Jahr 2023 erreichte Zalos erstes groß angelegtes, auf Vietnamesisch fokussiertes Sprachmodell mit 7 Milliarden Parametern im Vergleich zu OpenAIs GPT3.5 im VMLU Vietnamese LLM Competency Benchmark eine um 150 % höhere Leistung. Die Trainingszeit betrug nur sechs Monate und war damit deutlich kürzer als der ursprüngliche 18-Monats-Plan. Dieser schnelle Trainingsprozess überraschte das gesamte Zalo-Entwicklungsteam.
Das LLM-Modell von Zalo erreichte bei seiner Erstveröffentlichung im Jahr 2023 den 3. Platz bei der Kahoot-Challenge (Foto: Zalo).
Im Jahr 2024 übertraf Zalos 13 Milliarden Parameter umfassendes Modell die großen Namen der Welt und bestätigte seine Position als eines der beiden besten vietnamesischen LLM-Modelle, die von Grund auf im vietnamesischen LLM-Kompetenzranking der VMLU trainiert wurden.
Die Ergebnisse zeigen, dass das Trainingsniveau großer Sprachmodelle dem weltweiten in nichts nachsteht und Vietnam ein eigenes KI-Modell entwickeln kann, insbesondere im Kontext der anfänglichen Entwicklung, die mit vielen Schwierigkeiten konfrontiert ist.
Vietnamesische Bemühungen zur Entwicklung von KI-Modellen
Ein Vertreter von Zalo erklärte, dass die LLM-Ausbildung drei Kernelemente erfordert: Trainingsausrüstung, Daten und technisches Niveau. Bisher gab es in Vietnam in allen drei Bereichen viele Einschränkungen. Während große Unternehmen weltweit Tausende der neuesten Hochleistungs-GPUs von Nvidia besitzen, verfügen Ingenieure in Vietnam nicht über die erforderliche Serverinfrastruktur. Gleichzeitig gehören Vietnamesen zu den Ländern mit schlechteren Datenressourcen als Engländer oder Chinesen. Auch die Humanressourcen und die Erfahrung in der LLM-Ausbildung sind im Vergleich zu Industrieländern begrenzt.
Das Zalo-Team musste damals an kleinen zivilen GPUs forschen und experimentieren, um Wissen und Trainingskapazitäten für LLM zu gewinnen, die bereit waren, sobald eine große Computerinfrastruktur verfügbar war.
KI-Trainingschips sind rar. Obwohl Zalo acht Nvidia DGX H100-Server bestellt hat, kann es nicht alle Geräte gleichzeitig besitzen und muss auf die Lieferung jedes einzelnen Charges vom Hersteller warten. Daher ist die Optimierung der unvollständigen Computerinfrastruktur, um Trainingszeit zu sparen, ein weiteres Problem, das das Zalo-Team lösen muss.
Gleichzeitig wird auch in hochwertige Trainingsdaten investiert, um den Mangel an vietnamesischen Datenquellen auszugleichen.
Obwohl Zalo im Vergleich zu großen Unternehmen weltweit eine schwierige Ausgangslage hatte, entschied sich das Unternehmen, in den Wettbewerb einzusteigen, um erfolgreich ein eigenes vietnamesisches KI-Modell zu entwickeln. Wir haben uns mit Forschern und Ingenieuren vieler führender Forschungsinstitute weltweit beraten, um eine geeignete Entwicklungsstrategie zu entwickeln.
„Die aktuellen Erfolgsmeilensteine motivieren die Zalo-Ingenieure, das Modell weiter zu optimieren, um es in größerer Menge und in besserer Qualität zu realisieren. Gleichzeitig nutzen wir die Anwendbarkeit, um viele erstklassige KI-Produkte für vietnamesische Nutzer zu entwickeln“, erklärte Dr. Nguyen Truong Son, Wissenschaftlicher Leiter von Zalo AI.
DGX H100-Server, den Zalo bei Nvidia bestellt hat (Foto: Zalo).
Dank flexibler Anpassung in den schwierigen frühen Entwicklungsphasen hat Zalo nach und nach erfolgreiche Meilensteine erreicht und bewegt sich auf dem Weg zur Beherrschung der globalen KI-Technologie, wie sie heute ist.
Derzeit ist Zalos KI-Modell nicht nur in der Trainingsforschung erfolgreich, sondern wird auch in der Praxis eingesetzt, indem es den Vietnamesen den Zugang zu und die Nutzung des Werts fortschrittlicher neuer Technologien erleichtert.
Anfang des Jahres startete Zalo den Kiki Info Q&A Assistant, der als offizieller Account (OA) auf der Zalo-Messaging-Plattform betrieben wird. Der Assistent unterstützt Fragen und Antworten zu verschiedenen Themen aus den Bereichen Leben, Content-Erstellung und Unterhaltung. Laut Zalo-Statistiken griffen in weniger als zwei Monaten 1 Million Nutzer auf den OA-Account des Kiki Info Assistant auf Zalo zu.
Das LLM-Modell von Zalo wird zur Entwicklung des Kiki Info Assistant angewendet (Foto: Zalo).
Eine weitere Anwendung des LLM-Modells von Zalo sind KI-Karten. Auch hier wurde der Meilenstein von 15 Millionen erstellten und versendeten Karten in nur zwei Monaten erreicht. Viele Zalo-Nutzer nutzen diese Anwendung, um Verwandten und Freunden zu wichtigen Feiertagen Glückwünsche zu senden.
Derzeit werden von Zalo weiterhin Anwendungen aus großen Sprachmodellen erweitert und weiterentwickelt, die versprechen, den Privatanwendern viele nützliche Werte zu bieten.
Quelle: https://dantri.com.vn/cong-nghe/zalo-phat-trien-mo-hinh-ai-do-nguoi-viet-lam-chu-20250616161352610.htm
Kommentar (0)