Die Anwendung des vietnamesischen KI-Modells zieht Millionen von Besuchern an.

Das von Zalos vietnamesischem Entwicklerteam entwickelte, umfangreiche Sprachmodell mit 13 Milliarden Parametern ermöglicht eine Reihe praktischer Anwendungen, die monatlich viele Nutzer anziehen. Besonders hervorzuheben ist der umfassende Frage-Antwort-Assistent Kiki Info, der als offizieller Account (OA) auf Zalo fungiert und drei Funktionen bietet: Fragen und Antworten zu verschiedenen Themen wie Wissenschaft, Geschichte, Verkehrsrecht usw.; Erstellung von Inhalten wie das Schreiben von Essays, das Verfassen von E-Mails und das Posten in sozialen Medien; und Unterhaltung durch Vorschläge zu Reisezielen, Musik , Büchern usw.

Statistiken des Entwicklerteams zeigen, dass dieser Assistent innerhalb von knapp 2 Monaten bis zu 1 Million Nutzern den Zugriff auf ihr offizielles Zalo-Konto (OA) ermöglicht hat.

Kiki Info ist in die Messaging-Plattform Zalo integriert.

Eine weitere Anwendung, die mithilfe des umfangreichen Sprachmodells von Zalo entwickelt wurde, sind KI-Grußkarten. Mittlerweile wurden 15 Millionen Karten von Nutzern erstellt und versendet. Diese Daten wurden über einen Zeitraum von zwei Monaten erhoben und zeigen, wie Nutzer KI-Grußkarten verwenden, um Familie und Freunden zu wichtigen Anlässen zu gratulieren.

Diese Apps werden von Nutzern aufgrund ihrer intelligenten Bedienung sehr geschätzt, da sie die Suchzeiten verkürzen und die Entscheidungsfindung im Alltag erleichtern. Sie gestalten außerdem die Kontaktaufnahme mit anderen und den Aufbau von Beziehungen angenehmer und ansprechender.

Das LLM-Modell von Zalo wurde mithilfe einer Cross-Training-Technik entwickelt – dabei werden alle Prozesse von der Parameterinitialisierung und der Entscheidungsfindung zur Modellarchitektur bis hin zum Training von Algorithmen auf einem gegebenen Datensatz implementiert, wodurch vietnamesische Benutzer den Trainingsprozess und das Modell vollständig beherrschen und kontrollieren können.

Ende 2024 erreichte Zalos LLM-Modell den zweiten Platz im VMLU-Ranking – einer Plattform zur Bewertung und zum Ranking der vietnamesischen Sprachkompetenz von LLMs (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models). Konkret stieg Zalos großes Sprachmodell auf Platz 2 im Ranking der von Grund auf trainierten Modelle auf, direkt hinter Metas Llama-3-70B, und überholte damit namhafte Modelle wie GPT-4 (OpenAI), gemma-2-9b-it (Google) und microsoft/Phi-3-small-128k-instruct (Microsoft).

Die Rangliste der LLMs für 2024 wurde von Grund auf neu erstellt, wobei das LLM-Modell von Zalo auf Platz 2 liegt.

Dies war ein enormer Erfolg für eine von Vietnamesen entwickelte Programmiersprache im großen Stil, insbesondere angesichts der zahlreichen Einschränkungen in ihrer Anfangsphase. Während große Unternehmen weltweit Tausende der neuesten GPUs von Nvidia besaßen, verfügten die Ingenieure in Vietnam zu dieser Zeit noch nicht über die notwendige Serverinfrastruktur.

Gleichzeitig zählt Vietnamesisch zu den Sprachen mit deutlich schlechteren Datenressourcen als Englisch oder Chinesisch. Darüber hinaus weist Vietnam im Vergleich zu Industrieländern weltweit Defizite im Bereich der personellen Ressourcen und Erfahrung in der Ausbildung von LLM-Absolventen auf.

Zalo verfolgte eine Entwicklungsstrategie, um die Einschränkungen seiner Trainingsumgebung im Vergleich zum Rest der Welt zu überwinden. Durch die Ausstattung seiner Recheninfrastruktur mit 8 DGX H100-Servern wurde das LLM-Modell direkt mit den damals neuesten und seltensten GPUs von Nvidia entwickelt, mit einer Leistung von bis zu 256 PetaFLOPS (Gleitkommaoperationen pro Sekunde – ein PetaFLOPS entspricht 10 Billiarden Berechnungen pro Sekunde).

Das Serversystem von Zalo verfügt über überlegene Verarbeitungskapazitäten.

Gleichzeitig wurde in die Entwicklung hochwertiger Trainingsdaten investiert, um den Mangel an vietnamesischsprachigen Datenquellen auszugleichen. Durch eine Reihe von Studien auf kleinen Consumer-GPUs nutzten die Zalo-Ingenieure zudem die Gelegenheit, Kenntnisse und Trainingskapazitäten im Bereich des Sprachlernens zu erwerben und so eine Grundlage für den Einsatz mit einer späteren, großflächigen Recheninfrastruktur zu schaffen.

Die richtige Entwicklungsstrategie hat Zalo geholfen, 2023 innerhalb von nur sechs Monaten Training ein umfangreiches Sprachmodell mit sieben Milliarden Parametern für Vietnamesisch zu entwickeln. Im Vergleich zu OpenAIs GPT-3.5 erreichte es auf dem VMLU-Benchmark 150 % der Leistungsfähigkeit. Aktuell hat es im VMLU-Ranking 2024 zahlreiche internationale Konkurrenten überholt und stellt sein Forschungsmodell nun der wissenschaftlichen Gemeinschaft in der Praxis zur Verfügung.

Das LLM-Modell von Zalo konkurrierte bei seiner Markteinführung im Jahr 2023 mit einer Reihe globaler Modelle wie ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT und einem realen Anbieter.

Laut Zalo wird das LLM-Modell weiterhin in Schulungen investiert, um Nutzern erstklassige KI-Anwendungen bereitzustellen. Dies ermöglicht es ihnen, fortschrittliche KI-Technologien zu beherrschen und so eine neue Ära der technologischen Entwicklung für das Land einzuleiten – mit einem wegweisenden Fokus auf Wissenschaft , Technologie, Innovation und die nationale digitale Transformation.

Kommentar (0)