GenZ-Ingenieure entwickeln kostenlose KI-Anwendung für Vietnamesen

Als Nguyen Hoang Quan und seine Kollegen bei VILM die USA verließen, um in ihre Heimat zurückzukehren, entwickelten sie ein kostenloses System künstlicher Intelligenz (KI) für Vietnamesen zur Verwendung im Kundendienstbereich, das monatlich über Hunderttausende Mal heruntergeladen wird.

Im Juni 2023 gründeten der 25-jährige Nguyen Hoang Quan und seine Kollegen Pham Nhut Huy (23), ein Ingenieur für künstliche Intelligenz bei ZaloAI, und Dao Minh Dung (24), ein Doktorand an der Universität Cork in Irland, die gemeinnützige Organisation VILM mit dem Wunsch, den Vietnamesen dabei zu helfen, die fortschrittlichste KI-Technologie optimal zu erleben.

Nach fast sechs Monaten Forschung und Anwendung entwickelte das Team erfolgreich drei kostenlose KI-Modelle: OpenHermes, VinaLlama und Vistral. Diese bilden die Grundlage für die Entwicklung von KI-Systemen, die Nutzerabsichten verstehen und entsprechend handeln können (Large Action Model). Diese Modelle finden Anwendung in Technologiefeldern wie Maschinensteuerung, Robotern zur besseren Unterstützung von Menschen mit Behinderungen ohne Pflegekräfte, Programmierern bei der Fehlerbehebung und virtuellen Assistenten zur Kundenbetreuung oder kostenlosen Fragenbeantwortung.

OpenHermes erreicht 85.000 Downloads pro Monat und gehört damit zu den zehn am häufigsten heruntergeladenen Sprachmodellen auf HuggingFace ( der weltweit größten Website zum Teilen von KI-Modellen). Screenshot

Das OpenHermes-Modell ist ein umfangreiches Sprachmodell, das wie ChatGPT Englisch unterstützt, jedoch mit besseren Ergebnissen. Nutzer können das Modell auf ihren PC herunterladen und ohne Internetverbindung nutzen. Die Trainingsdaten von OpenHermes betragen nur ein Hundertstel der Trainingsdaten von ChatGPT von OpenAI. Derzeit wird diese Anwendung monatlich über 50.000 Mal heruntergeladen. OpenHermes-2.5 und OpenHermes-2.5-Vision werden von über 40 Startups im Silicon Valley (USA) eingesetzt.

VinaLlama und Vistral sind zwei Sprachmodelle, die sich auf den vietnamesischen Markt konzentrieren und darauf abzielen, inländischen Benutzern den Zugang zu modernster KI-Technologie zu erleichtern.

Hoang Quan studierte sieben Jahre in den USA und arbeitete bei OpenAI als Forschungsingenieur für das KI-Modell ChatGPT, obwohl er keinen Universitätsabschluss hatte. 2022 arbeitete er als Dateningenieur für Microsoft und OpenAIs Bing Chat-Produkt und verdiente Tausende von Dollar. 2023, als er mit einer Entlassungswelle im Technologiebereich in den USA konfrontiert war, erkannte Quan, dass der Arbeitsmarkt nach dem Studium sehr düster war. Als er jedoch die Möglichkeiten in Vietnam sah, beschloss er, in seine Heimat zurückzukehren.

Nguyen Hoang Quan. Foto: NVCC

Bei VILM ist Quan der Chefingenieur, der für die Erforschung von Datenverbesserungstechniken sowie für das KI-Training verantwortlich ist. Während Nhut Huy die Rolle der technischen Forschung im KI-Training übernimmt und Minh Dung neue Methoden in der theoretischen Forschung vorschlägt.

Quan erklärte, dass aktuelle große Sprachmodelle wie ChatGPT (Large Language Model) nur Textausgaben liefern können, während Menschen viele Möglichkeiten haben, zu kommunizieren und Wissen zu erwerben. Deshalb zielt das Team darauf ab, ein System zu schaffen, das flexibel zwischen verschiedenen Arten von Eingabe und Ausgabe operieren kann (verschiedene Arten von Daten wie Sprache, Bilder, Videos , Töne empfangen und ausgeben kann) und nicht nur auf der Sprachebene stehen bleibt.

Um das Ziel der Erstellung großer Aktionsmodelle zu erreichen, musste das Team zwei Probleme überwinden: Sicherheit und Geschwindigkeit. Aktuelle KI-Anwendungen verwenden meist Benutzerdaten und senden diese zur Verarbeitung an die Server von Unternehmen wie OpenAI, was Sicherheitsbedenken aufwirft. Das Team konzentrierte sich auf die Entwicklung von KI-Modellen, die klein und schnell genug sind, um direkt auf Mobilgeräten verarbeitet zu werden. Gleichzeitig musste ein ausgewogenes Verhältnis zwischen Leistung und Geschwindigkeit geschaffen werden, um das Benutzererlebnis nicht zu beeinträchtigen.

Das experimentelle Team nutzte von KI generierte Daten, um die KI selbst zu trainieren, anstatt Daten aus realen Quellen zu verwenden. Anfangs hatten sie Schwierigkeiten, Rechenressourcen (Computer zum Trainieren der KI) zu finden, konnten aber später große Unternehmen und Labore auf der ganzen Welt als Sponsoren gewinnen.

Quan sagte, der Hauptzweck dieser Produkte bestehe darin, Menschen einen schnellen und qualitativ hochwertigen Zugriff auf KI-Anwendungen zu ermöglichen, der ChatGPT oder Bing Chat in nichts nachsteht, und die Forschung und Erstellung von KI-Modellen in Zukunft zu vereinfachen. Anstatt ChatGPT zu verwenden, das in der vietnamesischen Sprache und Kultur eingeschränkt ist, können vietnamesische Unternehmen VinaLlama auf Vietnamesisch herunterladen.

Das Sprachmodell VinaLlama bewältigt problemlos ein mathematisches Problem auf Vietnamesisch. Auf dem Bild ist eine Demo des VinaLlama-Produkts zur Lösung mathematischer Probleme zu sehen. Screenshot.

Herr Dang Hai Loc, Gründer der KI-Chatbot-Plattform Mindmaid, sagte, er habe aus der Perspektive eines KI-Anwendungsentwicklers erkannt, dass Kosten und Datenschutz die beiden wichtigsten Themen für Unternehmen bei der Bereitstellung von KI-Anwendungen seien. Die beste Lösung hierfür seien Open-Source-LLM-Modelle, die auf der Unternehmensinfrastruktur laufen und mehr unternehmenseigene Daten lernen (verfeinern) können. Daher seien vietnamesische Open-Source-LLM-Modelle wie VinaLlama und Vistral für die Förderung von KI-Anwendungen in Vietnam sehr wertvoll.

„Diese Open-Source-Modelle ermöglichen es außerdem mehr Programmierern und Technologiebegeisterten, mit nur einem MacBook in den Bereich der KI-Ingenieure einzusteigen, anstatt in eine teure GPU-Infrastruktur (Grafikkarte) investieren zu müssen. Dies wird auch die Zahl der KI-Ingenieure in Vietnam steigern, eine Position, die in naher Zukunft sehr gefragt sein wird“, sagte Herr Loc.

Laut Quan verfügen die Vietnamesen über sehr gute wissenschaftliche Grundlagen, sind gut in KI und beschäftigen auch ChatGPT mit Forschungspersonal. Allerdings fällt es ihnen schwerer, mit der sich ständig verändernden Technologie schnell Schritt zu halten. „Die Vietnamesen brauchen Erfahrung in der Herstellung von Produkten für Endnutzer, um die Probleme, mit denen sie konfrontiert werden, wirklich zu verstehen und ihre Forschung richtig auszurichten“, sagte Quan über den Grund für die Erforschung kostenloser KI-Modelle zur Unterstützung der Vietnamesen in der Technologie. Er sagte, er habe mit vielen internationalen Gruppen zusammengearbeitet und sei jederzeit bereit, mit Forschungsgruppen in Vietnam zu kooperieren.

Nhu Quynh

Quellenlink: https://vnexpress.net/nhom-ky-su-genz-lam-ung-dung-tri-tue-nhan-tao-mien-phi-cho-nguoi-viet-4708838.html