Ingenieure der Generation Z entwickeln kostenlose Anwendungen für künstliche Intelligenz für Vietnamesen.

Nach seiner Rückkehr aus den USA in seine Heimat entwickelten Nguyen Hoang Quan und seine Kollegen bei VILM ein kostenloses System für künstliche Intelligenz (KI), das von Vietnamesen im Kundendienst eingesetzt werden kann und monatlich über 100.000 Downloads verzeichnet.

Im Juni 2023 gründeten Nguyen Hoang Quan (25 Jahre) und seine Kollegen Pham Nhut Huy (23 Jahre), ein KI-Ingenieur bei ZaloAI, und Dao Minh Dung (24 Jahre), ein Doktorand an der Universität Cork in Irland, die gemeinnützige Organisation VILM mit dem Ziel, den Vietnamesen den bestmöglichen Zugang zu modernster KI-Technologie zu ermöglichen.

Nach fast sechs Monaten Forschung und Anwendung entwickelte das Team erfolgreich drei kostenlose KI-Modelle: OpenHermes, VinaLlama und Vistral. Diese bilden die Grundlage für die Entwicklung von KI-Systemen, die Nutzerwünsche verstehen und entsprechend handeln können (Modell der großen Aktionen). Die Modelle eignen sich für Anwendungen in Technologiebereichen wie Maschinensteuerung, Roboterunterstützung für Menschen mit Behinderungen ohne Pflegekräfte, Fehlerbehebung für Programmierer sowie virtuelle Assistenten für die Kundenbetreuung und die Beantwortung von Fragen.

OpenHermes erreicht 85.000 Downloads pro Monat und gehört damit zu den zehn meist heruntergeladenen Sprachmodellen auf HuggingFace ( der weltweit größten Plattform zum Teilen von KI-Modellen). Screenshot

Das OpenHermes-Modell ist ein umfangreiches Sprachmodell, das Englisch ähnlich wie ChatGPT unterstützt, jedoch mit deutlich besseren Ergebnissen. Nutzer können das Modell auf ihre PCs herunterladen und offline verwenden. Bemerkenswert ist, dass die Trainingsdaten von OpenHermes nur ein Hundertstel der Trainingsdaten von ChatGPT (OpenAI) umfassen. Aktuell verzeichnet die Anwendung über 50.000 Downloads pro Monat. OpenHermes-2.5 und OpenHermes-2.5-Vision werden von mehr als 40 Startups im Silicon Valley (USA) eingesetzt.

VinaLlama und Vistral sind zwei Sprachmodelle, die sich auf den vietnamesischen Markt konzentrieren und darauf abzielen, einheimischen Nutzern den Zugang zu modernster KI-Technologie zu erleichtern.

Hoang Quan studierte sieben Jahre lang in den USA und arbeitete bei OpenAI als Forschungsingenieur für das KI-Modell ChatGPT, obwohl er keinen Universitätsabschluss besaß. 2022 arbeitete er als Dateningenieur für Microsoft und OpenAIs Bing Chat und verdiente mehrere Tausend Dollar. Angesichts einer Entlassungswelle im Technologiesektor in den USA erkannte Quan 2023, dass der Arbeitsmarkt für Hochschulabsolventen sehr düster aussah. Da er jedoch in Vietnam Chancen sah, beschloss er, in seine Heimat zurückzukehren.

Nguyen Hoang Quan. Foto: NVCC

Bei VILM ist Quan als leitender Ingenieur für die Erforschung von Datenverbesserungstechniken sowie KI-Training zuständig. Nhut Huy übernimmt die technische Forschung im Bereich KI-Training, und Minh Dung entwickelt neue Methoden in der theoretischen Forschung.

Quan erklärte, dass aktuelle große Sprachmodelle wie ChatGPT (Large Language Model) lediglich Text ausgeben können, während Menschen über vielfältige Kommunikations- und Wissensaneignungsmöglichkeiten verfügen. Daher strebt das Team die Entwicklung eines Systems an, das flexibel mit verschiedenen Eingabe- und Ausgabetypen umgehen kann (Daten wie Sprache, Bilder, Videos und Töne empfangen und ausgeben kann) und nicht nur auf der Sprachebene beschränkt bleibt.

Um das Ziel der Entwicklung großer Aktionsmodelle zu erreichen, musste das Team zwei Herausforderungen meistern: Sicherheit und Geschwindigkeit. Aktuelle KI-Anwendungen nutzen meist Nutzerdaten und senden diese zur Verarbeitung an Server von Unternehmen wie OpenAI, was Sicherheitsbedenken aufwirft. Das Team konzentrierte sich daher auf die Entwicklung von KI-Modellen, die klein und schnell genug sind, um direkt auf Mobilgeräten verarbeitet zu werden, und achtete dabei auf ein ausgewogenes Verhältnis zwischen Leistung und Geschwindigkeit, um die Benutzerfreundlichkeit nicht zu beeinträchtigen.

Das Forschungsteam nutzte KI-generierte Daten, um die KI selbst zu trainieren, anstatt auf Daten aus realen Quellen zurückzugreifen. Anfangs hatten sie Schwierigkeiten, Rechenressourcen (Computer für das KI-Training) zu finden, konnten aber später große Unternehmen und Forschungseinrichtungen weltweit als Sponsoren gewinnen.

Quan erklärte, der Hauptzweck dieser Produkte sei es, Nutzern einen schnellen und qualitativ hochwertigen Zugang zu KI-Anwendungen zu ermöglichen, der ChatGPT oder Bing Chat in nichts nachsteht, und die Forschung und Entwicklung von KI-Modellen zukünftig zu vereinfachen. Anstatt ChatGPT zu nutzen, das in Bezug auf Sprache und Kultur Vietnams eingeschränkt ist, können vietnamesische Unternehmen VinaLlama in vietnamesischer Sprache herunterladen.

Das Sprachmodell von VinaLlama löst problemlos mathematische Probleme auf Vietnamesisch. Das Bild zeigt eine Demo von VinaLlama bei der Lösung eines mathematischen Problems. Screenshot.

Herr Dang Hai Loc, Gründer der KI-Chatbot-Plattform Mindmaid, erklärte, dass aus der Perspektive eines KI-Anwendungsentwicklers Kosten und Datenschutz die beiden wichtigsten Bedenken von Unternehmen beim Einsatz von KI-Anwendungen darstellen. Die beste Lösung hierfür seien Open-Source-LLM-Modelle, die auf der Unternehmensinfrastruktur laufen und anhand der unternehmenseigenen Daten besser lernen (optimieren) können. Daher seien vietnamesische Open-Source-LLM-Modelle wie VinaLlama und Vistral für die Förderung von KI-Anwendungen in Vietnam von großem Wert.

„Diese Open-Source-Modelle ermöglichen es mehr Programmierern und Technologiebegeisterten, mit einem einfachen MacBook in den Bereich der KI-Ingenieure einzusteigen, anstatt in teure GPU-Infrastruktur (Grafikkarte) investieren zu müssen. Dies wird auch den Bedarf an KI-Ingenieuren in Vietnam fördern, einem Beruf, der in naher Zukunft stark nachgefragt sein wird“, sagte Herr Loc.

Laut Quan verfügen Vietnamesen über ein sehr gutes wissenschaftliches Fundament und sind im Bereich KI versiert. Auch ChatGPT beschäftigt Forschungskräfte, hat aber Schwierigkeiten, mit dem rasanten technologischen Fortschritt Schritt zu halten. „Was Vietnamesen brauchen, ist Erfahrung in der Produktentwicklung für Endnutzer, um deren Probleme wirklich zu verstehen und ihre Forschung entsprechend auszurichten“, erklärte Quan die Motivation für die Entwicklung freier KI-Modelle zur Unterstützung der vietnamesischen Technologie. Er betonte, bereits mit vielen internationalen Gruppen zusammengearbeitet zu haben und jederzeit bereit zu sein, mit Forschungsgruppen in Vietnam zu kooperieren.

Nhu Quynh

Quellenlink: https://vnexpress.net/nhom-ky-su-genz-lam-ung-dung-tri-tue-nhan-tao-mien-phi-cho-nguoi-viet-4708838.html