Als Nguyen Hoang Quan und seine Kollegen bei VILM die USA verließen, um in ihre Heimat zurückzukehren, entwickelten sie ein kostenloses System künstlicher Intelligenz (KI) für Vietnamesen zur Verwendung im Kundendienstbereich, das jeden Monat über Hunderttausende Mal heruntergeladen wird.
Im Juni 2023 gründeten der 25-jährige Nguyen Hoang Quan und seine Kollegen Pham Nhut Huy (23), ein Ingenieur für künstliche Intelligenz bei ZaloAI, und Dao Minh Dung (24), ein Doktorand an der Universität Cork in Irland, die gemeinnützige Organisation VILM mit dem Wunsch, den Vietnamesen dabei zu helfen, die fortschrittlichste KI-Technologie optimal zu erleben.
Nach fast sechs Monaten Forschung und Anwendung entwickelte das Team erfolgreich drei kostenlose KI-Modelle: OpenHermes, VinaLlama und Vistral. Diese bilden die Grundlage für die Entwicklung von KI-Systemen, die Nutzerabsichten verstehen und entsprechend handeln können (Large Action Model). Diese Modelle finden Anwendung in Technologiefeldern wie Maschinensteuerung, Robotern, die Menschen mit Behinderungen ohne Betreuungspersonen besser unterstützen, Programmierern bei der Fehlerbehebung helfen oder virtuellen Assistenten, die sich um Kunden kümmern oder kostenlos Fragen stellen.
OpenHermes erreicht 85.000 Downloads pro Monat und gehört damit zu den zehn am häufigsten heruntergeladenen Sprachmodellen auf HuggingFace ( der weltweit größten Plattform zum Teilen von KI-Modellen). Screenshot
Das OpenHermes-Modell ist ein umfangreiches Sprachmodell, das wie ChatGPT Englisch unterstützt, jedoch mit besseren Ergebnissen. Nutzer können das Modell auf ihren PC herunterladen und ohne Internetverbindung nutzen. Die Trainingsdaten von OpenHermes betragen nur ein Hundertstel der Trainingsdaten von ChatGPT von OpenAI. Derzeit wird diese Anwendung monatlich über 50.000 Mal heruntergeladen. OpenHermes-2.5 und OpenHermes-2.5-Vision werden von über 40 Startups im Silicon Valley (USA) eingesetzt.
VinaLlama und Vistral sind zwei Sprachmodelle, die sich auf den vietnamesischen Markt konzentrieren und darauf abzielen, inländischen Benutzern den Zugang zu modernster KI-Technologie zu erleichtern.
Hoang Quan studierte sieben Jahre in den USA und arbeitete trotz fehlendem Universitätsabschluss bei OpenAI als Forschungsingenieur für das Künstliche-Intelligenz-Modell ChatGPT. 2022 arbeitete er als Dateningenieur für Microsoft und OpenAIs Bing-Chat-Produkt und verdiente Tausende von Dollar. 2023, angesichts einer Entlassungswelle im Technologiesektor in den USA, erkannte Quan, dass der Arbeitsmarkt nach dem Studium sehr düster war. Da er jedoch die Chancen in Vietnam sah, beschloss er, in seine Heimat zurückzukehren.
Nguyen Hoang Quan. Foto: NVCC
Bei VILM ist Quan der Chefingenieur, der für die Erforschung von Datenverbesserungstechniken sowie KI-Training verantwortlich ist. Nhut Huy übernimmt die technische Forschung im KI-Training und Minh Dung schlägt neue Methoden in der theoretischen Forschung vor.
Quan erklärte, dass aktuelle große Sprachmodelle wie ChatGPT (Large Language Model) nur Textausgaben liefern können, während Menschen vielfältige Möglichkeiten zur Kommunikation und Wissensaneignung haben. Deshalb möchte das Team ein System entwickeln, das flexibel zwischen verschiedenen Ein- und Ausgabearten operieren kann (unterschiedliche Datentypen wie Sprache, Bilder, Videos , Töne empfangen und ausgeben kann) und nicht nur auf der Sprachebene stehen bleibt.
Um das Ziel der Erstellung großer Aktionsmodelle zu erreichen, musste das Team zwei Probleme überwinden: Sicherheit und Geschwindigkeit. Aktuelle KI-Anwendungen nutzen meist Nutzerdaten und senden diese zur Verarbeitung an die Server von Unternehmen wie OpenAI, was Sicherheitsbedenken aufwirft. Das Team konzentrierte sich auf die Entwicklung von KI-Modellen, die klein und schnell genug für die direkte Verarbeitung auf Mobilgeräten sind und gleichzeitig Leistung und Geschwindigkeit ausbalancieren, um das Benutzererlebnis nicht zu beeinträchtigen.
Das Experimentalteam nutzte KI-generierte Daten, um die KI selbst zu trainieren, anstatt Daten aus realen Quellen zu verwenden. Anfangs hatten sie Schwierigkeiten, Rechenressourcen (Computer zum Trainieren der KI) zu finden, konnten aber später große Unternehmen und Labore weltweit als Sponsoren gewinnen.
Quan sagte, der Hauptzweck dieser Produkte bestehe darin, Menschen einen schnellen und qualitativ hochwertigen Zugriff auf KI-Anwendungen zu ermöglichen, der ChatGPT oder Bing Chat in nichts nachsteht, und die Forschung und Erstellung von KI-Modellen zukünftig zu vereinfachen. Anstatt ChatGPT zu verwenden, das in der vietnamesischen Sprache und Kultur eingeschränkt ist, können vietnamesische Unternehmen VinaLlama auf Vietnamesisch herunterladen.
Das Sprachmodell VinaLlama bewältigt problemlos ein mathematisches Problem auf Vietnamesisch. Im Bild sehen Sie eine Demo des VinaLlama-Produkts zur Lösung mathematischer Probleme. Screenshot.
Herr Dang Hai Loc, Gründer der KI-Chatbot-Plattform Mindmaid, erklärte, er habe aus der Perspektive eines KI-Anwendungsentwicklers erkannt, dass Kosten und Datenschutz die beiden wichtigsten Punkte für Unternehmen bei der Einführung von KI-Anwendungen seien. Die beste Lösung hierfür seien Open-Source-LLM-Modelle, die auf der Unternehmensinfrastruktur laufen und mehr unternehmenseigene Daten lernen (verfeinern) können. Daher seien vietnamesische Open-Source-LLM-Modelle wie VinaLlama und Vistral für die Förderung von KI-Anwendungen in Vietnam von großem Wert.
„Diese Open-Source-Modelle ermöglichen es zudem mehr Programmierern und Technologiebegeisterten, mit nur einem MacBook in den Bereich der KI-Ingenieure einzusteigen, anstatt in eine teure GPU-Infrastruktur (Grafikkarte) investieren zu müssen. Dies wird auch die Zahl der KI-Ingenieure in Vietnam steigern, eine Position, die in naher Zukunft stark nachgefragt sein wird“, sagte Herr Loc.
Laut Quan verfügen Vietnamesen über sehr gute wissenschaftliche Grundlagen, sind gut in KI und beschäftigen auch ChatGPT mit Forschungspersonal. Allerdings fällt es ihnen schwerer, mit der sich ständig verändernden Technologie schnell Schritt zu halten. „Die Vietnamesen brauchen Erfahrung in der Entwicklung von Produkten für Endnutzer, um die Probleme, auf die sie stoßen, wirklich zu verstehen und ihre Forschung richtig auszurichten“, erklärte Quan über die Gründe für die Erforschung freier KI-Modelle zur Unterstützung der Vietnamesen im Technologiebereich. Er sagte, er habe mit vielen internationalen Gruppen zusammengearbeitet und sei jederzeit bereit, mit Forschungsgruppen in Vietnam zu kooperieren.
Nhu Quynh
[Anzeige_2]
Quellenlink
Kommentar (0)