Inżynierowie generacji Z tworzą bezpłatne aplikacje oparte na sztucznej inteligencji dla Wietnamczyków

Opuszczając Stany Zjednoczone, aby wrócić do domu, Nguyen Hoang Quan i jego współpracownicy z VILM opracowali bezpłatny system sztucznej inteligencji (AI) dla Wietnamczyków, który może być wykorzystywany w obsłudze klienta. System ten jest pobierany ponad 100 000 razy miesięcznie.

W czerwcu 2023 roku Nguyen Hoang Quan (25 lat) i jego koledzy: Pham Nhut Huy (23 lata), inżynier sztucznej inteligencji w ZaloAI, oraz Dao Minh Dung (24 lata), doktorant na Uniwersytecie w Cork w Irlandii, wspólnie założyli organizację non-profit VILM, której celem jest umożliwienie Wietnamczykom korzystania z najnowocześniejszej technologii sztucznej inteligencji w najbardziej optymalny sposób.

Po prawie 6 miesiącach badań i wdrożeń, zespół z powodzeniem opracował trzy bezpłatne modele sztucznej inteligencji (AI), w tym OpenHermes, VinaLlama i Vistral. Są to badania fundamentalne dla rozwoju systemów AI, które potrafią rozumieć i działać zgodnie z życzeniami użytkowników (Large Action Model). Modele te znajdują zastosowanie w takich dziedzinach technologii, jak sterowanie maszynami, robotyka, która pomaga osobom niepełnosprawnym lepiej wspierać się bez opiekunów, a także pomoc programistom w naprawianiu błędów, a także wirtualni asystenci, którzy zajmują się klientami lub zadają pytania za darmo.

OpenHermes osiąga 85 000 pobrań miesięcznie, trafiając do pierwszej dziesiątki najczęściej pobieranych modeli językowych na HuggingFace (największej na świecie stronie do udostępniania modeli AI). Zrzut ekranu

Model OpenHermes to rozbudowany model językowy, który obsługuje język angielski podobnie jak ChatGPT, ale z lepszymi wynikami. Umożliwia on użytkownikom pobranie modelu na komputery osobiste i korzystanie z niego bez dostępu do internetu. Warto zauważyć, że dane treningowe OpenHermes stanowią zaledwie 1/100 danych treningowych ChatGPT z OpenAI. Obecnie aplikacja ta jest pobierana ponad 50 000 razy miesięcznie. OpenHermes-2.5 i OpenHermes-2.5-Vision są używane przez ponad 40 startupów w Dolinie Krzemowej (USA).

VinaLlama i Vistral to dwa modele językowe skierowane na rynek wietnamski, których celem jest umożliwienie krajowym użytkownikom łatwiejszego korzystania z najnowocześniejszej technologii sztucznej inteligencji.

Hoang Quan spędził 7 lat studiując w USA i pracował w OpenAI jako inżynier badawczy modelu sztucznej inteligencji ChatGPT, mimo że nie ukończył studiów. W 2022 roku pracował jako inżynier danych w firmie Microsoft i produkcie OpenAI – Bing Chat, zarabiając tysiące dolarów. W 2023 roku, w obliczu fali zwolnień z branży technologicznej w USA, Quan zdał sobie sprawę, że rynek pracy po ukończeniu studiów jest bardzo słaby. Widząc jednak możliwości w Wietnamie, postanowił wrócić do domu.

Nguyen Hoang Quan. Zdjęcie: NVCC

W VILM Quan jest głównym inżynierem odpowiedzialnym za badania nad technikami ulepszania danych oraz szkoleniami AI. Nhut Huy zajmuje się badaniami technicznymi w zakresie szkoleń AI, a Minh Dung proponuje nowe metody w badaniach teoretycznych.

Quan wyjaśnił, że obecne duże modele językowe, takie jak ChatGPT (Large Language Model), mogą generować jedynie dane tekstowe, podczas gdy ludzie mają wiele sposobów komunikacji i zdobywania wiedzy. Dlatego zespół dąży do stworzenia systemu, który będzie elastycznie działał między różnymi typami danych wejściowych i wyjściowych (może odbierać i generować dane, takie jak język, obrazy, filmy , dźwięki), a nie tylko na poziomie języka.

Aby osiągnąć cel, jakim było stworzenie modeli Large Action, zespół musiał pokonać dwa problemy: bezpieczeństwo i szybkość. Obecne aplikacje AI wykorzystują głównie dane użytkowników i przesyłają je do serwerów firm takich jak OpenAI w celu przetworzenia, co budzi obawy o bezpieczeństwo. Zespół skupił się na tworzeniu modeli AI, które są wystarczająco małe i szybkie, aby można je było przetwarzać bezpośrednio na urządzeniach mobilnych, jednocześnie zachowując równowagę między wydajnością a szybkością, aby nie wpływały negatywnie na doświadczenia użytkownika.

Zespół eksperymentalny wykorzystał dane generowane przez sztuczną inteligencję do jej wyszkolenia, zamiast podążać ścieżką danych z rzeczywistych źródeł. Początkowo mieli trudności ze znalezieniem zasobów obliczeniowych (komputerów do wyszkolenia sztucznej inteligencji), ale później przekonali duże firmy i laboratoria z całego świata do sponsorowania projektu.

Quan powiedział, że głównym celem tworzenia tych produktów jest umożliwienie użytkownikom szybkiego dostępu do aplikacji AI z jakością nie gorszą niż ChatGPT czy Bing Chat oraz uproszczenie badań i tworzenia modeli AI w przyszłości. Zamiast korzystać z ChatGPT, który jest ograniczony do języka i kultury wietnamskiej, wietnamskie firmy mogą pobrać aplikację VinaLlama w języku wietnamskim.

Model językowy VinaLlama z łatwością radzi sobie z zadaniem matematycznym w języku wietnamskim. Na zdjęciu znajduje się demonstracja produktu VinaLlama w rozwiązywaniu zadania matematycznego. Zrzut ekranu.

Pan Dang Hai Loc, założyciel platformy Mindmaid do tworzenia chatbotów AI, powiedział, że z perspektywy dewelopera aplikacji AI, koszty i prywatność danych to dwa problemy, które najbardziej niepokoją firmy wdrażające aplikacje AI. Najbardziej satysfakcjonującym rozwiązaniem tego problemu są modele LLM typu open source, które mogą działać w infrastrukturze przedsiębiorstwa i mogą uczyć się (dostrajać) więcej z jego własnych danych. Dlatego wietnamskie modele LLM typu open source, takie jak VinaLlama, Vistral…, są bardzo cenne w promowaniu aplikacji AI w Wietnamie.

„Te modele open source umożliwiają również większej liczbie programistów i entuzjastów technologii dostęp do dziedziny inżynierii sztucznej inteligencji za pomocą samego MacBooka, bez konieczności inwestowania w kosztowną infrastrukturę GPU (kart graficznych). To również przyczyni się do rozwoju sił inżynierów sztucznej inteligencji w Wietnamie, roli, na którą w najbliższej przyszłości będzie duże zapotrzebowanie” – powiedział pan Loc.

Według Quana, Wietnamczycy mają bardzo dobre podstawy w zakresie teorii naukowych , są dobrzy w dziedzinie sztucznej inteligencji, a ChatGPT dysponuje również zasobami ludzkimi zaangażowanymi w badania, ale mają trudności z szybkim nadążaniem za stale zmieniającą się falą technologii. „Wietnamczycy potrzebują doświadczenia w tworzeniu produktów dla użytkowników końcowych, aby mogli naprawdę zrozumieć napotykane przez nich problemy i odpowiednio ukierunkować swoje badania” – powiedział Quan o powodach badania darmowych modeli sztucznej inteligencji, aby wspierać Wietnamczyków w dziedzinie technologii. Dodał, że współpracował z wieloma międzynarodowymi grupami i jest zawsze gotowy do współpracy z grupami badawczymi w Wietnamie.

Nhu Quynh

Link źródłowy: https://vnexpress.net/nhom-ky-su-genz-lam-ung-dung-tri-tue-nhan-tao-mien-phi-cho-nguoi-viet-4708838.html