GenZ-ingenjörer skapar gratis applikationer för artificiell intelligens för vietnameser

Nguyen Hoang Quan och hans kollegor på VILM lämnade USA för att återvända hem och utvecklade ett gratis system för artificiell intelligens (AI) som vietnameser kan använda inom kundtjänst, med mer än 100 000 nedladdningar per månad.

I juni 2023 grundade Nguyen Hoang Quan, 25 år, och hans kollegor Pham Nhut Huy, 23 år, ingenjör inom artificiell intelligens på ZaloAI, och Dao Minh Dung, 24 år, doktorand vid University of Cork, Irland, den ideella organisationen VILM, med önskan att hjälpa vietnamesiska människor att uppleva den mest avancerade AI-tekniken på det mest optimala sättet.

Efter nästan sex månaders forskning och tillämpningar har teamet framgångsrikt utvecklat tre gratis AI-modeller, inklusive OpenHermes, VinaLlama och Vistral. Dessa är grundläggande studier för att utveckla AI-system som kan förstå och agera enligt användarnas önskemål (Large Action Model). Dessa modeller är avsedda för tillämpning inom teknikområden som maskinstyrning, robotar för att bättre stödja personer med funktionsnedsättningar utan vårdgivare, eller hjälpa programmerare att åtgärda fel, och virtuella assistenter för att ta hand om kunder eller ställa frågor gratis.

OpenHermes når 85 000 nedladdningar per månad och är därmed en av de 10 mest nedladdade språkmodellerna på HuggingFace ( världens största webbplats för delning av AI-modeller). Skärmdump

OpenHermes-modellen är en stor språkmodell som stöder engelska, precis som ChatGPT, men med bättre resultat. De låter användare ladda ner modellen till sina persondatorer för användning utan internet. Det är värt att notera att OpenHermes träningsdata bara är 1/100 av ChatGPT:s träningsdata från OpenAI. För närvarande får denna applikation mer än 50 000 nedladdningar per månad. OpenHermes-2.5 och OpenHermes-2.5-Vision används av fler än 40 startups i Silicon Valley (USA).

VinaLlama och Vistral är två språkmodeller som fokuserar på att betjäna den vietnamesiska marknaden, med syftet att hjälpa inhemska användare att enklare uppleva den mest avancerade AI-tekniken.

Hoang Quan studerade i USA i sju år och arbetade på OpenAI som forskningsingenjör för artificiell intelligens-modellen ChatGPT, trots att han inte hade tagit examen från universitetet. År 2022 arbetade han som dataingenjör för Microsoft och OpenAI:s produkt Bing Chat och tjänade tusentals dollar. År 2023, inför en våg av teknikuppsägningar i USA, insåg Quan att arbetsmarknaden efter examen var mycket dyster, men när han såg möjligheter i Vietnam bestämde han sig för att återvända hem.

Nguyen Hoang Quan. Foto: NVCC

På VILM är Quan chefsingenjör och ansvarar för forskning om dataförbättringstekniker samt AI-utbildning. Nhut Huy tar på sig rollen som teknisk forskning inom AI-utbildning och Minh Dung föreslår nya metoder inom teoretisk forskning.

Quan förklarade att nuvarande stora språkmodeller som ChatGPT (Large Language Model) bara kan ge textutdata, medan människor har många sätt att kommunicera och förvärva kunskap. Det är därför teamet strävar efter att skapa ett system som kan fungera flexibelt mellan olika typer av in- och utdata (kan ta emot och mata ut data som språk, bilder, videor , ljud), och inte bara stanna på språknivå.

För att uppnå målet att skapa stora handlingsmodeller var teamet tvunget att övervinna två problem: säkerhet och hastighet. Nuvarande AI-applikationer använder mestadels användardata och skickar den till servrar hos företag som OpenAI för bearbetning, vilket ger upphov till säkerhetsproblem. Teamet fokuserade på att skapa AI-modeller som är små och snabba nog att bearbetas direkt på mobila enheter, samtidigt som de balanserar prestanda och hastighet för att undvika att påverka användarupplevelsen.

Experimentteamet använde data genererad från AI för att träna själva AI:n, istället för att gå den vägen att använda data från verkliga källor. Inledningsvis hade de svårt att hitta beräkningsresurser (datorer för att träna AI), men övertygade senare stora företag och laboratorier runt om i världen att sponsra.

Quan sa att huvudsyftet med att tillverka dessa produkter är att hjälpa människor att snabbt få tillgång till AI-applikationer och med en kvalitet som inte är sämre än ChatGPT eller Bing Chat, och att göra forskning och skapande av AI-modeller i framtiden enklare. Istället för att använda ChatGPT, som är begränsat i vietnamesiskt språk och kultur, kan vietnamesiska företag ladda ner VinaLlama på vietnamesiska.

VinaLlama-språkmodellen hanterar enkelt ett matematiskt problem på vietnamesiska, på bilden visas en demonstration av VinaLlama-produkten för att lösa matematiska problem. Skärmdump.

Dang Hai Loc, grundare av AI-chattbotsbyggplattformen Mindmaid, sa att han, ur en AI-applikationsutvecklares perspektiv, insåg att kostnad och dataskydd är de två frågor som företag är mest bekymrade över när de distribuerar AI-applikationer. Den mest tillfredsställande lösningen på detta problem är LLM-modeller med öppen källkod, som kan köras på företagets infrastruktur och kan lära sig (finjustera) mer av företagets egna data. Därför är vietnamesiska LLM-modeller med öppen källkod, som VinaLlama, Vistral..., mycket värdefulla för att marknadsföra AI-applikationer i Vietnam.

"Dessa modeller med öppen källkod gör det också möjligt för fler programmerare och teknikentusiaster att få tillgång till AI-ingenjörsområdet med bara en MacBook istället för att behöva investera i dyr GPU-infrastruktur (grafikkort). Detta kommer också att främja AI-ingenjörsstyrkan i Vietnam, en roll som är mycket efterfrågad inom en snar framtid", sa Loc.

Enligt Quan har vietnameserna en mycket god grund i vetenskaplig teori, är duktiga på AI, och ChatGPT har även mänskliga resurser som deltar i forskning, men de har svårare att snabbt komma ikapp med den ständigt föränderliga teknikvågen. "Vad vietnameserna behöver är erfarenhet av att tillverka produkter för slutanvändare för att verkligen förstå de problem de stöter på för att kunna inrikta sin forskning på rätt sätt", sa Quan om anledningen till att de undersöker gratis AI-modeller för att stödja vietnameserna inom teknik. Han sa att han har samarbetat med många internationella grupper och alltid är redo att samarbeta med forskargrupper i Vietnam.

Nhu Quynh

Källänk: https://vnexpress.net/nhom-ky-su-genz-lam-ung-dung-tri-tue-nhan-tao-mien-phi-cho-nguoi-viet-4708838.html