Inženýři generace Z vytvářejí pro Vietnamce bezplatné aplikace s umělou inteligencí

Nguyen Hoang Quan a jeho kolegové z VILM opustili USA a vrátili se domů. Vyvinuli bezplatný systém umělé inteligence (AI) pro Vietnamce, který mohou používat v oblasti péče o zákazníky. Systém se stáhne více než 100 000krát měsíčně.

V červnu 2023 založil 25letý Nguyen Hoang Quan a jeho kolegové 23letý Pham Nhut Huy, inženýr umělé inteligence ve společnosti ZaloAI, a 24letý Dao Minh Dung, doktorand na Univerzitě v Corku v Irsku, neziskovou organizaci VILM s touhou pomoci Vietnamcům vyzkoušet si nejpokročilejší technologie umělé inteligence co nejoptimálnějším způsobem.

Po téměř 6 měsících výzkumu a aplikací se týmu podařilo úspěšně vyvinul tři bezplatné modely umělé inteligence, včetně OpenHermes, VinaLlama a Vistral. Jedná se o základní studie pro vývoj systémů umělé inteligence, které dokáží porozumět přáním uživatelů a jednat podle nich (Large Action Model). Tyto modely jsou určeny k uplatnění v technologických oblastech, jako je řízení strojů, roboti, kteří pomáhají lépe podporovat osoby se zdravotním postižením bez pečovatelů nebo programátorům opravovat chyby, virtuální asistenti, kteří se starají o zákazníky nebo se zdarma ptají.

OpenHermes dosahuje 85 000 stažení měsíčně, což ho činí jedním z 10 nejstahovanějších jazykových modelů na HuggingFace (největší světový web pro sdílení modelů umělé inteligence). Snímek obrazovky. — OpenHermes dosahuje 85 000 stažení měsíčně, což ho činí jedním z 10 nejstahovanějších jazykových modelů na HuggingFace (největší světový web pro sdílení modelů umělé inteligence). *Snímek obrazovky* .

Model OpenHermes je rozsáhlý jazykový model, který podporuje angličtinu podobně jako ChatGPT, ale s vynikajícím skóre. Umožňuje uživatelům stáhnout si model do osobních počítačů a používat ho bez internetu. Je pozoruhodné, že trénovací data OpenHermes tvoří pouze 1/100 trénovacích dat ChatGPT od OpenAI. V současné době má tato aplikace více než 50 000 stažení měsíčně. OpenHermes-2.5 a OpenHermes-2.5-Vision používá více než 40 startupů v Silicon Valley (USA).

VinaLlama a Vistral jsou dva jazykové modely zaměřené na vietnamský trh, jejichž cílem je pomoci domácím uživatelům snadněji vyzkoušet nejmodernější technologie umělé inteligence.

Hoang Quan strávil 7 let studiem v USA a pracoval ve společnosti OpenAI jako výzkumný inženýr pro model umělé inteligence ChatGPT, přestože nevystudoval univerzitu. V roce 2022 pracoval jako datový inženýr pro produkt Bing Chat od společností Microsoft a OpenAI a vydělával tisíce dolarů. V roce 2023, kdy čelil vlně propouštění v oblasti technologií v USA, si Quan uvědomil, že trh práce po ukončení studia je velmi bezútěšný, ale když viděl příležitosti ve Vietnamu, rozhodl se vrátit domů.

Nguyen Hoang Quan. Foto: Poskytnutá postava — Nguyen Hoang Quan. Foto: *NVCC*

Ve VILM je Quan hlavním inženýrem zodpovědným za výzkum technik pro zlepšení dat a také za školení umělé inteligence. Nhut Huy se ujímá role technického výzkumu v oblasti školení umělé inteligence a Minh Dung navrhuje nové metody v teoretickém výzkumu.

Quan vysvětlil, že současné rozsáhlé jazykové modely, jako je ChatGPT (Large Language Model), mohou poskytovat pouze textový výstup, zatímco lidé mají mnoho způsobů, jak komunikovat a získávat znalosti. Proto se tým snaží vytvořit systém, který dokáže flexibilně fungovat mezi různými typy vstupů a výstupů (přijímat a odesílat data, jako je jazyk, obrázky, videa , zvuky), a nezastaví se pouze na úrovni jazyka.

Aby tým dosáhl cíle vytvoření modelů velkých akcí, musel překonat dva problémy: bezpečnost a rychlost. Současné aplikace umělé inteligence většinou používají uživatelská data a odesílají je na servery společností, jako je OpenAI, ke zpracování, což vyvolává bezpečnostní obavy. Tým se zaměřil na vytváření modelů umělé inteligence, které jsou dostatečně malé a rychlé, aby je bylo možné zpracovávat přímo na mobilních zařízeních, a zároveň vyvažovat výkon a rychlost, aby se neovlivnila uživatelská zkušenost.

Experimentální tým použil data generovaná umělou inteligencí k jejímu trénování, místo aby se vydal cestou využití dat z reálných zdrojů. Zpočátku měli potíže s nalezením výpočetních zdrojů (počítačů pro trénování umělé inteligence), ale později přesvědčili velké společnosti a laboratoře po celém světě, aby je sponzorovaly.

Quan uvedl, že hlavním účelem výroby těchto produktů je pomoci lidem rychle a v kvalitě, která nebude horší než ChatGPT nebo Bing Chat, a zjednodušit výzkum a tvorbu modelů umělé inteligence v budoucnu. Místo používání ChatGPT, které je omezené vietnamským jazykem a kulturou, si vietnamské firmy mohou stáhnout VinaLlama ve vietnamštině.

Jazykový model VinaLlama snadno zvládne matematický problém ve vietnamštině, na obrázku je ukázka produktu VinaLlama při řešení matematického problému. Snímek obrazovky. — Jazykový model VinaLlama snadno zvládne matematický problém ve vietnamštině, na obrázku je ukázka produktu VinaLlama při řešení matematického problému. *Snímek obrazovky.*

Pan Dang Hai Loc, zakladatel platformy Mindmaid pro tvorbu chatbotů s využitím umělé inteligence, uvedl, že z pohledu vývojáře aplikací s umělou inteligencí si uvědomil, že náklady a ochrana osobních údajů jsou dva problémy, kterých se firmy při nasazování aplikací s umělou inteligencí nejvíce obávají. Nejuspokojivějším řešením tohoto problému jsou open-source modely LLM, které mohou běžet na podnikové infrastruktuře a dokáží se učit (doladit) více z vlastních dat podniku. Vietnamské open-source modely LLM, jako jsou VinaLlama, Vistral..., jsou proto velmi cenné pro propagaci aplikací umělé inteligence ve Vietnamu.

„Tyto modely s otevřeným zdrojovým kódem také umožňují více programátorům a technologickým nadšencům přístup k oboru inženýrů umělé inteligence pouze s MacBookem, místo aby museli investovat do drahé infrastruktury grafických karet (GPU). To také podpoří sílu inženýrů umělé inteligence ve Vietnamu, což je role, po které je v blízké budoucnosti velká poptávka,“ řekl pan Loc.

Podle Quana mají Vietnamci velmi dobrý základ ve vědecké teorii, jsou dobří v umělé inteligenci a ChatGPT má také lidské zdroje zapojené do výzkumu, ale mají větší potíže s rychlým doháněním neustále se měnící vlny technologií. „Vietnamci potřebují zkušenosti s tvorbou produktů pro koncové uživatele, aby skutečně pochopili problémy, se kterými se setkávají, a mohli tak správně orientovat svůj výzkum,“ řekl Quan o důvodu výzkumu bezplatných modelů umělé inteligence na podporu Vietnamců v oblasti technologií. Řekl, že spolupracoval s mnoha mezinárodními skupinami a je vždy připraven spolupracovat s výzkumnými skupinami ve Vietnamu.

Nhú Quynh

Zdrojový odkaz