GenZ mérnökök ingyenes mesterséges intelligencia alkalmazásokat készítenek vietnamiak számára

Miután elhagyták az Egyesült Államokat, hogy hazatérjenek, Nguyen Hoang Quan és a VILM munkatársai egy ingyenes mesterséges intelligencia (MI) rendszert fejlesztettek ki vietnamiak számára ügyfélszolgálati célokra, amelyet havonta több mint 100 000 letöltéssel lehet használni.

2023 júniusában a 25 éves Nguyen Hoang Quan és kollégái, a 23 éves Pham Nhut Huy, a ZaloAI mesterséges intelligencia mérnöke, valamint a 24 éves Dao Minh Dung, az írországi Cork Egyetem PhD-hallgatója megalapították a VILM nonprofit szervezetet azzal a céllal, hogy segítsenek a vietnamiaknak a legfejlettebb mesterséges intelligencia technológiát a lehető legoptimálisabb módon megtapasztalni.

Közel 6 hónapnyi kutatás és alkalmazás után a csapat sikeresen kifejlesztett három ingyenes MI-modellt, köztük az OpenHermes-t, a VinaLlama-t és a Vistral-t. Ezek az alapvető tanulmányok olyan MI-rendszerek fejlesztéséhez, amelyek képesek megérteni a felhasználói kívánságokat és azok szerint cselekedni (Nagyméretű Akciómodell). Ezeket a modelleket olyan technológiai területeken lehet alkalmazni, mint a gépvezérlés, a robotok, amelyek segítik a fogyatékkal élők gondozó nélküli támogatását, vagy a programozók hibáinak javítását, a virtuális asszisztensek az ügyfelekkel való bánásmódban vagy az ingyenes kérdések feltevésében.

Az OpenHermes eléri a havi 85 000 letöltést, ezzel bekerült a HuggingFace ( a világ legnagyobb mesterséges intelligencia modellmegosztó oldala) 10 leggyakrabban letöltött nyelvi modellje közé. Képernyőkép

Az OpenHermes modell egy nagyméretű nyelvi modell, amely a ChatGPT-hez hasonlóan támogatja az angol nyelvet, de jobb pontszámokkal. Lehetővé teszi a felhasználók számára, hogy letöltsék a modellt személyi számítógépükre internetkapcsolat nélküli használatra. Figyelemre méltó, hogy az OpenHermes betanítási adatai mindössze 1/100-ad részét teszik ki az OpenAI ChatGPT betanítási adatainak. Jelenleg ez az alkalmazás havonta több mint 50 000 letöltést kap. Az OpenHermes-2.5-öt és az OpenHermes-2.5-Vision-t több mint 40 startup használja a Szilícium-völgyben (USA).

A VinaLlama és a Vistral két nyelvi modell, amelyek a vietnami piac kiszolgálására összpontosítanak, és célja, hogy a hazai felhasználók könnyebben megtapasztalhassák a legfejlettebb mesterséges intelligencia technológiát.

Hoang Quan 7 évet töltött tanulmányokkal az Egyesült Államokban, és az OpenAI-nál dolgozott kutatómérnökként a ChatGPT mesterséges intelligencia modellnél, annak ellenére, hogy nem végzett egyetemet. 2022-ben adatmérnökként dolgozott a Microsoftnál és az OpenAI Bing Chat termékénél, ahol több ezer dollárt keresett. 2023-ra, amikor az Egyesült Államokban a technológiai elbocsátások hullámával szembesült, Quan rájött, hogy a diploma megszerzése utáni munkaerőpiac nagyon sivár, de látva a lehetőségeket Vietnámban, úgy döntött, hogy hazatér.

Nguyen Hoang Quan. Fotó: NVCC

A VILM-nél Quan a főmérnök, aki az adatfeldolgozási technikák kutatásáért, valamint a mesterséges intelligencia képzéséért felelős. Nhut Huy a műszaki kutatás szerepét tölti be a mesterséges intelligencia képzésében, Minh Dung pedig új módszereket javasol az elméleti kutatásban.

Quan elmagyarázta, hogy a jelenlegi nagy nyelvi modellek, mint például a ChatGPT (Large Language Model), csak szöveges kimenetet tudnak biztosítani, míg az embereknek számos módja van a kommunikációra és a tudásszerzésre. Ezért a csapat célja egy olyan rendszer létrehozása, amely rugalmasan képes működni a különböző típusú bemenet és kimenet között (tud fogadni és kimenetet adni, például nyelvet, képeket, videókat , hangokat), nem csak a nyelvi szinten áll meg.

A nagyszabású akciómodellek létrehozásának céljának eléréséhez a csapatnak két problémát kellett leküzdenie: a biztonságot és a sebességet. A jelenlegi MI-alkalmazások többnyire felhasználói adatokat használnak, és azokat olyan cégek szervereire küldik feldolgozásra, mint az OpenAI, ami biztonsági aggályokat vet fel. A csapat olyan MI-modellek létrehozására összpontosított, amelyek elég kicsik és gyorsak ahhoz, hogy közvetlenül mobileszközökön is feldolgozhatók legyenek, miközben egyensúlyt teremtenek a teljesítmény és a sebesség között, hogy elkerüljék a felhasználói élmény befolyásolását.

A kísérleti csapat a mesterséges intelligencia által generált adatokat használta a mesterséges intelligencia betanítására, ahelyett, hogy valós forrásokból származó adatokat használt volna. Kezdetben nehezen találtak számítási erőforrásokat (számítógépeket a mesterséges intelligencia betanításához), de később meggyőzték a nagyvállalatokat és laboratóriumokat világszerte, hogy támogassák a projektet.

Quan elmondta, hogy ezeknek a termékeknek a fő célja, hogy segítsék az embereket a mesterséges intelligencia alkalmazásaihoz való gyors és a ChatGPT-hez vagy a Bing Chathez hasonló minőségben hozzáférni, valamint hogy a jövőben egyszerűbbé tegyék a mesterséges intelligencia modellek kutatását és létrehozását. A vietnami nyelven és kultúrában korlátozott ChatGPT használata helyett a vietnami vállalkozások letölthetik a VinaLlama alkalmazást.

A VinaLlama nyelvi modell könnyedén kezel egy matematikai problémát vietnami nyelven, a képen a VinaLlama termék demója látható matematikai probléma megoldásában. Képernyőkép.

Dang Hai Loc úr, a Mindmaid mesterséges intelligencia alapú chatbot építő platform alapítója elmondta, hogy egy MI-alkalmazásfejlesztő szemszögéből nézve felismerte, hogy a költségek és az adatvédelem a két legfontosabb kérdés a vállalkozások számára a MI-alkalmazások telepítésekor. Erre a problémára a legmegfelelőbb megoldást a nyílt forráskódú LLM-modellek jelentik, amelyek a vállalat infrastruktúráján futhatnak, és a vállalat saját adataiból többet tudnak tanulni (finomhangolni). Ezért a vietnami nyílt forráskódú LLM-modellek, mint például a VinaLlama, a Vistral..., nagyon értékesek a MI-alkalmazások vietnami népszerűsítésében.

„Ezek a nyílt forráskódú modellek lehetővé teszik, hogy több programozó és technológiai rajongó férhessen hozzá a mesterséges intelligencia mérnöki területhez egyetlen Macbookkal, ahelyett, hogy drága GPU (grafikus kártya) infrastruktúrába kellene befektetniük. Ez elősegíti a mesterséges intelligencia mérnöki erők jelenlétét Vietnámban is, amely pozíció iránt nagy a kereslet a közeljövőben” – mondta Mr. Loc.

Quan szerint a vietnami embereknek nagyon jó alapjaik vannak a tudományos elméletben, jók a mesterséges intelligenciában, és a ChatGPT-nek is vannak emberi erőforrásai, amelyek részt vesznek a kutatásban, de nehezebben tudják utolérni a folyamatosan változó technológiai hullámot. „A vietnami embereknek tapasztalatra van szükségük a végfelhasználók számára készült termékek készítésében, hogy valóban megértsék a felmerülő problémákat, és megfelelően orientálhassák kutatásaikat” – mondta Quan az ingyenes MI-modellek kutatásának okáról, hogy támogassák a vietnamiakat a technológia terén. Elmondta, hogy számos nemzetközi csoporttal működött együtt, és mindig készen áll az együttműködésre vietnami kutatócsoportokkal.

Nhu Quynh

Forráslink: https://vnexpress.net/nhom-ky-su-genz-lam-ung-dung-tri-tue-nhan-tao-mien-phi-cho-nguoi-viet-4708838.html