미국을 떠나 귀국한 Nguyen Hoang Quan과 VILM의 동료들은 베트남 사람들이 고객 관리 분야에서 사용할 수 있는 무료 인공지능(AI) 시스템을 개발했는데, 이 시스템은 한 달에 수십만 건 이상 다운로드되었습니다.
2023년 6월, 25세의 응우옌 황 꾸안(Nguyen Hoang Quan)과 ZaloAI의 인공지능 엔지니어인 23세의 팜 누트 휘(Pham Nhut Huy), 아일랜드 코크대학교 박사과정 학생인 24세의 다오 민 중(Dao Minh Dung)은 베트남 사람들이 가장 최적의 방식으로 최첨단 AI 기술을 경험할 수 있도록 돕고자 하는 열망으로 비영리 단체 VILM을 공동 설립했습니다.
약 6개월간의 연구와 적용 끝에 팀은 OpenHermes, VinaLlama, Vistral을 포함한 세 가지 무료 AI 모델을 성공적으로 개발했습니다. 이 모델들은 사용자 의도를 이해하고 그에 따라 행동하는 AI 시스템(대규모 행동 모델) 개발을 위한 기반 연구입니다. 이 모델들은 기계 제어, 보호자 없이 장애인을 더 잘 지원하는 로봇, 프로그래머의 오류 수정 지원, 고객 응대 및 무료 질문 기능을 제공하는 가상 비서 등의 기술 분야에 적용됩니다.
OpenHermes는 월간 다운로드 수 85,000건을 달성하여 세계 최대 AI 모델 공유 사이트인 HuggingFace에서 가장 많이 다운로드된 언어 모델 상위 10위에 올랐습니다. 스크린샷
OpenHermes 모델은 ChatGPT와 마찬가지로 영어를 지원하지만, 더 우수한 점수를 제공하는 대규모 언어 모델입니다. 사용자는 인터넷 없이도 개인용 컴퓨터에 모델을 다운로드하여 사용할 수 있습니다. 특히 OpenHermes의 학습 데이터 양은 OpenAI의 ChatGPT 학습 데이터의 1/100에 불과합니다. 현재 이 애플리케이션은 월 5만 건 이상 다운로드되고 있습니다. OpenHermes-2.5와 OpenHermes-2.5-Vision은 미국 실리콘 밸리의 40개 이상의 스타트업에서 사용되고 있습니다.
VinaLlama와 Vistral은 베트남 시장을 대상으로 하는 두 가지 언어 모델로, 국내 사용자가 가장 진보된 AI 기술을 보다 쉽게 경험할 수 있도록 돕는 것을 목표로 합니다.
Hoang Quan은 7년간 미국에서 유학하며 대학을 졸업하지 않았음에도 불구하고 OpenAI에서 ChatGPT 인공지능 모델 연구 엔지니어로 일했습니다. 2022년에는 마이크로소프트와 OpenAI의 Bing Chat 제품에서 데이터 엔지니어로 일하며 수천 달러를 벌었습니다. 2023년, 미국에서 기술 인력 해고가 잇따르자 Quan은 졸업 후 취업 시장이 매우 어둡다는 것을 깨달았지만, 베트남에서 기회를 발견하고 귀국을 결심했습니다.
응웬호앙꽌. 사진 : NVCC
VILM에서 Quan은 데이터 강화 기법 연구와 AI 학습을 담당하는 수석 엔지니어입니다. Nhut Huy는 AI 학습 기술 연구를, Minh Dung은 이론 연구에서 새로운 방법론을 제시합니다.
Quan은 ChatGPT(대형 언어 모델)와 같은 현재의 대규모 언어 모델은 텍스트 출력만 제공하는 반면, 인간은 다양한 방식으로 소통하고 지식을 습득할 수 있다고 설명했습니다. 따라서 연구팀은 언어 수준에서만 그치지 않고 다양한 유형의 입력과 출력(언어, 이미지, 비디오 , 소리 등 다양한 유형의 데이터를 수신하고 출력할 수 있는) 사이에서 유연하게 작동할 수 있는 시스템을 구축하는 것을 목표로 합니다.
대규모 액션 모델(Large Action Models)을 구축한다는 목표를 달성하기 위해 팀은 보안과 속도라는 두 가지 문제를 극복해야 했습니다. 현재 AI 애플리케이션은 대부분 사용자 데이터를 사용하여 OpenAI와 같은 회사의 서버로 전송하여 처리하는데, 이는 보안 문제를 야기합니다. 팀은 모바일 기기에서 직접 처리할 수 있을 만큼 작고 빠른 AI 모델을 만드는 데 집중하는 동시에, 사용자 경험에 영향을 미치지 않도록 성능과 속도의 균형을 맞추는 데 집중했습니다.
실험팀은 실제 데이터 소스에서 데이터를 사용하는 대신, AI에서 생성된 데이터를 사용하여 AI 자체를 훈련시켰습니다. 처음에는 컴퓨팅 리소스(AI를 훈련할 컴퓨터)를 찾는 데 어려움을 겪었지만, 이후 전 세계 대기업과 연구소의 후원을 받았습니다.
Quan은 이러한 제품 개발의 주요 목적은 사람들이 ChatGPT나 Bing Chat보다 품질이 떨어지지 않는 AI 애플리케이션에 빠르게 접근할 수 있도록 돕고, 향후 AI 모델 연구 및 개발을 더욱 간편하게 만드는 것이라고 말했습니다. 베트남 기업은 언어와 문화에 제약이 있는 ChatGPT 대신 베트남어로 된 VinaLlama를 다운로드할 수 있습니다.
VinaLlama 언어 모델은 베트남어 수학 문제를 쉽게 처리합니다. 그림은 VinaLlama 제품을 사용하여 수학 문제를 푸는 데모입니다. 스크린샷.
AI 챗봇 구축 플랫폼 마인드메이드(Mindmaid)의 창립자인 당 하이 록(Dang Hai Loc) 씨는 AI 애플리케이션 개발자의 관점에서 기업이 AI 애플리케이션을 구축할 때 가장 우려하는 두 가지 문제는 비용과 데이터 프라이버시라는 것을 깨달았다고 말했습니다. 이 문제에 대한 가장 만족스러운 해결책은 기업 인프라에서 실행될 수 있고 기업 자체 데이터를 더 많이 학습(세밀하게 조정)할 수 있는 오픈소스 LLM 모델입니다. 따라서 비나라마(VinaLlama), 비스트랄(Vistral)과 같은 베트남 오픈소스 LLM 모델은 베트남에서 AI 애플리케이션을 홍보하는 데 매우 유용합니다.
"이러한 오픈소스 모델을 통해 더 많은 프로그래머와 기술 애호가들이 값비싼 GPU(그래픽 카드) 인프라에 투자하는 대신 맥북만으로 AI 엔지니어 분야에 진출할 수 있게 되었습니다. 이는 베트남에서 가까운 미래에 수요가 높은 AI 엔지니어 인력을 육성하는 데에도 도움이 될 것입니다."라고 Loc 씨는 말했습니다.
콴에 따르면, 베트남 사람들은 과학 이론에 대한 기초가 매우 탄탄하고 AI에 능숙하며, ChatGPT에도 연구 인력이 있지만, 끊임없이 변화하는 기술 흐름을 빠르게 따라잡는 데는 어려움을 겪고 있습니다. "베트남 사람들에게 필요한 것은 최종 사용자를 위한 제품 개발 경험입니다. 이를 통해 연구 방향을 제대로 설정하기 위해 직면하는 문제를 진정으로 이해할 수 있습니다."라고 콴은 베트남 사람들의 기술 지원을 위한 무료 AI 모델을 연구하는 이유에 대해 설명했습니다. 그는 여러 국제 단체와 협력해 왔으며, 베트남 연구 단체들과도 언제든지 협력할 준비가 되어 있다고 밝혔습니다.
누 퀸
[광고_2]
소스 링크
댓글 (0)