엔비디아, 티엔 약사에게 AI 칩 판매 안해

베트남에서 업무용 엔비디아 전용 GPU 라인을 공급하는 유통업체는 국내 시장에서는 A100 칩을 판매하지 않는다고 확인했습니다.

ChatDST 출시 프로그램에 참여한 티엔 약사. 사진: 티엔 약사 .

7월 14일, 티엔 약사는 소셜 미디어에 자사 제품들을 소개하는 영상을 올렸습니다. 그중에서도 ChatDST라는 AI 챗봇은 "ChatGPT보다 낫다"는 말로 주목을 받았습니다.

티엔 씨가 비교를 위해 사용한 예시는 VRAM 용량이었습니다. 약사 티엔(Pham Minh Huu Tien)은 건설 회사 시스템이 12개의 엔비디아 A100 GPU를 사용하여 ChatGPT보다 메모리 용량이 두 배(960GB, ChatGPT는 480GB)나 더 크다고 자랑했습니다. OpenAI에서 제품에 대한 검증되지 않은 정보를 제공했을 뿐만 아니라, 해당 처리 칩의 원산지 또한 논란을 불러일으켰습니다.

Tri Thuc - ZNews 와의 인터뷰에서 LeadTek Vietnam 관계자는 회사가 국내 시장에서 Nvidia A100 제품을 판매하지 않는다고 밝혔습니다. 따라서 위 GPU 모델을 약사 Tien에게 판매한 적이 없습니다.

LeadTek은 베트남을 포함한 아시아 태평양 시장에서 Nvidia 전용 그래픽 카드의 도매업체이자 독점 유통업체입니다. 따라서 약사 Tien이 ChatDST 출시 행사에서 언급한 A100 제품을 공급할 수 있는 유일한 업체입니다.

엔비디아 A100 칩을 사용하는 서버. 사진: 엔비디아.

반면, AI 칩은 미국이 무역전쟁에서 통제 품목으로 지정한 민감한 품목입니다. 따라서 이 제품의 유통 또한 면밀히 감시되고 있어 구매하기가 쉽지 않습니다.

이전에 호치민시 국립대학교 정보기술대학교는 베트남에서 A100 카드를 보유한 몇 안 되는 기관 중 하나였습니다. 구체적으로, 이 학교는 2024년 2월, 8개의 엔비디아 A100 GPU가 사전 설치된 DGX A100 컴퓨터 세트를 100억 동(VND) 에 구매했습니다. 과학 연구를 위한 슈퍼 서버를 확보하기 위해, 정보기술대학교는 엔비디아가 미국에 공급 및 수출하는 데 동의하도록 9개월 동안 협상했습니다.

따라서 티엔 약사가 어떻게 Nvidia A100 카드 12개가 장착된 서버를 소유하게 되었는지는 불분명합니다.

A100은 이전 세대 칩이지만, 전 세계 AI 서버에서 대규모 언어 모델 학습 및 챗봇 운영에 여전히 널리 사용되고 있습니다. 새로운 H100 버전은 성능이 크게 향상되어 글로벌 대형 기술 기업들의 수요가 급증하면서 재고 소진 사태가 발생하고 있습니다. 베트남에서는 FPT와 VNG 같은 대형 기술 기업만이 이 서버를 보유하고 있습니다.

반면, Pham Minh Huu Tien이 발표한 것처럼 OpenAI가 480GB 메모리 서버를 사용한다는 증거는 없습니다. 약사 Tien이 제공한 매개변수에 따르면 ChatDST는 총 960GB의 VRAM을 갖춘 Nvidia A100 80GB GPU 12개로 구성된 플랫폼에서 실행됩니다. 이 그래픽 카드 각각의 시장 가격은 약 7억 VND(약 1,000만 원)로, 다른 부품을 제외하고 이 부품 하나에 만 84억 VND(약 1,000만 원) 이 투자된 것과 같습니다.

한편, The Information 의 소식통에 따르면 OpenAI는 추론을 위해 약 35만 개의 A100 카드를 보유한 데이터 센터를 보유하고 있습니다. ChatGPT만 해도 29만 개의 GPU를 사용하고 있는데, 이는 Pharmacist Tien이 발표한 구성의 24,167배에 달합니다. 또한, 이 회사는 사용자 수 증가 시 부하를 줄이기 위해 Microsoft Azure 서버를 임대하고 있습니다.

출처: https://znews.vn/nvidia-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html