A IA do farmacêutico Tien é realmente "melhor que o ChatGPT"?

O Sr. Pham Minh Huu Tien anunciou que o chatbot de IA possui parâmetros melhores do que o ChatGPT. No entanto, muitos dos dados fornecidos ainda são vagos e ilógicos.

O farmacêutico Tien (Pham Minh Huu Tien) lançou uma IA chamada ChatDST. Foto: DST .

No dia 14 de julho, o farmacêutico Tien publicou um vídeo nas redes sociais apresentando vários dos produtos da empresa. Entre eles, o chatbot de IA chamado ChatDST chamou a atenção com a afirmação do apresentador de que era "melhor que o ChatGPT".

Essa informação causou controvérsia porque o Sr. Tien e a organização por trás dele trabalhavam nas indústrias de cosméticos e entretenimento e não tinham experiência em tecnologia. Enquanto isso, o ChatGPT da OpenAI, que recebeu investimentos de centenas de bilhões de dólares e foi desenvolvido ao longo de muitos anos, ainda é um produto líder de mercado em muitos aspectos.

Declaração do farmacêutico Tien

“Quase todos os parâmetros do Tien superam a inteligência artificial que você está usando atualmente. O Tien revelará que esse parâmetro está em um nível bastante alto no mercado”, declarou Pham Minh Huu Tien (Farmacêutico Tien) no lançamento.

Parâmetros do chatbot ChatDST fornecidos pelo farmacêutico Tien. Foto: Pham Minh Huu Tien.

O exemplo usado para comparação foi a capacidade de VRAM. Pham Minh Huu Tien afirmou que o sistema que eles construíram tinha o dobro da memória do ChatGPT (960 GB contra 480 GB). "Além disso, ele também inclui sua personalidade, armazenada em dados da indústria química e cosmética, o que será muito útil para quem trabalha nessa área", disse Tien.

Além disso, os parâmetros na tela de apresentação também mostram que esta plataforma pode gerar 2.000 tokens por segundo, e sua arquitetura combina 6 modelos de IA para aumentar o desempenho. O ChatDST garante operação estável em 99,95% do tempo, processando contextos de até 1 milhão de tokens.

Em particular, o apresentador também afirmou que este chatbot possui memória ilimitada para cada sessão. O farmacêutico Tien anunciou que esta solução seria lançada em outubro, e que os usuários teriam que pagar para utilizá-la, com preços entre 20 e 300 dólares . No entanto, o vídeo do evento de lançamento já não está mais disponível no YouTube.

Parâmetros anormais

Por enquanto, o projeto anunciado pelo farmacêutico Tien ainda está "no papel", sem uma versão de teste ou relatórios detalhados sobre o código-fonte ou funcionamento. As informações atuais incluem apenas parâmetros básicos, juntamente com a afirmação de que o ChatDST possui uma configuração superior à do ChatGPT, estando entre os melhores do mercado.

No entanto, essas informações também são vagas, muitas delas absurdas e impossíveis.

Em entrevista a Tri Thuc - ZNews , o Sr. NB, mestre em Tecnologia da Informação e desenvolvedor de produtos de IA, afirmou que havia algumas informações errôneas na declaração do farmacêutico Tien.

A fábrica de IA da OpenAI, avaliada em US$ 40 bilhões, está sendo construída no Texas, EUA. Foto: Data Center Dynamics.

Por exemplo, o Sr. Tien afirmou que o ChatDST foi desenvolvido na plataforma Llama com 403 bilhões de "neurônios". Na verdade, grandes modelos de linguagem usam parâmetros para se referir a domínios de dados em vez de "neurônios". Ao mesmo tempo, o Llama foi desenvolvido pela Meta, que disponibilizou o código aberto, e só possuía uma versão com 405 bilhões de parâmetros, não com 403 bilhões.

Por outro lado, não há nenhuma fonte que mostre que a OpenAI utiliza um servidor com 480 GB de memória, como anunciado por Pham Minh Huu Tien. De acordo com os parâmetros fornecidos por Tien, o ChatDST roda em uma plataforma com 12 GPUs Nvidia A100 de 80 GB, totalizando 960 GB de VRAM. O preço de mercado de cada uma dessas placas gráficas é de cerca de 700 milhões de VND, o que equivale a um investimento de 8,4 bilhões de VND nesse componente.

Entretanto, uma fonte do The Information afirmou que a OpenAI possui um data center com cerca de 350.000 placas A100 para inferência. Somente o ChatGPT utiliza 290.000 GPUs, 24.167 vezes a configuração anunciada pelo farmacêutico Tien. Além disso, a empresa também aluga servidores Azure da Microsoft para reduzir a carga quando o número de usuários aumenta.

Estima-se que a OpenAI tenha que pagar cerca de 100.000 dólares ( 2,6 bilhões de VND ) por dia de operação. Assim, o custo operacional de 4 dias dessa empresa é superior ao valor gasto na configuração de 12 chips A100 que o farmacêutico Tien utilizou no ChatDST.

O Llama 405B ocupa pelo menos 810 GB de VRAM para abrigar o modelo em funcionamento. Imagem: HuggingFace.

Segundo a Hugging Face , os 405 bilhões de parâmetros do Llama precisam de pelo menos 810 GB para serem armazenados. Portanto, o servidor do Sr. Tien dispõe de apenas 150 GB livres para processar os cálculos quando os usuários estão conversando. Essa quantidade de VRAM é suficiente para 1 a 3 clientes conversarem simultaneamente. Mesmo reduzindo a precisão do modelo para diminuir o consumo de recursos, o número de usuários atendidos varia de 3 a 9 contas ao mesmo tempo.

A velocidade de processamento de 2.000 tokens/s do ChatDST também é um parâmetro "inimaginável" no setor. Atualmente, o ChatGPT produz apenas de 50 a 100 tokens/s, dependendo do modelo, sobrecarregando o sistema. O Claude também atinge apenas de 40 a 80 tokens/s.

Fonte: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html