Des paramètres incroyables de l'IA « meilleure que ChatGPT » du pharmacien Tien

M. Pham Minh Huu Tien a annoncé que le chatbot IA possède de meilleurs paramètres que ChatGPT. Cependant, nombre de données fournies restent vagues et illogiques.

Le pharmacien Tien (Pham Minh Huu Tien) a lancé une IA appelée ChatDST. Photo : DST .

Le 14 juillet, le pharmacien Tien a publié sur les réseaux sociaux une vidéo présentant plusieurs produits de son entreprise. Parmi eux, le chatbot IA nommé ChatDST a particulièrement retenu l'attention, le présentateur affirmant qu'il était « meilleur que ChatGPT ».

Ces informations ont suscité la controverse car M. Tien et l'organisation qui le soutenait travaillaient dans les secteurs des cosmétiques et du divertissement et n'avaient aucune expertise technologique. Parallèlement, ChatGPT d'OpenAI, qui a bénéficié d'investissements de plusieurs centaines de milliards de dollars et a été développé pendant de nombreuses années, demeure un produit leader sur le marché à bien des égards.

Déclaration du pharmacien Tien

« Presque tous les paramètres de Tien surpassent l'intelligence artificielle que vous utilisez actuellement. Tien vous révélera que ce paramètre est très performant sur le marché », a déclaré Pham Minh Huu Tien (le pharmacien Tien) lors du lancement.

Paramètres du chatbot ChatDST fournis par le pharmacien Tien. Photo : Pham Minh Huu Tien.

L'exemple utilisé par cette personne à titre de comparaison était la capacité de la mémoire vidéo (VRAM). Pham Minh Huu Tien affirmait que le système qu'ils avaient conçu disposait de deux fois plus de mémoire que ChatGPT (960 Go contre 480 Go). « De plus, il contient également votre personnalité, intégrée aux données de l'industrie chimique et cosmétique, ce qui sera très utile aux personnes travaillant dans ce secteur », a déclaré M. Tien.

De plus, les paramètres affichés à l'écran indiquent que cette plateforme peut générer 2 000 jetons par seconde. Son architecture combine six modèles d'IA pour optimiser les performances. ChatDST garantit un fonctionnement stable pendant 99,95 % du temps et peut traiter des contextes allant jusqu'à un million de jetons.

L'intervenant a notamment précisé que ce chatbot dispose d'une mémoire illimitée pour chaque session. Le pharmacien Tien a annoncé le lancement de cette solution en octobre ; son utilisation sera payante, avec un prix variant entre 20 et 300 USD . Cependant, la vidéo de l'événement de lancement a depuis disparu de YouTube.

Paramètres anormaux

Pour l'instant, le projet annoncé par le pharmacien Tien reste au stade de projet, sans version d'essai ni rapport détaillé sur le code source ou son fonctionnement. Les informations actuelles se limitent aux paramètres de base, ainsi qu'à l'affirmation que ChatDST possède une configuration supérieure à celle de ChatGPT, et figure parmi les meilleures du marché.

Cependant, ces informations sont également vagues, et une grande partie d'entre elles sont absurdes et impossibles.

S'adressant à Tri Thuc - ZNews , M. NB, titulaire d'une maîtrise en technologies de l'information et développeur de produits d'IA, a déclaré que la déclaration du pharmacien Tien contenait des informations erronées.

Le centre de données d'OpenAI, d'une valeur de 40 milliards de dollars, est en construction au Texas, aux États-Unis. Photo : Data Center Dynamic.

Par exemple, M. Tien a affirmé que ChatDST avait été développé sur la plateforme Llama avec 403 milliards de « neurones ». Or, les grands modèles de langage utilisent des paramètres pour décrire les domaines de données, et non des « neurones ». Par ailleurs, Llama a été développé par Meta, qui a publié son code source ouvert, et ne comportait qu'une version à 405 milliards de paramètres, et non une version à 403 milliards.

En revanche, aucune source ne prouve qu'OpenAI utilise un serveur doté de 480 Go de mémoire, comme l'a annoncé Pham Minh Huu Tien. Selon les informations fournies par le pharmacien Tien, ChatDST fonctionne sur une plateforme composée de 12 GPU Nvidia A100 de 80 Go, soit un total de 960 Go de VRAM. Le prix unitaire de ces cartes graphiques avoisine les 700 millions de VND, ce qui représente un investissement de 8,4 milliards de VND pour ce composant.

Par ailleurs, une source de The Information a indiqué qu'OpenAI possède un centre de données équipé d'environ 350 000 cartes A100 pour l'inférence. ChatGPT utilise à lui seul 290 000 GPU, soit 24 167 fois la configuration annoncée par le pharmacien Tien. De plus, cette entreprise loue également des serveurs Azure de Microsoft afin de réduire la charge lorsque le nombre d'utilisateurs augmente.

On estime qu'OpenAI doit débourser environ 100 000 USD ( 2,6 milliards de VND ) par jour d'activité. Ainsi, le coût de fonctionnement de cette entreprise pour quatre jours dépasse le coût de la configuration des 12 puces A100 utilisées par le pharmacien Tien chez ChatDST.

Le Llama 405B nécessite au moins 810 Go de VRAM pour héberger le modèle fonctionnel. Image : HuggingFace.

Selon HuggingFace , Llama, avec ses 405 milliards de paramètres, nécessite au moins 810 Go de stockage. Or, le serveur de M. Tien ne dispose que de 150 Go de VRAM pour effectuer les calculs lors des conversations entre utilisateurs. Cette quantité de VRAM est suffisante pour 1 à 3 clients simultanés. Même en réduisant la précision du modèle afin de diminuer la consommation de ressources, cela permet à 3 à 9 utilisateurs de gérer des conversations simultanément.

La vitesse de traitement de 2 000 jetons/s de ChatDST est un paramètre exceptionnel dans le secteur. Actuellement, ChatGPT ne traite que 50 à 100 jetons/s selon le modèle, ce qui surcharge le système. Claude, quant à lui, plafonne à 40-80 jetons/s.

Source : https://znews.vn/thong-so-khong-tuong-tu-ai-hon-chatgpt-cua-duoc-si-tien-post1569417.html