 |
Le pharmacien Tien (Pham Minh Huu Tien) a lancé une IA appelée ChatDST. Photo : DST . |
Le 14 juillet, le pharmacien Tien a publié une vidéo présentant plusieurs produits de l'entreprise sur les réseaux sociaux. Parmi eux, le chatbot IA ChatDST a attiré l'attention en déclarant, selon le présentateur, qu'il était « meilleur que ChatGPT ».
Cette information est controversée, car M. Tien et l'organisation qui le soutient travaillent dans les secteurs des cosmétiques et du divertissement et n'ont aucune expertise technologique. Par ailleurs, ChatGPT d'OpenAI, qui a bénéficié de centaines de milliards de dollars d'investissement et de nombreuses années de développement, demeure un produit leader du marché à bien des égards.
Déclaration du pharmacien Tien
« Presque tous les paramètres de Tien surpassent l'intelligence artificielle que vous utilisez actuellement. Tien vous révélera que ce paramètre est très élevé sur le marché », a déclaré Pham Minh Huu Tien (pharmacien Tien) lors du lancement.
 |
Paramètres du chatbot ChatDST donnés par le pharmacien Tien. Photo : Pham Minh Huu Tien. |
L'exemple utilisé par cette personne pour la comparaison était la capacité de la VRAM. Pham Minh Huu Tien a affirmé que le système qu'ils avaient construit disposait de deux fois plus de mémoire que ChatGPT (960 Go contre 480 Go). « De plus, il intègre votre personnalité, intégrée aux données de l'industrie chimique et cosmétique, ce qui sera très utile pour ceux qui travaillent dans ce secteur », a déclaré M. Tien.
De plus, les paramètres affichés sur l'écran de présentation montrent que cette plateforme peut générer 2 000 jetons par seconde. Son architecture combine six modèles d'IA pour optimiser les performances. ChatDST garantit un fonctionnement stable pendant 99,95 % du temps, avec des contextes de traitement allant jusqu'à 1 million de jetons.
Le présentateur a notamment indiqué que ce chatbot disposait d'une mémoire illimitée pour chaque session. Le pharmacien Tien a annoncé que cette solution serait lancée en octobre et que son utilisation serait payante ( entre 20 et 300 USD) . Cependant, la vidéo de lancement a disparu de YouTube.
Paramètres anormaux
Pour l'instant, le projet annoncé par le pharmacien Tien est encore sur le papier, sans version d'essai ni rapports détaillés sur le code source ou son fonctionnement. Les informations actuelles ne comprennent que les paramètres de base, ainsi que l'affirmation selon laquelle ChatDST possède une configuration supérieure à ChatGPT, parmi les meilleures du marché.
Cependant, ces informations sont également vagues, largement illogiques et impossibles.
S'adressant à Tri Thuc - ZNews , M. NB, maître en technologie de l'information, développeur de produits d'IA, a déclaré qu'il y avait des informations erronées dans la déclaration du pharmacien Tien.
 |
L'usine d'IA d'OpenAI, d'une valeur de 40 milliards de dollars, est en construction au Texas, aux États-Unis. Photo : Data Center Dynamic. |
Par exemple, M. Tien a expliqué que ChatDST a été développé sur la plateforme Llama, dotée de 403 milliards de « neurones ». En réalité, les grands modèles de langage utilisent des paramètres pour communiquer avec les domaines de données plutôt que des « neurones ». Parallèlement, Llama a été développé par Meta, qui a publié du code open source, et ne disposait que d'une version à 405 milliards de paramètres, et non à 403 milliards.
En revanche, aucune source n'indique qu'OpenAI utilise un serveur doté de 480 Go de mémoire, comme l'a annoncé Pham Minh Huu Tien. Selon les paramètres fournis par le pharmacien Tien, ChatDST fonctionne sur une plateforme composée de 12 GPU Nvidia A100 de 80 Go, avec un total de 960 Go de VRAM. Le prix de marché de chacune de ces cartes graphiques est d'environ 700 millions de VND, soit l'équivalent d'un investissement de 8,4 milliards de VND pour ce composant.
Parallèlement, une source de The Information a indiqué qu'OpenAI possède un centre de données contenant environ 350 000 cartes A100 pour l'inférence. ChatGPT utilise à lui seul 290 000 GPU, soit 24 167 fois la configuration annoncée par Pharmacist Tien. De plus, cette société loue également des serveurs Azure de Microsoft afin de réduire la charge lorsque le nombre d'utilisateurs augmente.
On estime qu'OpenAI doit débourser environ 100 000 USD ( 2,6 milliards de VND ) par jour d'exploitation. Ainsi, le coût d'exploitation de cette entreprise pour quatre jours est supérieur au coût de la configuration des 12 puces A100 utilisées par le pharmacien Tien chez ChatDST.
 |
Le Llama 405B nécessite au moins 810 Go de VRAM pour héberger le modèle fonctionnel. Photo : HuggingFace. |
Selon HuggingFace , 405 milliards de paramètres nécessitent au moins 810 Go de stockage. Ainsi, le serveur de M. Tien ne dispose que de 150 Go de mémoire VRAM pour effectuer les calculs lorsque les utilisateurs discutent. Cette quantité de VRAM est suffisante pour permettre à 1 à 3 clients de discuter simultanément. Même en réduisant la précision du modèle pour économiser les ressources, le nombre d'utilisateurs pouvant gérer 3 à 9 comptes simultanément est limité.
La vitesse de traitement de ChatDST, de 2 000 jetons/s, est également un paramètre « inimaginable » dans le secteur. Actuellement, ChatGPT ne produit que 50 à 100 jetons/s selon le modèle, ce qui surcharge le système. Claude ne produit également que 40 à 80 jetons/s.
Source : https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html
Comment (0)