Specifiche incredibili per l'intelligenza artificiale del farmacista Tien, che è "migliore di ChatGPT".

Il signor Pham Minh Huu Tien ha annunciato che il suo chatbot basato sull'intelligenza artificiale ha specifiche migliori di ChatGPT. Tuttavia, gran parte dei dati presentati sono vaghi e illogici.

Il farmacista Tiến (Phạm Minh Hữu Tiến) lancia un'intelligenza artificiale chiamata ChatDST. Foto: ora legale .

Il 14 luglio, il farmacista Tien ha pubblicato un video sui social media per presentare alcuni prodotti della sua azienda. Nel video, il chatbot basato sull'intelligenza artificiale chiamato ChatDST ha attirato l'attenzione, con il presentatore che affermava che fosse "migliore di ChatGPT".

Queste informazioni sono controverse perché il signor Tien e l'organizzazione che lo sostiene operano nei settori della cosmetica e dell'intrattenimento, non avendo quindi competenze specifiche in ambito tecnologico. Nel frattempo, ChatGPT di OpenAI, che ha ricevuto centinaia di miliardi di dollari di investimenti e anni di sviluppo, rimane leader di mercato sotto molti aspetti.

Dichiarazione del farmacista Tien

"Quasi tutti i parametri di Tiến superano quelli dei sistemi di intelligenza artificiale che state attualmente utilizzando. Tiến vi dimostrerà che questi parametri sono decisamente elevati rispetto alla media del mercato", ha dichiarato Phạm Minh Hữu Tiến (Farmacista Tiến) durante l'evento di lancio.

Specifiche del chatbot ChatDST fornite dal farmacista Tiến. Foto: Phạm Minh Hữu Tiến.

L'esempio che questa persona ha usato per il confronto era la capacità della VRAM. Pham Minh Huu Tien ha affermato che il sistema da loro costruito ha il doppio della memoria di ChatGPT (960 GB contro 480 GB). "Oltre a questo, ha anche delle caratteristiche proprie, essendo ricco di dati relativi all'industria chimica e cosmetica, che saranno molto utili per chi lavora in questi settori", ha detto Tien.

Inoltre, le specifiche visualizzate sullo schermo della presentazione mostrano che la piattaforma è in grado di generare 2.000 token al secondo, grazie a un'architettura che combina 6 modelli di intelligenza artificiale per ottimizzare le prestazioni. ChatDST promette un funzionamento stabile nel 99,95% dei casi, elaborando fino a 1 milione di token contemporaneamente.

In particolare, il presentatore ha anche affermato che questo chatbot ha memoria illimitata per sessione. Il farmacista Tien ha dichiarato che questa soluzione sarebbe stata lanciata a ottobre, richiedendo agli utenti il ​​pagamento di una tariffa compresa tra 20 e 300 dollari. Tuttavia, il video dell'evento di lancio è ora scomparso da YouTube.

Parametri anomali

Per ora, il progetto annunciato dal farmacista Tien rimane "sulla carta", poiché non esiste una versione di prova né report dettagliati sul codice sorgente o sul funzionamento. Le informazioni disponibili includono solo le specifiche di base, insieme all'affermazione che ChatDST ha una configurazione superiore a ChatGPT e si colloca tra i migliori sul mercato.

Tuttavia, anche queste informazioni sono vaghe e, per molti versi, illogiche e impossibili.

Parlando con Tri Thức - ZNews , il signor NB, laureato in Tecnologie dell'Informazione e sviluppatore di prodotti di intelligenza artificiale, ha affermato che la dichiarazione del farmacista Tiến conteneva alcune informazioni errate.

In Texas, negli Stati Uniti, è in costruzione un impianto per l'intelligenza artificiale da 40 miliardi di dollari, destinato a OpenAI. Foto: Data Center Dynamic.

Ad esempio, il signor Tien ha affermato che ChatDST è sviluppato sulla piattaforma Llama con 403 miliardi di "neuroni". In realtà, i modelli di linguaggio di programmazione su larga scala utilizzano unità di parametri per riferirsi ai domini di dati anziché ai "neuroni". Inoltre, Llama, sviluppato da Meta e rilasciato come open source, ha solo una versione con 405 miliardi di parametri; non esiste una versione con 403 miliardi.

D'altra parte, non esiste alcuna fonte che indichi che OpenAI utilizzi server con 480 GB di memoria, come affermato da Phạm Minh Hữu Tiến. Secondo le specifiche fornite da Pharmacist Tiến, ChatDST gira su una piattaforma con 12 GPU Nvidia A100 da 80 GB, per un totale di 960 GB di VRAM. Il prezzo di mercato di ciascuna di queste schede grafiche è di circa 700 milioni di VND, equivalenti a un investimento di 8,4 miliardi di VND per questo componente.

Nel frattempo, fonti di The Information indicano che OpenAI possiede un data center contenente circa 350.000 GPU A100 per l'elaborazione inferenziale. ChatGPT da solo utilizza 290.000 GPU, 24.167 volte la configurazione annunciata dal farmacista Tien. Inoltre, l'azienda noleggia i server Azure di Microsoft per ridurre il carico all'aumentare del numero di utenti.

Si stima che OpenAI debba pagare circa 100.000 dollari ( 2,6 miliardi di VND ) per ogni giorno di attività. Pertanto, i costi operativi per 4 giorni per questa azienda sono stati superiori al costo dei 12 chip A100 che il farmacista Tien ha utilizzato presso ChatDST.

Il Llama 405B richiede almeno 810 GB di VRAM per ospitare il sistema operativo. Foto: HuggingFace.

Secondo HuggingFace , i 405 miliardi di parametri di Llama richiedono almeno 810 GB di spazio di archiviazione. Pertanto, il server del signor Tien dispone di soli 150 GB di spazio libero per i calcoli quando gli utenti chattano. Questa quantità di VRAM è sufficiente per 1-3 client che chattano simultaneamente. Anche se la precisione del modello venisse ridotta per risparmiare risorse, sarebbe comunque in grado di gestire contemporaneamente da 3 a 9 account.

La velocità di elaborazione di ChatDST, pari a 2.000 token al secondo, è un dato "incredibile" nel settore. Attualmente, ChatGPT produce solo 50-100 token al secondo a seconda del modello e risulta sovraccarico. Anche Claude gestisce solo 40-80 token al secondo.

Fonte: https://znews.vn/thong-so-khong-tuong-tu-ai-hon-chatgpt-cua-duoc-si-tien-post1569417.html