Este IA farmacistului Tien într-adevăr „mai bună decât ChatGPT”?

Dl. Pham Minh Huu Tien a anunțat că chatbot-ul cu inteligență artificială are parametri mai buni decât ChatGPT. Cu toate acestea, multe dintre datele furnizate sunt încă vagi și ilogice.

Farmacistul Tien (Pham Minh Huu Tien) a lansat o inteligență artificială numită ChatDST. Foto: DST .

Pe 14 iulie, farmacistul Tien a postat pe rețelele de socializare un videoclip în care prezenta multe dintre produsele companiei. Printre acestea, chatbot-ul cu inteligență artificială numit ChatDST a atras atenția prin declarația prezentatorului că este „mai bun decât ChatGPT”.

Aceste informații au stârnit controverse deoarece dl. Tien și organizația din spatele său lucrau în industria cosmeticelor și a divertismentului și nu aveau expertiză în tehnologie. Între timp, ChatGPT de la OpenAI, care a fost investit cu sute de miliarde de dolari și dezvoltat de-a lungul multor ani, este încă un produs lider de piață în multe aspecte.

Declarația farmacistului Tien

„Aproape toți parametrii lui Tien depășesc inteligența artificială pe care o utilizați în prezent. Tien vă va dezvălui că acest parametru este destul de ridicat pe piață”, a declarat Pham Minh Huu Tien (farmacistul Tien) la lansare.

Parametrii chatbot-ului ChatDST sunt furnizați de farmacistul Tien. Fotografie: Pham Minh Huu Tien.

Exemplul folosit de această persoană pentru comparație a fost capacitatea VRAM. Pham Minh Huu Tien a susținut că sistemul pe care l-au construit avea de două ori mai multă memorie decât ChatGPT (960 GB față de 480 GB). „În plus, are și personalitatea ta, încărcată în date din industria chimică și cosmetică, ceea ce va fi foarte util pentru persoanele care lucrează în acest domeniu”, a spus dl Tien.

În plus, parametrii de pe ecranul de prezentare arată, de asemenea, că această platformă poate genera 2.000 de token-uri pe secundă, arhitectura combinând 6 modele de inteligență artificială pentru a crește performanța. ChatDST garantează o funcționare stabilă timp de 99,95% din timp, procesând contexte de până la 1 milion de token-uri.

În special, prezentatorul a mai spus că acest chatbot are memorie nelimitată pentru fiecare sesiune. Farmacistul Tien a anunțat că această soluție va fi lansată în octombrie, utilizatorii trebuie să plătească pentru a o utiliza, la un preț de 20-300 USD . Cu toate acestea, videoclipul evenimentului de lansare a dispărut acum de pe YouTube.

Parametri anormali

Deocamdată, proiectul anunțat de farmacistul Tien este încă „pe hârtie”, fără o versiune de probă sau rapoarte detaliate despre codul sursă sau funcționare. Informațiile actuale includ doar parametri de bază, alături de afirmația că ChatDST are o configurație superioară ChatGPT, printre cele mai bune de pe piață.

Totuși, aceste informații sunt vagi, în mare parte absurde și imposibile.

Într-un interviu acordat lui Tri Thuc - ZNews , dl. NB, master în tehnologia informației și dezvoltator de produse de inteligență artificială, a declarat că în declarația farmacistului Tien au existat informații eronate.

Fabrica de inteligență artificială a OpenAI, în valoare de 40 de miliarde de dolari, este construită în Texas, SUA. Foto: Data Center Dynamic.

De exemplu, dl. Tien a spus că ChatDST a fost dezvoltat pe platforma Llama cu 403 miliarde de „neuroni”. De fapt, modelele lingvistice mari folosesc parametri pentru a vorbi despre domenii de date în loc de „neuroni”. În același timp, Llama a fost dezvoltat de Meta, care a lansat cod open source și avea doar o versiune cu 405 miliarde de parametri, nu cu 403 miliarde.

Pe de altă parte, nu există nicio sursă care să arate că OpenAI folosește un server cu 480 GB de memorie, așa cum a anunțat Pham Minh Huu Tien. Conform parametrilor furnizați de farmacistul Tien, ChatDST rulează pe o platformă cu 12 GPU-uri Nvidia A100 de 80 GB, un total de 960 GB de VRAM. Prețul de piață al fiecăreia dintre aceste plăci grafice este de aproximativ 700 de milioane VND, echivalentul unei investiții de 8,4 miliarde VND pentru această componentă.

Între timp, o sursă de la The Information a declarat că OpenAI deține un centru de date care conține aproximativ 350.000 de carduri A100 pentru inferență. Numai ChatGPT utilizează 290.000 de GPU-uri, de 24.167 de ori mai mult decât configurația anunțată de farmacistul Tien. În plus, această companie închiriază și serverul Azure de la Microsoft pentru a reduce încărcarea atunci când numărul de utilizatori crește.

Se estimează că OpenAI trebuie să plătească aproximativ 100.000 USD ( 2,6 miliarde VND ) pentru fiecare zi de funcționare. Astfel, costul de operare pentru 4 zile al acestei companii este mai mare decât suma de bani pentru configurarea a 12 cipuri A100 pe care farmacistul Tien le-a folosit la ChatDST.

Llama 405B ocupă cel puțin 810 GB de VRAM pentru a găzdui modelul funcțional. Imagine: HuggingFace.

Conform HuggingFace , cei 405 miliarde de parametri ai Llama necesită cel puțin 810 GB pentru stocare. Prin urmare, serverul domnului Tien are doar 150 GB liberi pentru a efectua calcule atunci când utilizatorii discută prin chat. Această cantitate de VRAM este suficientă pentru ca 1-3 clienți să discute simultan. Chiar și prin reducerea preciziei modelului pentru a diminua consumul de resurse, numărul de utilizatori care deservesc 3-9 conturi în același timp scade.

Viteza de procesare a ChatDST de 2.000 de jetoane/s este, de asemenea, un parametru „de neimaginat” în industrie. În prezent, ChatGPT produce doar 50-100 de jetoane/s, în funcție de model, și suprasolicită sistemul. Claude atinge, de asemenea, doar 40-80 de jetoane/s.

Sursă: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html