Tien gyógyszerész mesterséges intelligenciája tényleg „jobb, mint a ChatGPT”?

Pham Minh Huu Tien úr bejelentette, hogy a mesterséges intelligencián alapuló chatbot jobb paraméterekkel rendelkezik, mint a ChatGPT. A közölt adatok közül azonban sok még mindig homályos és logikátlan.

Tien gyógyszerész (Pham Minh Huu Tien) elindított egy ChatDST nevű mesterséges intelligenciát. Fotó: DST .

Július 14-én Tien gyógyszerész videót tett közzé a közösségi médiában, amelyben bemutatta a vállalat számos termékét. Közülük a ChatDST nevű mesterséges intelligencia alapú chatbot hívta fel magára a figyelmet azzal a kijelentésével, hogy „jobb, mint a ChatGPT”.

Ez az információ vitát váltott ki, mivel Mr. Tien és a mögötte álló szervezet a kozmetikai és szórakoztatóiparban dolgozott, és nem rendelkezett technológiai szakértelemmel. Eközben az OpenAI ChatGPT-je, amelybe több százmilliárd dollárt fektettek be és amelyet évek alatt fejlesztettek, számos szempontból továbbra is piacvezető termék.

Tien gyógyszerész nyilatkozata

„A Tien szinte összes paramétere felülmúlja a jelenleg használt mesterséges intelligenciát. Tien el fogja árulni, hogy ez a paraméter meglehetősen magas a piacon” – jelentette ki Pham Minh Huu Tien (Tien gyógyszerész) a bemutatón.

A ChatDST chatbot paramétereit Tien gyógyszerész adta meg. Fotó: Pham Minh Huu Tien.

Az összehasonlításhoz használt példa a VRAM kapacitása volt. Pham Minh Huu Tien azt állította, hogy az általuk épített rendszer kétszer annyi memóriával rendelkezik, mint a ChatGPT (960 GB a 480 GB-hoz képest). „Ezenkívül a személyiségedet is tükrözi, amelyet a vegyiparban és a kozmetikai iparban használt adatokba töltesz be, ami nagyon hasznos lesz az ezen a területen dolgozók számára” – mondta Tien úr.

Ezenkívül a prezentációs képernyőn látható paraméterek azt is mutatják, hogy ez a platform másodpercenként 2000 tokent képes generálni, az architektúra 6 mesterséges intelligencia modellt kombinál a teljesítmény növelése érdekében. A ChatDST az idő 99,95%-ában stabil működést biztosít, akár 1 millió tokenből álló kontextusokat is feldolgozva.

A bevezető különösen azt is elmondta, hogy ennek a chatbotnak korlátlan memóriája van minden egyes munkamenethez. Tien gyógyszerész bejelentette, hogy ez a megoldás októberben kerül forgalomba, a felhasználóknak fizetniük kell a használatáért, ára 20-300 dollár között lesz. A bemutató eseményéről készült videó azonban már eltűnt a YouTube-ról.

Rendellenes paraméterek

A Pharmacist Tien által bejelentett projekt egyelőre „papíron” létezik, próbaverzió, illetve a forráskódról vagy működésről szóló részletes jelentések nélkül. A jelenlegi információk csak az alapvető paramétereket tartalmazzák, valamint azt a kijelentést, hogy a ChatDST magasabb konfigurációval rendelkezik, mint a ChatGPT, és a piacon elérhető legjobbak közé tartozik.

Ez az információ azonban homályos is, nagy része abszurd és lehetetlen.

A Tri Thuc - ZNewsnak adott interjújában NB úr, az informatika mestere és mesterséges intelligencia termékfejlesztője elmondta, hogy Tien gyógyszerész nyilatkozatában néhány hibás információ szerepelt.

Az OpenAI 40 milliárd dolláros mesterséges intelligenciagyára Texasban, az Egyesült Államokban épül. Fotó: Data Center Dynamic.

Például Mr. Tien azt mondta, hogy a ChatDST-t a Llama platformon fejlesztették ki 403 milliárd „neuronnal”. Valójában a nagy nyelvi modellek paramétereket használnak az adattartományok leírására „neuronok” helyett. Ugyanakkor a Llamát a Meta fejlesztette ki, amely nyílt forráskódú kódot adott ki, és csak egy 405 milliárd paraméteres verziója volt, nem pedig egy 403 milliárdos.

Másrészről viszont nincs olyan forrás, amely azt mutatná, hogy az OpenAI egy 480 GB memóriával rendelkező szervert használna, ahogy azt Pham Minh Huu Tien bejelentette. A Pharmacist Tien által megadott paraméterek szerint a ChatDST 12 Nvidia A100 80 GB-os GPU-ból és összesen 960 GB VRAM-ból álló platformon fut. Ezen grafikus kártyák piaci ára egyenként körülbelül 700 millió VND, ami 8,4 milliárd VND befektetésnek felel meg ezért az alkatrészért.

Eközben egy forrás a The Informationtól azt állította, hogy az OpenAI egy adatközponttal rendelkezik, amely körülbelül 350 000 A100-as kártyát tartalmaz következtetésekhez. A ChatGPT önmagában 290 000 GPU-t használ, ami 24 167-szerese a Pharmacist Tien által bejelentett konfigurációnak. Ezenkívül a cég a Microsoft Azure szerverét is bérli, hogy csökkentse a terhelést, amikor a felhasználók száma növekszik.

A becslések szerint az OpenAI-nak körülbelül 100 000 USD-t ( 2,6 milliárd VND ) kell fizetnie a működés minden napjáért. Így a vállalat 4 napos üzemeltetési költsége meghaladja a 12 A100 chip konfigurációjának költségét, amelyet Pharmacist Tien használt a ChatDST-nél.

A Llama 405B legalább 810 GB VRAM-ot igényel a működő modell befogadására. Kép: HuggingFace.

A HuggingFace szerint a Llama 405 milliárd paraméterének legalább 810 GB-ra van szüksége a tároláshoz. Így Mr. Tien szerverén csak 150 GB szabad tárhely áll rendelkezésre a számítások elvégzéséhez, amikor a felhasználók csevegnek. Ez a VRAM mennyiség elegendő 1-3 ügyfél egyidejű csevegéséhez. Még ha a modell pontosságát csökkentjük is az erőforrás-fogyasztás csökkentése érdekében, a felhasználók száma, akik egyszerre 3-9 fiókot szolgálnak ki, továbbra is csökken.

A ChatDST 2000 token/s feldolgozási sebessége szintén "elképzelhetetlen" paraméter az iparágban. Jelenleg a ChatGPT a modelltől függően csak 50-100 tokent állít elő másodpercenként, és túlterheli a rendszert. Claude is csak 40-80 tokent képes elérni másodpercenként.

Forrás: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html