Er farmasøyt Tiens kunstige intelligens virkelig «bedre enn ChatGPT»?

Pham Minh Huu Tien annonserte at AI-chatboten har bedre parametere enn ChatGPT. Imidlertid er mange av dataene som er gitt fortsatt vage og ulogiske.

Farmasøyten Tien (Pham Minh Huu Tien) lanserte en kunstig intelligens kalt ChatDST. Foto: DST .

14. juli la farmasøyten Tien ut en video som introduserte mange av selskapets produkter på sosiale medier. Blant dem vakte AI-chatboten ChatDST oppsikt med presentatørens uttalelse om at den var «bedre enn ChatGPT».

Denne informasjonen forårsaket kontrovers fordi Tien og organisasjonen bak ham jobbet i kosmetikk- og underholdningsindustrien og ikke hadde noen ekspertise innen teknologi. Samtidig er OpenAIs ChatGPT, som har blitt investert med hundrevis av milliarder dollar og utviklet over mange år, fortsatt et markedsledende produkt på mange måter.

Erklæring fra farmasøyt Tien

«Nesten alle Tiens parametere overgår den kunstige intelligensen dere bruker for øyeblikket. Tien vil avsløre at denne parameteren er ganske høyt ansett i markedet», erklærte Pham Minh Huu Tien (farmasøyt Tien) ved lanseringen.

Parametre for ChatDST-chatboten gitt av farmasøyt Tien. Foto: Pham Minh Huu Tien.

Eksemplet denne personen brukte til sammenligning var VRAM-kapasiteten. Pham Minh Huu Tien hevdet at systemet de bygde hadde dobbelt så mye minne som ChatGPT (960 GB sammenlignet med 480 GB). «I tillegg har det også din personlighet, lastet inn i data i kjemisk og kosmetisk industri, noe som vil være svært nyttig for folk som jobber innen dette feltet», sa Tien.

I tillegg viser parameterne på presentasjonsskjermen også at denne plattformen kan generere 2000 tokens per sekund, og arkitekturen kombinerer 6 AI-modeller for å øke ytelsen. ChatDST forplikter seg til stabil drift i 99,95 % av tiden, og behandler kontekster på opptil 1 million tokens.

Spesielt sa introdusøren også at denne chatboten har ubegrenset minne for hver økt. Farmasøyt Tien annonserte at denne løsningen vil bli lansert i oktober, brukere må betale for å bruke den, priset til 20–300 USD . Imidlertid har videoen fra lanseringsarrangementet nå forsvunnet fra YouTube.

Unormale parametere

Foreløpig er prosjektet som Pharmacist Tien annonserte fortsatt «på papiret», uten en prøveversjon eller detaljerte rapporter om kildekode eller drift. Den nåværende informasjonen inkluderer kun grunnleggende parametere, sammen med påstanden om at ChatDST har en høyere konfigurasjon enn ChatGPT, blant de beste på markedet.

Denne informasjonen er imidlertid også vag, mye av den absurd og umulig.

I en samtale med Tri Thuc - ZNews sa herr NB, master i informasjonsteknologi og produktutvikler for kunstig intelligens, at det var noe feilinformasjon i farmasøyt Tiens uttalelse.

OpenAIs AI-fabrikk til 40 milliarder dollar bygges i Texas, USA. Foto: Data Center Dynamic.

For eksempel sa Tien at ChatDST ble utviklet på Llama-plattformen med 403 milliarder «nevroner». Faktisk bruker store språkmodeller parametere til å snakke om datadomener i stedet for «nevroner». Samtidig ble Llama utviklet av Meta, som ga ut åpen kildekode, og hadde bare en versjon med 405 milliarder parametere, ikke en versjon med 403 milliarder.

På den annen side finnes det ingen kilder som viser at OpenAI bruker en server med 480 GB minne, slik Pham Minh Huu Tien annonserte. I følge parameterne gitt av Pharmacist Tien, kjører ChatDST på en plattform med 12 Nvidia A100 80 GB GPU-er, totalt 960 GB VRAM. Markedsprisen for hvert av disse grafikkortene er omtrent 700 millioner VND, tilsvarende en investering på 8,4 milliarder VND for denne komponenten.

I mellomtiden opplyste en kilde fra The Information at OpenAI eier et datasenter som inneholder rundt 350 000 A100-kort for inferens. ChatGPT alene bruker 290 000 GPU-er, 24 167 ganger konfigurasjonen som Pharmacist Tien annonserte. I tillegg leier dette selskapet også Microsofts Azure-server for å redusere belastningen når antallet brukere øker.

Det er anslått at OpenAI må betale rundt 100 000 USD ( 2,6 milliarder VND ) for hver driftsdag. Dermed er driftskostnadene for 4 dager for dette selskapet mer enn beløpet for konfigurasjonen av 12 A100-brikker som farmasøyt Tien brukte hos ChatDST.

Llama 405B bruker minst 810 GB VRAM for å huse den fungerende modellen. Bilde: HuggingFace.

Ifølge HuggingFace trenger Llama 405 milliarder parametere minst 810 GB å lagre. Dermed har Mr. Tiens server bare 150 GB ledig plass til å betjene beregninger når brukere chatter. Denne mengden VRAM er nok til at 1–3 kunder kan chatte samtidig. Selv når man reduserer modellens nøyaktighet for å redusere ressursforbruket, kan antallet brukere som betjener 3–9 kontoer samtidig øke.

ChatDSTs behandlingshastighet på 2000 tokens/s er også en «ufattelig» parameter i bransjen. For øyeblikket produserer ChatGPT bare 50–100 tokens/s avhengig av modellen og overbelaster systemet. Claude oppnår også bare 40–80 tokens/s.

Kilde: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html