Is de AI van apotheker Tien echt 'beter dan ChatGPT'?

De heer Pham Minh Huu Tien kondigde aan dat de AI-chatbot betere parameters heeft dan ChatGPT. Veel van de verstrekte gegevens zijn echter nog steeds vaag en onlogisch.

Apotheker Tien (Pham Minh Huu Tien) lanceerde een AI genaamd ChatDST. Foto: DST .

Op 14 juli plaatste apotheker Tien een video op sociale media waarin hij een aantal van de producten van het bedrijf introduceerde. Een daarvan was de AI-chatbot ChatDST, die de aandacht trok met de uitspraak van de presentator dat deze "beter was dan ChatGPT".

Deze informatie veroorzaakte controverse, omdat de heer Tien en de organisatie achter hem in de cosmetica- en entertainmentindustrie werkten en geen enkele technologische expertise hadden. Ondertussen is ChatGPT van OpenAI, waarin honderden miljarden dollars zijn geïnvesteerd en dat in de loop der jaren is ontwikkeld, in veel opzichten nog steeds een toonaangevend product.

Verklaring van apotheker Tien

"Bijna alle parameters van Tien overtreffen de kunstmatige intelligentie die u momenteel gebruikt. Tien zal u vertellen dat deze parameter behoorlijk hoog op de markt staat", verklaarde Pham Minh Huu Tien (apotheker Tien) bij de lancering.

Parameters van de ChatDST-chatbot, verstrekt door apotheker Tien. Foto: Pham Minh Huu Tien.

Het voorbeeld dat deze persoon ter vergelijking gebruikte, was de VRAM-capaciteit. Pham Minh Huu Tien beweerde dat het systeem dat ze bouwden twee keer zoveel geheugen had als ChatGPT (960 GB vergeleken met 480 GB). "Bovendien bevat het ook jouw persoonlijkheid, geladen in data in de chemische en cosmetische industrie, wat zeer nuttig zal zijn voor mensen die in deze sector werken", aldus de heer Tien.

Bovendien laten de parameters op het presentatiescherm zien dat dit platform 2.000 tokens per seconde kan genereren; de architectuur combineert 6 AI-modellen om de prestaties te verbeteren. ChatDST garandeert een stabiele werking gedurende 99,95% van de tijd en verwerkt contexten tot 1 miljoen tokens.

De introducer zei met name dat deze chatbot onbeperkt geheugen heeft voor elke sessie. Apotheker Tien kondigde aan dat deze oplossing in oktober gelanceerd zal worden. Gebruikers moeten betalen om het te gebruiken, wat tussen de 20 en 300 dollar kost. De video van het lanceringsevenement is echter inmiddels van YouTube verdwenen.

Abnormale parameters

Voorlopig staat het project dat Apotheker Tien aankondigde nog steeds "op papier", zonder een proefversie of gedetailleerde rapporten over de broncode of werking. De huidige informatie bevat alleen basisparameters, samen met de verklaring dat ChatDST een hogere configuratie heeft dan ChatGPT, een van de beste op de markt.

Maar ook deze informatie is vaag, het meeste ervan is absurd en onmogelijk.

In een gesprek met Tri Thuc - ZNews zei de heer NB, Master of Information Technology, AI-productontwikkelaar, dat er onjuiste informatie in de verklaring van apotheker Tien stond.

De 40 miljard dollar kostende AI-fabriek van OpenAI wordt gebouwd in Texas, VS. Foto: Data Center Dynamic.

Dhr. Tien zei bijvoorbeeld dat ChatDST ontwikkeld was op het Llama-platform met 403 miljard "neuronen". Sterker nog, grote taalmodellen gebruiken parameters om over datadomeinen te praten in plaats van over "neuronen". Tegelijkertijd werd Llama ontwikkeld door Meta, dat open source code uitbracht, en had het slechts een versie met 405 miljard parameters, niet een versie met 403 miljard.

Er is echter geen enkele bron die aantoont dat OpenAI een server met 480 GB geheugen gebruikt, zoals Pham Minh Huu Tien aankondigde. Volgens de parameters van apotheker Tien draait ChatDST op een platform van 12 Nvidia A100 80 GB GPU's, met in totaal 960 GB VRAM. De marktprijs van elk van deze grafische kaarten bedraagt ​​ongeveer 700 miljoen VND, wat overeenkomt met een investering van 8,4 miljard VND voor dit onderdeel.

Ondertussen meldde een bron van The Information dat OpenAI een datacenter bezit met ongeveer 350.000 A100-kaarten voor inferentie. ChatGPT alleen al gebruikt 290.000 GPU's, 24.167 keer de configuratie die Pharmacist Tien aankondigde. Daarnaast huurt dit bedrijf ook de Azure-server van Microsoft om de belasting te verminderen wanneer het aantal gebruikers toeneemt.

Naar schatting betaalt OpenAI ongeveer 100.000 dollar ( 2,6 miljard VND ) per operationele dag. De operationele kosten voor vier dagen van dit bedrijf zijn dus hoger dan het bedrag dat apotheker Tien kwijt was aan de configuratie van 12 A100-chips bij ChatDST.

De Llama 405B heeft minimaal 810 GB VRAM nodig om het werkende model te huisvesten. Afbeelding: HuggingFace.

Volgens HuggingFace hebben Llama 405 miljard parameters minimaal 810 GB opslag nodig. De server van meneer Tien heeft dus slechts 150 GB vrij om berekeningen uit te voeren wanneer gebruikers chatten. Deze hoeveelheid VRAM is voldoende voor 1-3 gebruikers om tegelijkertijd te chatten. Zelfs wanneer de nauwkeurigheid van het model wordt verlaagd om het resourceverbruik te verminderen, blijft het aantal gebruikers dat tegelijkertijd 3-9 accounts bedient, achter.

De verwerkingssnelheid van ChatDST van 2.000 tokens/s is eveneens een "onvoorstelbare" parameter in de branche. Momenteel produceert ChatGPT slechts 50-100 tokens/s, afhankelijk van het model, en overbelast het systeem. Claude haalt ook slechts 40-80 tokens/s.

Bron: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html