Niewiarygodne parametry sztucznej inteligencji „lepsze niż ChatGPT” farmaceuty Tiena

Pan Pham Minh Huu Tien ogłosił, że chatbot AI ma lepsze parametry niż ChatGPT. Jednak wiele z dostarczonych danych jest nadal niejasnych i nielogicznych.

Farmaceuta Tien (Pham Minh Huu Tien) uruchomił sztuczną inteligencję o nazwie ChatDST. Zdjęcie: DST .

14 lipca farmaceuta Tien opublikował w mediach społecznościowych film prezentujący wiele produktów firmy. Wśród nich znalazł się chatbot oparty na sztucznej inteligencji o nazwie ChatDST, który przyciągnął uwagę, a prezenter stwierdził, że jest „lepszy niż ChatGPT”.

Informacja ta wywołała kontrowersje, ponieważ pan Tien i organizacja, która go stworzyła, pracowali w branży kosmetycznej i rozrywkowej i nie mieli żadnego doświadczenia w technologii. Tymczasem ChatGPT firmy OpenAI, w który zainwestowano setki miliardów dolarów i który rozwijano przez wiele lat, nadal jest pod wieloma względami wiodącym produktem na rynku.

Oświadczenie farmaceuty Tiena

„Prawie wszystkie parametry Tien przewyższają możliwości sztucznej inteligencji, z której obecnie korzystacie. Tien ujawni wam, że ten parametr jest dość wysoki na rynku” – oświadczył Pham Minh Huu Tien (farmaceuta Tien) podczas premiery.

Parametry chatbota ChatDST podane przez farmaceutę Tiena. Zdjęcie: Pham Minh Huu Tien.

Przykładem, którego użyła ta osoba do porównania, była pojemność pamięci VRAM. Pham Minh Huu Tien twierdził, że zbudowany przez nich system miał dwukrotnie większą pamięć niż ChatGPT (960 GB w porównaniu do 480 GB). „Dodatkowo, ma on również twoją osobowość, wgraną do danych w przemyśle chemicznym i kosmetycznym, co będzie bardzo pomocne dla osób pracujących w tej branży” – powiedział pan Tien.

Ponadto parametry na ekranie prezentacji pokazują, że platforma może generować 2000 tokenów na sekundę. Architektura łączy 6 modeli sztucznej inteligencji (AI) w celu zwiększenia wydajności. ChatDST gwarantuje stabilną pracę przez 99,95% czasu, przetwarzając konteksty do 1 miliona tokenów.

W szczególności, prezenter powiedział również, że ten chatbot ma nieograniczoną pamięć dla każdej sesji. Farmaceuta Tien ogłosił, że to rozwiązanie zostanie wprowadzone na rynek w październiku, a użytkownicy będą musieli za nie zapłacić, w cenie 20–300 USD . Jednak film z wydarzenia premierowego zniknął już z YouTube.

Nieprawidłowe parametry

Na razie projekt, który zapowiedział farmaceuta Tien, jest wciąż „na papierze”, bez wersji testowej ani szczegółowych raportów dotyczących kodu źródłowego i działania. Aktualne informacje obejmują jedynie podstawowe parametry, wraz z oświadczeniem, że ChatDST ma wyższą konfigurację niż ChatGPT, jedną z najlepszych na rynku.

Informacje te są jednak niejasne, wiele z nich absurdalnych i niemożliwych.

W rozmowie z Tri Thuc - ZNews , pan NB, magister informatyki, twórca produktów AI, stwierdził, że w oświadczeniu farmaceuty Tiena znalazły się pewne błędne informacje.

Fabryka sztucznej inteligencji OpenAI o wartości 40 miliardów dolarów powstaje w Teksasie w USA. Zdjęcie: Data Center Dynamic.

Na przykład, pan Tien powiedział, że ChatDST został opracowany na platformie Llama z 403 miliardami „neuronów”. W rzeczywistości duże modele językowe używają parametrów do komunikacji o domenach danych zamiast „neuronów”. W tym samym czasie platforma Llama została opracowana przez Meta, która opublikowała kod źródłowy w trybie open source i miała wersję z 405 miliardami parametrów, a nie 403 miliardami.

Z drugiej strony, nie ma żadnych źródeł wskazujących na to, że OpenAI korzysta z serwera z 480 GB pamięci, jak ogłosił Pham Minh Huu Tien. Według parametrów podanych przez farmaceutę Tiena, ChatDST działa na platformie 12 procesorów graficznych Nvidia A100 o pojemności 80 GB i łącznej pamięci VRAM 960 GB. Cena rynkowa każdej z tych kart graficznych wynosi około 700 milionów VND, co odpowiada inwestycji w wysokości 8,4 miliarda VND w ten komponent.

Tymczasem źródło z The Informatio n podało, że OpenAI posiada centrum danych zawierające około 350 000 kart A100 do wnioskowania. Sam ChatGPT wykorzystuje 290 000 procesorów GPU, czyli 24 167 razy więcej niż konfiguracja ogłoszona przez farmaceutę Tiena. Ponadto firma ta wynajmuje serwer Microsoft Azure, aby zmniejszyć obciążenie w przypadku wzrostu liczby użytkowników.

Szacuje się, że OpenAI musi płacić około 100 000 USD ( 2,6 miliarda VND ) za każdy dzień działalności. Zatem koszt operacyjny tej firmy przez 4 dni jest wyższy niż koszt konfiguracji 12 chipów A100, których farmaceuta Tien użył w ChatDST.

Llama 405B zajmuje co najmniej 810 GB pamięci VRAM, aby pomieścić działający model. Zdjęcie: HuggingFace.

Według HuggingFace , 405 miliardów parametrów Llama wymaga co najmniej 810 GB pamięci. Zatem serwer pana Tiena ma tylko 150 GB wolnego miejsca na obliczenia podczas czatowania użytkowników. Taka ilość pamięci VRAM wystarcza na jednoczesne czatowanie od 1 do 3 użytkowników. Nawet przy zmniejszeniu dokładności modelu w celu zmniejszenia zużycia zasobów, liczba użytkowników obsługujących jednocześnie od 3 do 9 kont jest wystarczająca.

Prędkość przetwarzania ChatDST wynosząca 2000 tokenów/s to również parametr „niewyobrażalny” w branży. Obecnie ChatGPT generuje jedynie 50–100 tokenów/s w zależności od modelu i przeciąża system. Claude również osiąga jedynie 40–80 tokenów/s.

Źródło: https://znews.vn/thong-so-khong-tuong-tu-ai-hon-chatgpt-cua-duoc-si-tien-post1569417.html