Apakah AI Apoteker Tien benar-benar 'lebih baik daripada ChatGPT'?

Bapak Pham Minh Huu Tien mengumumkan bahwa chatbot AI memiliki parameter yang lebih baik daripada ChatGPT. Namun, banyak data yang diberikan masih samar dan tidak logis.

Apoteker Tien (Pham Minh Huu Tien) meluncurkan AI bernama ChatDST. Foto: DST .

Pada 14 Juli, Apoteker Tien mengunggah video yang memperkenalkan berbagai produk perusahaan di media sosial. Di antaranya, chatbot AI bernama ChatDST yang menarik perhatian dengan pernyataan presenternya yang menyatakan bahwa chatbot tersebut "lebih baik daripada ChatGPT".

Informasi ini menimbulkan kontroversi karena Bapak Tien dan organisasi di baliknya bekerja di industri kosmetik dan hiburan, serta tidak memiliki keahlian di bidang teknologi. Sementara itu, ChatGPT dari OpenAI, yang telah diinvestasikan ratusan miliar dolar dan dikembangkan selama bertahun-tahun, masih merupakan produk terdepan di pasar dalam banyak aspek.

Pernyataan Apoteker Tien

"Hampir semua parameter Tien melampaui kecerdasan buatan yang Anda gunakan saat ini. Tien akan mengungkapkan kepada Anda bahwa parameter ini cukup tinggi di pasaran," ujar Pham Minh Huu Tien (Apoteker Tien) saat peluncuran.

Parameter chatbot ChatDST diberikan oleh Apoteker Tien. Foto: Pham Minh Huu Tien.

Contoh yang digunakan orang ini sebagai perbandingan adalah kapasitas VRAM. Pham Minh Huu Tien mengklaim bahwa sistem yang mereka bangun memiliki memori dua kali lipat ChatGPT (960 GB dibandingkan dengan 480 GB). "Selain itu, sistem ini juga memuat kepribadian Anda, yang dimuat ke dalam data di industri kimia dan kosmetik, yang akan sangat membantu bagi orang-orang yang bekerja di bidang ini," kata Bapak Tien.

Selain itu, parameter pada layar presentasi juga menunjukkan bahwa platform ini dapat menghasilkan 2.000 token per detik, dan arsitekturnya menggabungkan 6 model AI untuk meningkatkan kinerja. ChatDST berkomitmen untuk beroperasi secara stabil selama 99,95% waktu, memproses konteks hingga 1 juta token.

Secara khusus, pengantar juga menyebutkan bahwa chatbot ini memiliki memori tak terbatas untuk setiap sesi. Apoteker Tien mengumumkan bahwa solusi ini akan diluncurkan pada bulan Oktober, dan pengguna harus membayar untuk menggunakannya, dengan harga 20-300 dolar AS . Namun, video acara peluncuran tersebut kini telah menghilang dari YouTube.

Parameter abnormal

Untuk saat ini, proyek yang diumumkan oleh Apoteker Tien masih "di atas kertas", tanpa versi uji coba atau laporan detail tentang kode sumber atau operasinya. Informasi yang ada saat ini hanya mencakup parameter dasar, beserta pernyataan bahwa ChatDST memiliki konfigurasi yang lebih tinggi daripada ChatGPT, termasuk yang terbaik di pasaran.

Akan tetapi, informasi ini juga tidak jelas, sebagian besarnya tidak masuk akal dan mustahil.

Berbicara kepada Tri Thuc - ZNews , Tn. NB, Magister Teknologi Informasi, pengembang produk AI, mengatakan bahwa ada beberapa informasi yang salah dalam pernyataan Apoteker Tien.

Pabrik AI OpenAI senilai $40 miliar sedang dibangun di Texas, AS. Foto: Data Center Dynamic.

Misalnya, Pak Tien mengatakan ChatDST dikembangkan pada platform Llama dengan 403 miliar "neuron". Faktanya, model bahasa yang besar menggunakan parameter untuk membahas domain data, alih-alih "neuron". Sementara itu, Llama dikembangkan oleh Meta, yang merilis kode sumber terbuka, dan hanya memiliki versi dengan 405 miliar parameter, bukan versi dengan 403 miliar parameter.

Di sisi lain, tidak ada sumber yang menunjukkan bahwa OpenAI menggunakan server dengan memori 480 GB seperti yang diumumkan Pham Minh Huu Tien. Berdasarkan parameter yang diberikan oleh Apoteker Tien, ChatDST berjalan pada platform 12 GPU Nvidia A100 80 GB, dengan total VRAM 960 GB. Harga pasaran masing-masing kartu grafis ini sekitar 700 juta VND, setara dengan investasi 8,4 miliar VND untuk komponen ini.

Sementara itu, sumber dari The Information menyatakan bahwa OpenAI memiliki pusat data yang berisi sekitar 350.000 kartu A100 untuk inferensi. ChatGPT sendiri menggunakan 290.000 GPU, 24.167 kali lipat konfigurasi yang diumumkan oleh Apoteker Tien. Selain itu, perusahaan ini juga menyewa server Azure milik Microsoft untuk mengurangi beban kerja ketika jumlah pengguna meningkat.

Diperkirakan OpenAI harus membayar sekitar 100.000 USD ( 2,6 miliar VND ) untuk setiap hari operasional. Dengan demikian, biaya operasional perusahaan ini selama 4 hari lebih besar daripada jumlah uang untuk konfigurasi 12 chip A100 yang digunakan Apoteker Tien di ChatDST.

Llama 405B membutuhkan setidaknya 810 GB VRAM untuk menampung model yang sedang berjalan. Gambar: HuggingFace.

Menurut HuggingFace , Llama membutuhkan setidaknya 810 GB untuk menyimpan 405 miliar parameter. Dengan demikian, server Pak Tien hanya memiliki 150 GB ruang kosong untuk melayani kalkulasi saat pengguna mengobrol. Jumlah VRAM ini cukup untuk 1-3 pelanggan mengobrol secara bersamaan. Bahkan ketika akurasi model dikurangi untuk mengurangi konsumsi sumber daya, jumlah pengguna yang melayani 3-9 akun secara bersamaan tetap sama.

Kecepatan pemrosesan ChatDST sebesar 2.000 token/detik juga merupakan parameter yang "tak terbayangkan" di industri ini. Saat ini, ChatGPT hanya menghasilkan 50-100 token/detik, tergantung modelnya, dan membebani sistem. Claude juga hanya memenuhi 40-80 token/detik.

Sumber: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html