Spesifikasi luar biasa dari AI milik Apoteker Tien yang 'lebih baik daripada ChatGPT'.

Bapak Pham Minh Huu Tien mengumumkan bahwa chatbot AI buatannya memiliki spesifikasi yang lebih baik daripada ChatGPT. Namun, sebagian besar data yang disajikan tidak jelas dan tidak logis.

Apoteker Tiến (Phạm Minh Hữu Tiến) meluncurkan AI yang disebut ChatDST. Foto: DST .

Pada tanggal 14 Juli, Apoteker Tien mengunggah video di media sosial yang memperkenalkan beberapa produk perusahaannya. Dalam video tersebut, chatbot AI bernama ChatDST menarik perhatian dengan klaim presenter bahwa chatbot tersebut "lebih baik daripada ChatGPT."

Informasi ini kontroversial karena Bapak Tien dan organisasi di belakangnya bekerja di industri kosmetik dan hiburan, sehingga kurang memiliki keahlian di bidang teknologi. Sementara itu, ChatGPT dari OpenAI, yang telah menerima investasi ratusan miliar dolar dan pengembangan selama bertahun-tahun, tetap menjadi pemimpin pasar dalam banyak aspek.

Pernyataan dari Apoteker Tien

"Hampir semua parameter Tiến melampaui parameter sistem kecerdasan buatan yang saat ini Anda gunakan. Tiến akan mengungkapkan kepada Anda bahwa parameter-parameter ini cukup tinggi dibandingkan dengan yang ada di pasaran," demikian pernyataan Phạm Minh Hữu Tiến (Apoteker Tiến) pada acara peluncuran tersebut.

Spesifikasi chatbot ChatDST disediakan oleh Apoteker Tiến. Foto: Phạm Minh Hữu Tiến.

Contoh yang digunakan orang ini untuk perbandingan adalah kapasitas VRAM. Pham Minh Huu Tien mengklaim bahwa sistem yang mereka buat memiliki memori dua kali lipat dari ChatGPT (960 GB dibandingkan dengan 480 GB). “Selain itu, sistem ini juga memiliki karakteristik khas saya sendiri, sarat dengan data di industri kimia dan kosmetik, yang akan sangat membantu bagi orang-orang yang bekerja di bidang ini,” kata Bapak Tien.

Selain itu, spesifikasi yang ditampilkan pada layar presentasi menunjukkan bahwa platform ini dapat menghasilkan 2.000 token per detik, dengan arsitektur yang menggabungkan 6 model AI untuk meningkatkan kinerja. ChatDST menjanjikan pengoperasian yang stabil 99,95% dari waktu, memproses hingga 1 juta token dalam konteks.

Yang menarik, presenter tersebut juga menyatakan bahwa chatbot ini memiliki memori tak terbatas per sesi. Apoteker Tien mengklaim bahwa solusi ini akan diluncurkan pada bulan Oktober, dengan biaya yang harus dibayar pengguna sebesar $20- $300 . Namun, video acara peluncuran tersebut kini telah menghilang dari YouTube.

Parameter abnormal

Untuk saat ini, proyek yang diumumkan oleh Apoteker Tien masih "di atas kertas," karena belum ada versi uji coba atau laporan rinci tentang kode sumber atau pengoperasiannya. Informasi yang tersedia hanya mencakup spesifikasi dasar, beserta klaim bahwa ChatDST memiliki konfigurasi yang lebih tinggi daripada ChatGPT dan termasuk yang terbaik di pasaran.

Namun, informasi ini juga tidak jelas, dan dalam banyak hal tidak logis dan mustahil.

Berbicara kepada Tri Thức - ZNews , Bapak NB, seorang Magister Teknologi Informasi dan pengembang produk AI, menyatakan bahwa ada beberapa informasi yang salah dalam pernyataan Apoteker Tiến.

Sebuah pabrik AI senilai $40 miliar untuk OpenAI sedang dibangun di Texas, AS. Foto: Data Center Dynamic.

Sebagai contoh, Bapak Tien mengatakan ChatDST dikembangkan di platform Llama dengan 403 miliar "neuron". Pada kenyataannya, model bahasa pemrograman skala besar menggunakan unit parameter untuk merujuk pada domain data, bukan "neuron". Lebih jauh lagi, Llama, yang dikembangkan oleh Meta dan dirilis sebagai perangkat lunak sumber terbuka, hanya memiliki versi dengan 405 miliar parameter; tidak ada versi dengan 403 miliar.

Di sisi lain, tidak ada sumber yang menunjukkan bahwa OpenAI menggunakan server dengan memori 480 GB seperti yang diklaim oleh Phạm Minh Hữu Tiến. Menurut spesifikasi yang diberikan oleh Phạm Minh Hữu Tiến, ChatDST berjalan pada platform 12 GPU Nvidia A100 80 GB, dengan total VRAM 960 GB. Harga pasar masing-masing kartu grafis ini sekitar 700 juta VND, setara dengan investasi 8,4 miliar VND untuk komponen ini.

Sementara itu, sumber dari The Information menunjukkan bahwa OpenAI memiliki pusat data yang berisi sekitar 350.000 GPU A100 untuk pemrosesan inferensi. ChatGPT sendiri menggunakan 290.000 GPU, 24.167 kali lipat konfigurasi yang diumumkan oleh Pharmacist Tien. Selain itu, perusahaan menyewa server Azure Microsoft untuk mengurangi beban seiring meningkatnya jumlah pengguna.

Diperkirakan OpenAI harus membayar sekitar $100.000 ( 2,6 miliar VND ) untuk setiap hari operasionalnya. Dengan demikian, biaya operasional selama 4 hari untuk perusahaan ini lebih besar daripada biaya 12 chip A100 yang digunakan Apoteker Tien di ChatDST.

Llama 405B membutuhkan setidaknya 810 GB VRAM untuk menjalankan model operasinya. Foto: HuggingFace.

Menurut HuggingFace , 405 miliar parameter Llama membutuhkan setidaknya 810 GB ruang penyimpanan. Oleh karena itu, server Bapak Tien hanya memiliki 150 GB ruang kosong untuk komputasi saat pengguna melakukan obrolan. Jumlah VRAM ini cukup untuk 1-3 klien yang mengobrol secara bersamaan. Bahkan jika akurasi model dikurangi untuk menghemat sumber daya, model tersebut masih dapat melayani 3-9 akun secara bersamaan.

Kecepatan pemrosesan ChatDST sebesar 2.000 token/detik juga merupakan angka yang "luar biasa" di industri ini. Saat ini, ChatGPT hanya menghasilkan 50-100 token/detik tergantung pada modelnya dan mengalami kelebihan beban. Claude juga hanya menangani 40-80 token/detik.

Sumber: https://znews.vn/thong-so-khong-tuong-tu-ai-hon-chatgpt-cua-duoc-si-tien-post1569417.html