Eczacı Tien'in yapay zekası gerçekten 'ChatGPT'den daha mı iyi'?

Bay Pham Minh Huu Tien, yapay zeka tabanlı sohbet robotunun ChatGPT'den daha iyi parametrelere sahip olduğunu duyurdu. Ancak, sağlanan verilerin çoğu hâlâ belirsiz ve mantıksız.

Eczacı Tien (Pham Minh Huu Tien), ChatDST adlı bir yapay zekayı piyasaya sürdü. Fotoğraf: DST .

Eczacı Tien, 14 Temmuz'da sosyal medyada şirketin birçok ürününü tanıtan bir video paylaştı. Bunlar arasında yer alan ChatDST adlı yapay zeka tabanlı chatbot, sunucunun "ChatGPT'den daha iyi" açıklamasıyla dikkat çekti.

Bu bilgi, Bay Tien ve arkasındaki kuruluşun kozmetik ve eğlence sektörlerinde çalışması ve teknoloji konusunda hiçbir uzmanlığa sahip olmaması nedeniyle tartışmalara yol açtı. Bu arada, yüzlerce milyar dolar yatırım yapılan ve uzun yıllar boyunca geliştirilen OpenAI'nin ChatGPT'si, birçok açıdan hâlâ pazar lideri bir ürün.

Eczacı Tien'in Beyanı

"Tien'in neredeyse tüm parametreleri, şu anda kullandığınız yapay zekayı geride bırakıyor. Tien, bu parametrenin piyasada oldukça yüksek olduğunu size gösterecek," dedi Pham Minh Huu Tien (Eczacı Tien).

Eczacı Tien tarafından verilen ChatDST chatbotunun parametreleri. Fotoğraf: Pham Minh Huu Tien.

Bu kişinin karşılaştırma için kullandığı örnek VRAM kapasitesiydi. Pham Minh Huu Tien, geliştirdikleri sistemin ChatGPT'nin iki katı belleğe sahip olduğunu (480 GB'a kıyasla 960 GB) iddia etti. Bay Tien, "Ayrıca, kimya ve kozmetik endüstrisindeki verilere yüklenen kişiliğinizi de içeriyor ve bu, bu alanda çalışanlar için çok faydalı olacak," dedi.

Ayrıca, sunum ekranındaki parametreler, bu platformun saniyede 2.000 token üretebildiğini ve mimarinin performansı artırmak için 6 yapay zeka modelini birleştirdiğini gösteriyor. ChatDST, %99,95 oranında istikrarlı bir şekilde çalışarak 1 milyon token'a kadar bağlamı işliyor.

Tanıtımcı, özellikle bu chatbot'un her oturum için sınırsız belleğe sahip olduğunu belirtti. Eczacı Tien, bu çözümün Ekim ayında kullanıma sunulacağını ve kullanıcıların kullanmak için 20-300 ABD doları fiyatla ödeme yapması gerektiğini duyurdu. Ancak lansman etkinliği videosu artık YouTube'dan kaldırıldı.

Anormal parametreler

Eczacı Tien'in duyurduğu proje şimdilik "kağıt üzerinde", deneme sürümü veya kaynak kodu veya işletimi hakkında detaylı raporlar yok. Mevcut bilgiler yalnızca temel parametreleri içeriyor ve ChatDST'nin piyasadaki en iyiler arasında yer alan ChatGPT'den daha yüksek bir yapılandırmaya sahip olduğu belirtiliyor.

Ancak bu bilgiler de belirsiz, çoğu saçma ve imkânsızdır.

Tri Thuc - ZNews'e konuşan Bilgi Teknolojileri Uzmanı, Yapay Zeka Ürün Geliştiricisi Bay NB, Eczacı Tien'in ifadesinde bazı hatalı bilgiler olduğunu söyledi.

OpenAI'nin 40 milyar dolarlık yapay zeka fabrikası ABD'nin Teksas eyaletinde inşa ediliyor. Fotoğraf: Data Center Dynamic.

Örneğin, Bay Tien, ChatDST'nin 403 milyar "nöron" içeren Llama platformunda geliştirildiğini söyledi. Aslında, büyük dil modelleri, veri alanları hakkında konuşmak için "nöronlar" yerine parametreler kullanır. Aynı zamanda, Llama, açık kaynak kodunu yayınlayan ve 403 milyarlık bir sürüm yerine yalnızca 405 milyarlık bir parametre sürümüne sahip olan Meta tarafından geliştirildi.

Öte yandan, Pham Minh Huu Tien'in duyurduğu gibi OpenAI'nin 480 GB belleğe sahip bir sunucu kullandığını gösteren bir kaynak bulunmuyor. Eczacı Tien'in verdiği parametrelere göre ChatDST, 12 adet Nvidia A100 80 GB GPU ve toplam 960 GB VRAM'den oluşan bir platformda çalışıyor. Bu ekran kartlarının her birinin piyasa fiyatı yaklaşık 700 milyon VND, yani bu bileşen için 8,4 milyar VND'lik bir yatırıma denk geliyor.

Bu arada, The Informatio n'dan bir kaynak, OpenAI'nin çıkarım için yaklaşık 350.000 A100 kartı içeren bir veri merkezine sahip olduğunu söyledi. ChatGPT tek başına 290.000 GPU kullanıyor; bu da Pharmacist Tien'in duyurduğu yapılandırmanın 24.167 katı. Ayrıca, bu şirket kullanıcı sayısı arttığında yükü azaltmak için Microsoft'un Azure sunucusunu da kiralıyor.

OpenAI'nin her operasyon günü için yaklaşık 100.000 ABD Doları ( 2,6 milyar VND ) ödemesi gerektiği tahmin ediliyor. Dolayısıyla, bu şirketin 4 günlük işletme maliyeti, Eczacı Tien'in ChatDST'de kullandığı 12 A100 çipinin konfigürasyonu için harcadığı paradan daha fazla.

Llama 405B, çalışan modeli barındırmak için en az 810 GB VRAM kullanıyor. Görsel: HuggingFace.

HuggingFace'e göre, 405 milyar Llama parametresinin depolanması için en az 810 GB alan gerekiyor. Dolayısıyla, Bay Tien'in sunucusunda kullanıcılar sohbet ederken hesaplamaları gerçekleştirmek için yalnızca 150 GB boş alan bulunuyor. Bu miktardaki VRAM, aynı anda 1-3 kullanıcının sohbet etmesi için yeterli. Kaynak tüketimini azaltmak için modelin doğruluğu azaltılsa bile, aynı anda 3-9 hesaba hizmet veren kullanıcı sayısı azalıyor.

ChatDST'nin saniyede 2.000 token işleme hızı da sektörde "hayal edilemez" bir parametre. ChatGPT şu anda modele bağlı olarak saniyede yalnızca 50-100 token üretiyor ve sistemi aşırı yüklüyor. Claude ise saniyede yalnızca 40-80 token üretiyor.

Kaynak: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html