พารามิเตอร์ที่เหลือเชื่อจาก AI 'ดีกว่า ChatGPT' ของเภสัชกรเทียน

คุณ Pham Minh Huu Tien ประกาศว่า AI chatbot มีพารามิเตอร์ที่ดีกว่า ChatGPT อย่างไรก็ตาม ข้อมูลจำนวนมากที่ให้มายังคงคลุมเครือและไม่สมเหตุสมผล

เภสัชกร Tien (Pham Minh Huu Tien) เปิดตัว AI ชื่อ ChatDST ภาพ: DST

เมื่อวันที่ 14 กรกฎาคม เภสัชกร Tien ได้โพสต์ วิดีโอ แนะนำผลิตภัณฑ์หลายรายการของบริษัทบนโซเชียลมีเดีย หนึ่งในนั้นคือแชทบอท AI ชื่อ ChatDST ซึ่งดึงดูดความสนใจของผู้นำเสนอด้วยคำกล่าวที่ว่า "ดีกว่า ChatGPT"

ข้อมูลนี้ก่อให้เกิดข้อถกเถียง เนื่องจากคุณเทียนและองค์กรที่อยู่เบื้องหลังเขาทำงานอยู่ในอุตสาหกรรมเครื่องสำอางและบันเทิง และไม่มีความเชี่ยวชาญด้านเทคโนโลยี ขณะเดียวกัน ChatGPT ของ OpenAI ซึ่งลงทุนไปหลายแสนล้านดอลลาร์และพัฒนามาหลายปี ยังคงเป็นผลิตภัณฑ์ชั้นนำของตลาดในหลายๆ ด้าน

คำชี้แจงของเภสัชกรเตียน

“พารามิเตอร์เกือบทั้งหมดของ Tien เหนือกว่าปัญญาประดิษฐ์ที่คุณใช้อยู่ในปัจจุบัน Tien จะบอกคุณว่าพารามิเตอร์นี้ค่อนข้างสูงในตลาด” Pham Minh Huu Tien (เภสัชกร Tien) กล่าวในงานเปิดตัว

พารามิเตอร์ของแชทบอท ChatDST ที่ได้รับจากเภสัชกร Tien ภาพ: Pham Minh Huu Tien

ตัวอย่างที่บุคคลนี้ใช้ในการเปรียบเทียบคือความจุของ VRAM Pham Minh Huu Tien อ้างว่าระบบที่พวกเขาสร้างขึ้นมีหน่วยความจำมากกว่า ChatGPT ถึงสองเท่า (960 GB เทียบกับ 480 GB) “นอกจากนี้ ระบบยังมีข้อมูลบุคลิกภาพของคุณที่โหลดลงในข้อมูลในอุตสาหกรรมเคมีและเครื่องสำอาง ซึ่งจะเป็นประโยชน์อย่างมากสำหรับผู้ที่ทำงานในสาขานี้” คุณ Tien กล่าว

นอกจากนี้ พารามิเตอร์บนหน้าจอนำเสนอยังแสดงให้เห็นว่าแพลตฟอร์มนี้สามารถสร้างโทเค็นได้ 2,000 โทเค็นต่อวินาที สถาปัตยกรรมนี้ผสานรวมโมเดล AI 6 แบบเพื่อเพิ่มประสิทธิภาพ ChatDST มุ่งมั่นที่จะทำงานได้อย่างเสถียร 99.95% ของเวลาทั้งหมด โดยประมวลผลบริบทได้สูงสุด 1 ล้านโทเค็น

โดยเฉพาะอย่างยิ่ง ผู้แนะนำยังกล่าวอีกว่าแชทบอทนี้มีหน่วยความจำไม่จำกัดสำหรับแต่ละเซสชัน เภสัชกร Tien ประกาศว่าโซลูชันนี้จะเปิดตัวในเดือนตุลาคม ผู้ใช้ต้องจ่ายเงินเพื่อใช้งาน มีราคาอยู่ที่ 20-300 ดอลลาร์สหรัฐ อย่างไรก็ตาม วิดีโองานเปิดตัวได้หายไปจาก YouTube แล้ว

พารามิเตอร์ที่ผิดปกติ

ในขณะนี้ โครงการที่เภสัชกรเถียนประกาศไว้ยังคง “อยู่ในกระดาษ” โดยไม่มีเวอร์ชันทดลองหรือรายงานโดยละเอียดเกี่ยวกับซอร์สโค้ดหรือการดำเนินการ ข้อมูลปัจจุบันมีเพียงพารามิเตอร์พื้นฐาน พร้อมกับคำกล่าวที่ว่า ChatDST มีการกำหนดค่าที่สูงกว่า ChatGPT ซึ่งเป็นหนึ่งในสิ่งที่ดีที่สุดในตลาด

อย่างไรก็ตาม ข้อมูลดังกล่าวยังคลุมเครือ ไร้สาระ และเป็นไปไม่ได้เลย

จากการพูดคุยกับ Tri Thuc - ZNews คุณ NB ผู้เชี่ยวชาญด้านเทคโนโลยีสารสนเทศ ผู้พัฒนาผลิตภัณฑ์ AI กล่าวว่าคำกล่าวของเภสัชกร Tien มีข้อมูลที่ผิดพลาดอยู่บ้าง

โรงงาน AI มูลค่า 4 หมื่นล้านดอลลาร์ ของ OpenAI กำลังก่อสร้างในรัฐเท็กซัส สหรัฐอเมริกา ภาพ: Data Center Dynamic

ยกตัวอย่างเช่น คุณเทียนกล่าวว่า ChatDST ได้รับการพัฒนาบนแพลตฟอร์ม Llama ซึ่งมี "นิวรอน" ถึง 403 พันล้านตัว อันที่จริงแล้ว โมเดลภาษาขนาดใหญ่ใช้พารามิเตอร์เพื่อพูดคุยเกี่ยวกับโดเมนข้อมูลแทน "นิวรอน" ในขณะเดียวกัน Llama ได้รับการพัฒนาโดย Meta ซึ่งเผยแพร่โค้ดโอเพนซอร์ส และมีเพียงเวอร์ชันพารามิเตอร์ 405 พันล้านตัวเท่านั้น ไม่ใช่เวอร์ชัน 403 พันล้านตัว

ในทางกลับกัน ไม่มีแหล่งข้อมูลใดที่บ่งชี้ว่า OpenAI ใช้เซิร์ฟเวอร์ที่มีหน่วยความจำ 480 GB ตามที่ Pham Minh Huu Tien ประกาศไว้ ตามพารามิเตอร์ที่เภสัชกร Tien ระบุ ChatDST ทำงานบนแพลตฟอร์ม Nvidia A100 GPU 80 GB จำนวน 12 ตัว พร้อม VRAM รวม 960 GB ราคาตลาดของการ์ดจอแต่ละใบอยู่ที่ประมาณ 700 ล้านดองเวียดนาม ซึ่งเทียบเท่ากับการลงทุน 8.4 พันล้านดองเวียดนาม สำหรับส่วนประกอบนี้

ในขณะเดียวกัน แหล่งข่าวจาก The Informatio n ระบุว่า OpenAI เป็นเจ้าของศูนย์ข้อมูลที่มีการ์ด A100 ประมาณ 350,000 ใบสำหรับการอนุมาน ChatGPT เพียงอย่างเดียวใช้ GPU ถึง 290,000 ตัว ซึ่งมากกว่าการกำหนดค่าที่เภสัชกร Tien ประกาศไว้ถึง 24,167 เท่า นอกจากนี้ บริษัทนี้ยังเช่าเซิร์ฟเวอร์ Azure ของ Microsoft เพื่อลดภาระงานเมื่อจำนวนผู้ใช้เพิ่มขึ้นอีกด้วย

คาดว่า OpenAI จะต้องจ่ายเงินประมาณ 100,000 ดอลลาร์สหรัฐ ( 2.6 พันล้านดอง ) ต่อวันในการดำเนินงาน ดังนั้น ค่าใช้จ่ายในการดำเนินงาน 4 วันของบริษัทนี้จึงมากกว่าค่าใช้จ่ายในการกำหนดค่าชิป A100 จำนวน 12 ตัวที่เภสัชกรเถียนใช้ที่ ChatDST

Llama 405B ใช้ VRAM อย่างน้อย 810 GB เพื่อเก็บโมเดลการทำงาน ภาพ: HuggingFace

จากข้อมูลของ HuggingFace พารามิเตอร์ของ Llama 405 พันล้านตัวต้องการพื้นที่จัดเก็บอย่างน้อย 810 GB ดังนั้น เซิร์ฟเวอร์ของคุณ Tien จึงมีเนื้อที่ว่างเพียง 150 GB สำหรับการคำนวณเมื่อผู้ใช้แชท ซึ่ง VRAM จำนวนนี้เพียงพอสำหรับลูกค้า 1-3 รายในการแชทพร้อมกัน แม้จะลดความแม่นยำของโมเดลเพื่อลดการใช้ทรัพยากร แต่จำนวนผู้ใช้ที่ให้บริการบัญชี 3-9 บัญชีพร้อมกัน

ความเร็วในการประมวลผลของ ChatDST ที่ 2,000 โทเค็นต่อวินาที ถือเป็นพารามิเตอร์ที่ "เหนือจินตนาการ" ในอุตสาหกรรม ปัจจุบัน ChatGPT ผลิตโทเค็นได้เพียง 50-100 โทเค็นต่อวินาที ขึ้นอยู่กับรุ่น และทำให้ระบบโอเวอร์โหลด นอกจากนี้ Claude ยังผลิตโทเค็นได้เพียง 40-80 โทเค็นต่อวินาทีเท่านั้น

ที่มา: https://znews.vn/thong-so-khong-tuong-tu-ai-hon-chatgpt-cua-duoc-si-tien-post1569417.html