 |
เภสัชกร Tien (Pham Minh Huu Tien) เปิดตัว AI ชื่อ ChatDST ภาพ: DST |
เมื่อวันที่ 14 กรกฎาคม เภสัชกรเถียน ได้โพสต์ วิดีโอ แนะนำผลิตภัณฑ์หลายรายการของบริษัทบนโซเชียลมีเดีย หนึ่งในนั้นคือแชทบอท AI ชื่อ ChatDST ซึ่งดึงดูดความสนใจของผู้นำเสนอด้วยคำกล่าวที่ว่า "ดีกว่า ChatGPT"
ข้อมูลนี้ก่อให้เกิดข้อถกเถียง เนื่องจากคุณเทียนและองค์กรที่อยู่เบื้องหลังเขาทำงานอยู่ในอุตสาหกรรมเครื่องสำอางและบันเทิง และไม่มีความเชี่ยวชาญด้านเทคโนโลยี ขณะเดียวกัน ChatGPT ของ OpenAI ซึ่งได้รับเงินลงทุนหลายแสนล้านดอลลาร์สหรัฐและการพัฒนามาหลายปี ยังคงเป็นผลิตภัณฑ์ชั้นนำของตลาดในหลายๆ ด้าน
คำชี้แจงของเภสัชกรเตียน
“พารามิเตอร์เกือบทั้งหมดของ Tien เหนือกว่าปัญญาประดิษฐ์ที่คุณใช้อยู่ในปัจจุบัน Tien จะบอกคุณว่าพารามิเตอร์นี้ค่อนข้างสูงในตลาด” Pham Minh Huu Tien (เภสัชกร Tien) กล่าวในงานเปิดตัว
 |
พารามิเตอร์ของแชทบอท ChatDST ที่ได้รับจากเภสัชกร Tien ภาพ: Pham Minh Huu Tien |
ตัวอย่างที่บุคคลนี้ใช้ในการเปรียบเทียบคือความจุของ VRAM Pham Minh Huu Tien อ้างว่าระบบที่พวกเขาสร้างขึ้นมีหน่วยความจำมากกว่า ChatGPT ถึงสองเท่า (960 GB เทียบกับ 480 GB) “นอกจากนี้ ระบบยังมีข้อมูลเฉพาะตัวของคุณที่โหลดลงในข้อมูลในอุตสาหกรรมเคมีและเครื่องสำอาง ซึ่งจะเป็นประโยชน์อย่างมากสำหรับผู้ที่ทำงานในด้านนี้” คุณ Tien กล่าว
นอกจากนี้ พารามิเตอร์บนหน้าจอนำเสนอยังแสดงให้เห็นว่าแพลตฟอร์มนี้สามารถสร้างโทเค็นได้ 2,000 โทเค็นต่อวินาที สถาปัตยกรรมนี้ผสานรวมโมเดล AI 6 แบบเพื่อเพิ่มประสิทธิภาพ ChatDST มุ่งมั่นที่จะทำงานได้อย่างเสถียร 99.95% ของเวลาทั้งหมด โดยประมวลผลบริบทได้สูงสุด 1 ล้านโทเค็น
โดยเฉพาะอย่างยิ่ง ผู้แนะนำยังกล่าวอีกว่าแชทบอทนี้มีหน่วยความจำไม่จำกัดสำหรับแต่ละเซสชัน เภสัชกร Tien ประกาศว่าโซลูชันนี้จะเปิดตัวในเดือนตุลาคม ผู้ใช้จะต้องจ่ายเงินเพื่อใช้งาน มีราคาอยู่ที่ 20-300 ดอลลาร์สหรัฐ อย่างไรก็ตาม วิดีโองานเปิดตัวได้หายไปจาก YouTube แล้ว
พารามิเตอร์ที่ผิดปกติ
ในขณะนี้ โครงการที่เภสัชกรเถียนประกาศไว้ยังคง “อยู่ในกระดาษ” โดยไม่มีเวอร์ชันทดลองหรือรายงานโดยละเอียดเกี่ยวกับซอร์สโค้ดหรือการดำเนินการ ข้อมูลปัจจุบันมีเพียงพารามิเตอร์พื้นฐาน พร้อมกับคำกล่าวที่ว่า ChatDST มีการกำหนดค่าที่สูงกว่า ChatGPT ซึ่งเป็นหนึ่งในสิ่งที่ดีที่สุดในตลาด
อย่างไรก็ตาม ข้อมูลดังกล่าวยังคลุมเครือ ไม่สมเหตุสมผล และเป็นไปไม่ได้
จากการพูดคุยกับ Tri Thuc - ZNews คุณ NB ผู้เชี่ยวชาญด้านเทคโนโลยีสารสนเทศ ผู้พัฒนาผลิตภัณฑ์ AI กล่าวว่าคำกล่าวของเภสัชกร Tien มีข้อมูลที่ผิดพลาดอยู่บ้าง
 |
โรงงาน AI มูลค่า 4 หมื่นล้านดอลลาร์ ของ OpenAI กำลังอยู่ระหว่างการก่อสร้างในรัฐเท็กซัส สหรัฐอเมริกา ภาพ: Data Center Dynamic |
ยกตัวอย่างเช่น คุณเทียนกล่าวว่า ChatDST ได้รับการพัฒนาบนแพลตฟอร์ม Llama ซึ่งมี "นิวรอน" ถึง 403 พันล้านตัว อันที่จริงแล้ว โมเดลภาษาขนาดใหญ่ใช้พารามิเตอร์เพื่อพูดคุยเกี่ยวกับโดเมนข้อมูลแทน "นิวรอน" ในขณะเดียวกัน Llama ได้รับการพัฒนาโดย Meta ซึ่งเผยแพร่โค้ดโอเพนซอร์ส และมีเพียงเวอร์ชันพารามิเตอร์ 405 พันล้านตัวเท่านั้น ไม่ใช่เวอร์ชัน 403 พันล้านตัว
ในทางกลับกัน ไม่มีแหล่งข้อมูลใดที่บ่งชี้ว่า OpenAI ใช้เซิร์ฟเวอร์ที่มีหน่วยความจำ 480 GB ตามที่ Pham Minh Huu Tien ประกาศไว้ จากข้อมูลของเภสัชกร Tien ระบุว่า ChatDST ทำงานบนแพลตฟอร์ม Nvidia A100 GPU 80 GB จำนวน 12 ตัว พร้อม VRAM รวม 960 GB ราคาตลาดของการ์ดจอแต่ละใบอยู่ที่ประมาณ 700 ล้านดองเวียดนาม ซึ่งเทียบเท่ากับการลงทุน 8.4 พันล้านดองเวียดนาม สำหรับส่วนประกอบนี้
ในขณะเดียวกัน แหล่งข่าวจาก The Information ระบุว่า OpenAI เป็นเจ้าของศูนย์ข้อมูลที่มีการ์ด A100 ประมาณ 350,000 ใบสำหรับการอนุมาน ChatGPT เพียงอย่างเดียวใช้ GPU ถึง 290,000 ตัว ซึ่งมากกว่าการกำหนดค่าที่เภสัชกร Tien ประกาศไว้ถึง 24,167 เท่า นอกจากนี้ บริษัทนี้ยังเช่าเซิร์ฟเวอร์ Azure ของ Microsoft เพื่อลดภาระงานเมื่อจำนวนผู้ใช้เพิ่มขึ้นอีกด้วย
คาดว่า OpenAI จะต้องจ่ายเงินประมาณ 100,000 ดอลลาร์สหรัฐ ( 2.6 พันล้านดอง ) ต่อวันในการดำเนินงาน ดังนั้น ต้นทุนการดำเนินงาน 4 วันของบริษัทนี้จึงมากกว่าค่าติดตั้งชิป A100 จำนวน 12 ตัวที่เภสัชกรเถียนใช้ที่ ChatDST
 |
Llama 405B ใช้ VRAM อย่างน้อย 810GB เพื่อเก็บโมเดลการทำงาน ภาพ: HuggingFace |
จากข้อมูลของ HuggingFace พารามิเตอร์ของ Llama 405 พันล้านตัวต้องการพื้นที่จัดเก็บอย่างน้อย 810 GB ดังนั้น เซิร์ฟเวอร์ของคุณ Tien จึงมีเนื้อที่ว่างเพียง 150 GB สำหรับการคำนวณเมื่อผู้ใช้แชท ซึ่ง VRAM จำนวนนี้เพียงพอสำหรับลูกค้า 1-3 คนในการแชทพร้อมกัน แม้จะลดความแม่นยำของโมเดลเพื่อประหยัดทรัพยากร แต่จำนวนผู้ใช้ที่ให้บริการบัญชี 3-9 บัญชีพร้อมกัน
ความเร็วในการประมวลผลของ ChatDST ที่ 2,000 โทเค็นต่อวินาที ถือเป็นพารามิเตอร์ที่ "เหนือจินตนาการ" ในอุตสาหกรรม ปัจจุบัน ChatGPT ผลิตโทเค็นได้เพียง 50-100 โทเค็นต่อวินาที ขึ้นอยู่กับรุ่น และทำให้ระบบโอเวอร์โหลด นอกจากนี้ Claude ยังผลิตโทเค็นได้เพียง 40-80 โทเค็นต่อวินาทีเท่านั้น
ที่มา: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html
การแสดงความคิดเห็น (0)