AI เกิดอาการประสาทหลอน แต่มนุษย์กลับทุกข์ทรมานมากกว่า

Claude 4 ผลงานล่าสุดของ Anthropic ฉลาดขึ้น แต่ยังคงหลอนอยู่ ภาพ: Anthropic

ในงานประชุมนักพัฒนาซอฟต์แวร์ครั้งแรกของ Anthropic ที่ซานฟรานซิสโก ดาริโอ อโมเด ซีอีโอ กล่าวว่าโมเดล AI ในปัจจุบันสามารถสร้าง "ภาพหลอน" ได้ในอัตราที่ต่ำกว่ามนุษย์ "ภาพหลอน" ในที่นี้หมายถึงปรากฏการณ์ที่ AI สร้างเนื้อหาสมมติ แต่นำเสนอเนื้อหานั้นเหมือนจริง

อโมเดอิเน้นย้ำว่าการที่ AI เกิดภาพหลอนไม่ได้เป็นอุปสรรคต่อเป้าหมายของ Anthropic ในการบรรลุ AGI (ปัญญาประดิษฐ์ทั่วไป) "มันขึ้นอยู่กับมาตรฐานของคุณ แต่ผมคิดว่าความถี่ของภาพหลอนในแบบจำลอง AI น่าจะน้อยกว่าในมนุษย์ เพียงแต่วิธีที่มันทำผิดพลาดนั้นน่าประหลาดใจกว่า" เขากล่าว

Amodei เป็นหนึ่งในผู้สนับสนุน AGI ที่เสียงดังที่สุดในวงการ “ผู้คนพยายามค้นหา ‘ขีดจำกัดสูงสุด’ ของ AI อยู่เสมอ” เขากล่าว “ตอนนี้เราไม่เห็นขีดจำกัดสูงสุดแบบนั้นเลย”

ซีอีโอ Anthropic เป็นหนึ่งในผู้สนับสนุน "การมองโลกในแง่ดีของ AI" ภาพ: Anthropic

อย่างไรก็ตาม ไม่ใช่ทุกคนจะเห็นด้วย เดมิส ฮัสซาบิส ซีอีโอของ Google DeepMind ชี้ให้เห็นในสัปดาห์นี้ว่าโมเดล AI ในปัจจุบันนั้น “เต็มไปด้วยช่องโหว่” แม้กระทั่งการตอบคำถามพื้นฐานบางข้อก็ผิดพลาด

นอกจากนี้ยังมีสัญญาณบ่งชี้ว่าแบบจำลองใหม่ๆ บางแบบมีอุบัติการณ์ของปัญหาที่สูงกว่าเมื่อต้องทำงานอนุมานที่ซับซ้อน แบบจำลอง o3 และ o4-mini ของ OpenAI มีอุบัติการณ์ของอาการประสาทหลอนสูงกว่าแบบจำลองอนุมานรุ่นก่อนๆ แม้แต่ OpenAI เองก็ยังไม่เข้าใจสาเหตุ

อโมเดอิยังกล่าวอีกว่ามนุษย์ทำผิดพลาดอยู่ตลอดเวลา ดังนั้นเขาจึงกล่าวว่า การที่ AI ทำผิดพลาดไม่ได้หมายความว่ามัน "ไม่ฉลาดพอ" อย่างไรก็ตาม ผู้นำกลุ่มแอนโทรปิกก็ยอมรับว่า AI สามารถสร้างปัญหาได้อย่างง่ายดายเมื่อให้ข้อมูลเท็จที่มีความน่าเชื่อถือสูงมาก

คำพูดของ Amodei ได้จุดชนวนให้เกิดการถกเถียงกันในชุมชน AI เกี่ยวกับความสามารถที่แท้จริงของโมเดลปัจจุบัน ผู้เชี่ยวชาญบางคนเห็นพ้องต้องกันว่า AI กำลังมีความก้าวหน้าอย่างมากในการลดภาพลวงตา ขณะที่ผู้เชี่ยวชาญบางคนเตือนถึงความเสี่ยงที่อาจเกิดขึ้นจากความเชื่อมั่นในข้อมูลที่ไม่ถูกต้องของ AI มากเกินไป

การอภิปรายครั้งนี้สะท้อนถึงความท้าทายสำคัญที่อุตสาหกรรม AI กำลังเผชิญ บริษัทต่างๆ กำลังมองหาการพัฒนาระบบที่ทั้งชาญฉลาดและเชื่อถือได้ และสามารถรับมือกับความไม่แน่นอนในการตอบสนองได้

ที่มา: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html