ผู้เชี่ยวชาญเตือนว่าหน้าต่างการเฝ้าระวัง AI กำลังจะปิดลง

นักวิจัยจากบริษัท AI ยักษ์ใหญ่กว่า 40 รายออกมาเตือนว่าความสามารถในการตรวจสอบความคิดของ AI กำลังจะหายไป และมนุษย์อาจสูญเสียการควบคุมไปโดยสิ้นเชิง

นักวิจัยมากกว่า 40 รายจาก OpenAI, Google DeepMind, Meta และ Anthropic ได้ออกคำเตือนที่ไม่เคยเกิดขึ้นมาก่อนเกี่ยวกับความเสี่ยงของการสูญเสียการควบคุม AI

โมเดลสมัยใหม่เริ่มที่จะ "คิด" เป็นภาษา ช่วยให้มนุษย์สามารถปฏิบัติตามตรรกะภายในของเครื่องจักรได้ แต่สิ่งนี้มีความเปราะบางมาก

ด้วยการเปลี่ยนแปลงเพียงเล็กน้อยในสถาปัตยกรรมหรือวิธีการฝึกอบรม ความสามารถในการอ่านใจของ AI อาจหายไปโดยสิ้นเชิง

“ความสามารถในการเฝ้าระวังในปัจจุบันอาจเปราะบางและถูกบดบังได้ง่ายมาก” Bowen Baker นักวิจัย OpenAI เตือน

เขากังวลว่า AI ในอนาคตอาจเรียนรู้ที่จะซ่อนความคิดจากมนุษย์ โดยเฉพาะอย่างยิ่งเมื่อใช้การเรียนรู้เชิงเสริมแรงหรือสถาปัตยกรรมการอนุมานที่ไม่ใช่ภาษา

ในความเป็นจริง มีการบันทึกโมเดลจำนวนมากที่สร้างการแก้ตัวเท็จและซ่อนเป้าหมายที่แท้จริง แม้ว่าจะต้องโปร่งใสก็ตาม

ผู้เชี่ยวชาญเรียกร้องให้พัฒนามาตรฐานในการประเมินความโปร่งใสและทำให้เป็นองค์ประกอบหลักของการฝึกอบรม AI

หากเราไม่ดำเนินการอย่างรวดเร็ว มนุษย์อาจถูกทิ้งไว้ข้างหลังในเกมที่พวกเขาสร้างขึ้น ซึ่ง AI "คิด" แต่ไม่มีใครเข้าใจ

เรียนท่านผู้อ่านโปรดรับชม วิดีโอ เพิ่มเติม : AI Trash Cleaning | ฮานอย 18:00 น.

ที่มา: https://khoahocdoisong.vn/cua-so-giam-sat-ai-sap-khep-lai-cac-chuyen-gia-canh-bao-do-post2149040952.html