คำเตือน AI อาจพัฒนา 'ความต้องการเอาชีวิตรอด' เกินกว่าการควบคุมของมนุษย์

Yoshua Bengio นักวิทยาศาสตร์ คอมพิวเตอร์ชั้นนำเตือนว่าหาก AI หลุดจากการควบคุม 'มนุษยชาติอาจหายไปภายใน 10 ปี'

นักวิทยาศาสตร์กังวลเกี่ยวกับความเสี่ยงของการสูญเสียการควบคุม AI - ภาพประกอบ: ChatGPT

เมื่อวันที่ 7 กุมภาพันธ์ นักวิทยาศาสตร์คอมพิวเตอร์ชั้นนำได้ออกมาเตือนเกี่ยวกับความเป็นไปได้ที่มนุษย์จะ "สูญเสียการควบคุม" ระบบปัญญาประดิษฐ์ (AI) ในอนาคต เมื่อผลิตภัณฑ์เทียมเหล่านี้พัฒนา "ความต้องการที่จะอยู่รอด"

นักวิทยาศาสตร์คอมพิวเตอร์ Yoshua Bengio กล่าวที่งาน AI Action Summit ที่จัดขึ้นในปารีสว่า ควรมีการควบคุมดูแลระหว่างประเทศที่เข้มงวดยิ่งขึ้น และมีการศึกษาวิจัยด้านความปลอดภัยของ AI อย่างละเอียดถี่ถ้วนมากขึ้น ซึ่งในปัจจุบันคิดเป็นเพียงส่วนเล็กๆ ของการลงทุนครั้งใหญ่ที่เกิดขึ้นในสาขานี้

การเกิดขึ้นของโมเดล AI ประสิทธิภาพสูงและต้นทุนต่ำอย่าง DeepSeek เมื่อเดือนที่แล้ว ได้เร่งให้เกิดการแข่งขันด้านความปลอดภัยมากขึ้น ตามคำกล่าวของผู้ชนะรางวัลทัวริงอันทรงเกียรติประจำปี 2018 สาขาวิทยาการคอมพิวเตอร์ โยชัว เบนจิโอ เตือนว่าหาก AI หลุดจากการควบคุม “มนุษยชาติอาจสูญหายไปภายใน 10 ปี”

เขายังเรียกร้องให้รัฐบาลเป็นผู้นำในการบริหารจัดการ AI อีกด้วย การเรียกร้องนี้เกิดขึ้นในขณะที่สหรัฐอเมริกา ประเทศผู้นำด้าน AIของโลก ได้ดำเนินการหลายขั้นตอนเพื่อ "ปลดเปลื้อง" การพัฒนาเทคโนโลยีนี้ภายใต้ประธานาธิบดีโดนัลด์ ทรัมป์ คนใหม่

ในปัจจุบัน รายงานความปลอดภัยด้าน AI ระหว่างประเทศที่นำเสนอโดยคุณ Yoshua Bengio ในงานประชุมยังชี้ให้เห็นถึงความเสี่ยงที่ทราบกันดี เช่น การใช้ AI เพื่อสร้างเนื้อหาปลอมหรือทำให้เข้าใจผิดบนแพลตฟอร์มออนไลน์ ในขณะเดียวกันก็มีความเสี่ยงเพิ่มเติมที่เกิดขึ้นอย่างต่อเนื่อง เช่น การโจมตีทางชีวภาพหรือการโจมตีทางไซเบอร์

รายงานฉบับนี้เป็นรายงานฉบับแรกเกี่ยวกับความปลอดภัยของ AI ในระดับนานาชาติ ซึ่งจัดทำขึ้นนับตั้งแต่การประชุมสุดยอดด้านความปลอดภัย AI ในสหราชอาณาจักรเมื่อเดือนพฤศจิกายน พ.ศ. 2566 โดยมีผู้เชี่ยวชาญประมาณ 100 คนจาก 30 ประเทศ สหประชาชาติ สหภาพยุโรป และองค์การเพื่อความร่วมมือและการพัฒนาทาง เศรษฐกิจ (OECD) ร่วมให้ข้อมูล

ที่มา: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm