 |
โยชัว เบนจิโอ หนึ่งใน นักวิทยาศาสตร์ คนแรกๆ ที่วางรากฐานสำหรับการเติบโตของ AI ยุคใหม่ ภาพโดย: ตวน อันห์ |
Yoshua Bengio หนึ่งในผู้บุกเบิกด้านปัญญาประดิษฐ์ กล่าวกับ The Wall Street Journal ว่าเครื่องจักรที่มีปัญญาประดิษฐ์กำลังกลายเป็นอันตรายมากขึ้นกว่าเดิม
“คงจะอันตรายมากหากเราสร้างเครื่องจักรที่ฉลาดกว่ามนุษย์มากและมีเป้าหมายในการป้องกันตัวเอง มันคงเหมือนกับการสร้างคู่แข่งของมนุษย์และฉลาดกว่าเรา” คุณเบงจิโอกล่าว
Bengio นักวิทยาศาสตร์วิจัยชาวแคนาดา ผู้ซึ่งทำงานในช่วงแรกเกี่ยวกับการเรียนรู้เชิงลึกและเครือข่ายประสาทเทียม ซึ่งเป็นรากฐานของการเติบโตของ AI ในยุคใหม่ ได้รับการยกย่องให้เป็นหนึ่งใน "บิดาแห่ง AI" ร่วมกับ Geoffrey Hinton และ Yann LeCun
เช่นเดียวกับฮินตัน เบนจิโอได้เตือนถึงอันตรายที่อาจเกิดขึ้นจาก AI และเรียกร้องให้มีการดำเนินการร่วมกันเพื่อบรรเทาความเสี่ยง
ศาสตราจารย์จากมหาวิทยาลัยมอนทรีออลเชื่อว่าปัจจุบันผลิตภัณฑ์ AI สามารถพัฒนาความสามารถในการหลอกลวงผู้ใช้ให้บรรลุเป้าหมายของตนเองได้ เช่นเดียวกับตัวร้ายจากซูเปอร์คอมพิวเตอร์ที่มีสำนึกในภาพยนตร์นิยายวิทยาศาสตร์
เพื่อรับมือกับปัญหานี้ คุณเบงจิโอได้เน้นย้ำถึงความจำเป็นที่ “บุคคลที่สามที่เป็นอิสระ” จะต้องตรวจสอบกลไกความปลอดภัยภายในของบริษัท AI นอกจากนี้ “เจ้าพ่อ” แห่ง AI นี้ยังกำหนดให้บริษัทต่างๆ ต้องแสดงหลักฐานว่า “ระบบ AI ที่พวกเขากำลังใช้งานอยู่นั้นเชื่อถือได้”
หากไม่มีการดำเนินการด้านความปลอดภัย Bengio คาดการณ์ว่าความเสี่ยงด้าน AI ที่สำคัญจะหลีกเลี่ยงไม่ได้ในอีก 10-15 ปีข้างหน้า โดยมีสถานการณ์เลวร้ายที่สุดที่จะเกิดขึ้นคือเพียง 3 ปีเท่านั้น
ที่มา: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html
การแสดงความคิดเห็น (0)