ปัญญาประดิษฐ์รุ่นใหม่ อาจถูกนำมาใช้สร้างอาวุธชีวภาพ

[โฆษณา_1]

OpenAI thừa nhận AI mới có thể bị dùng để chế vũ khí sinh học - Ảnh 1. — โทรศัพท์แสดงหน้าจอสำหรับเรียนรู้เกี่ยวกับ GPT-o1 ของ OpenAI - ภาพ: FINANCIAL TIMES

ตามรายงานของ Financial Times เมื่อวันที่ 13 กันยายน OpenAI ยอมรับว่าโมเดล GPT-o1 ซึ่งเปิดตัวเมื่อวันที่ 12 กันยายนนั้น "เพิ่มความเสี่ยง" ที่ปัญญาประดิษฐ์ (AI) จะถูกนำไปใช้สร้างอาวุธชีวภาพอย่างมีนัยสำคัญ

เอกสารของ OpenAI ที่อธิบายวิธีการทำงานของ GPT-o1 ยืนยันว่าโมเดลใหม่นี้มี "ระดับความเสี่ยงปานกลาง" เกี่ยวกับประเด็นที่เกี่ยวข้องกับอาวุธเคมี ชีวภาพ รังสี และนิวเคลียร์ ซึ่งเป็นระดับความเสี่ยงสูงสุดที่ OpenAI เคยกำหนดให้กับโมเดล AI ของตน

จากข้อมูลของ OpenAI นั่นหมายความว่า GPT-o1 สามารถ "ปรับปรุง" ความสามารถของผู้เชี่ยวชาญในการผลิตอาวุธชีวภาพเพื่อนำไปใช้ในทางที่ผิดได้อย่างมีนัยสำคัญ

มิรา มูราติ ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี (CTO) ของ OpenAI กล่าวว่า แม้ว่า GPT-o1 ยังอยู่ในขั้นตอนการทดสอบ แต่ความสามารถขั้นสูงของโมเดลนี้ทำให้บริษัทต้องระมัดระวังเป็นอย่างยิ่งเกี่ยวกับแผนการที่จะนำโมเดลนี้ออกสู่สาธารณะ

นางมูราติยังยืนยันด้วยว่าแบบจำลองดังกล่าวได้รับการทดสอบอย่างละเอียดถี่ถ้วนโดยทีมผู้เชี่ยวชาญจากหลากหลายสาขา ซึ่งบุคคลเหล่านี้ได้รับการว่าจ้างจาก OpenAI เพื่อตรวจสอบข้อจำกัดของแบบจำลองที่บริษัทพัฒนาขึ้น

มูราติกล่าวว่า กระบวนการทดสอบแสดงให้เห็นว่าแบบจำลอง GPT-o1 เป็นไปตามเกณฑ์ความปลอดภัยโดยทั่วไปได้ดีกว่ารุ่นก่อนหน้ามาก

นอกจากนี้ ตัวแทนจาก OpenAI ยังให้ความมั่นใจว่าเวอร์ชันทดลองของ GPT-o1 นั้น "ปลอดภัยสำหรับการใช้งาน" และไม่ก่อให้เกิดความเสี่ยงที่ซับซ้อนไปกว่าเทคโนโลยีที่พัฒนาแล้วในปัจจุบัน

แม้จะมีการรับรองดังกล่าว แต่กลุ่ม นักวิทยาศาสตร์ และผู้ที่ชื่นชอบปัญญาประดิษฐ์ส่วนใหญ่ยังคงมองอนาคตของเทคโนโลยีนี้ในแง่ลบอยู่มาก

ความกังวลเกี่ยวกับพัฒนาการของ AI ที่เร็วเกินไปและก้าวล้ำไปกว่าความเร็วในการพัฒนาและอนุมัติกฎระเบียบที่ควบคุม AI นั้นกำลังเพิ่มมากขึ้น

ศาสตราจารย์โยชัว เบนจิโอ ผู้เชี่ยวชาญด้านวิทยาศาสตร์คอมพิวเตอร์จากมหาวิทยาลัยมอนทรีออล และหนึ่งในนักวิทยาศาสตร์ด้านปัญญาประดิษฐ์ชั้นนำ ของโลก กล่าวว่า หากปัจจุบัน OpenAI ก่อให้เกิด "ความเสี่ยงระดับปานกลาง" ในด้านอาวุธเคมีและชีวภาพแล้ว "สิ่งนี้ยิ่งตอกย้ำความสำคัญและความเร่งด่วน" ของกฎระเบียบต่างๆ เช่น ร่างกฎหมายที่กำลังเป็นที่ถกเถียงกันอย่างมากในแคลิฟอร์เนีย เพื่อควบคุมดูแลด้านนี้

นักวิทยาศาสตร์ท่านนี้เน้นย้ำว่า สถาบันเหล่านี้มีความจำเป็นอย่างยิ่งในบริบทที่ปัญญาประดิษฐ์ (AI) กำลังเข้าใกล้ระดับปัญญาประดิษฐ์สากล (AGI) มากขึ้นเรื่อยๆ ซึ่งเป็นความสามารถในการใช้เหตุผลได้ทัดเทียมกับมนุษย์

"ยิ่งโมเดล AI รุ่นบุกเบิกเข้าใกล้ปัญญาประดิษฐ์ทั่วไป (AGI) มากเท่าไหร่ ความเสี่ยงก็ยิ่งมากขึ้นเท่านั้น หากไม่มีการใช้มาตรการป้องกันที่เหมาะสม การพัฒนาความสามารถในการให้เหตุผลของ AI และศักยภาพในการนำไปใช้เพื่อการฉ้อโกงนั้นเป็นอันตรายอย่างยิ่ง" เบงจิโอประเมิน

[โฆษณา_2]
ที่มา: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm