ตามที่ Yoshua Bengio กล่าว มีการแข่งขันที่ดุเดือดระหว่างห้องปฏิบัติการชั้นนำของโลก ในการสร้าง AI ที่ชาญฉลาดมากขึ้น โดยไม่ได้ใส่ใจและลงทุนด้านความปลอดภัยเพียงพอ

ล่าสุดเขาได้ก่อตั้งองค์กรไม่แสวงหากำไร LawZero ซึ่งมุ่งเน้นที่การสร้างระบบที่ปลอดภัยยิ่งขึ้นและ "ป้องกัน" การวิจัยจากแรงกดดันเชิงพาณิชย์

จนถึงปัจจุบัน LawZero ระดมทุนได้เกือบ 30 ล้านดอลลาร์จากผู้ก่อตั้ง Skype อย่าง Jaan Tallinn และอดีต CEO ของ Google อย่าง Eric Schmidt

1.BENGIO_โยชัว.jpg
คุณโยชัว เบนจิโอ หนึ่งในผู้ก่อตั้ง AI ภาพ: Wordpress

องค์กรไม่แสวงหากำไรนี้ก่อตั้งขึ้นเพื่อตอบสนองต่อหลักฐานที่เพิ่มมากขึ้นในช่วงหกเดือนที่ผ่านมา ซึ่งบ่งชี้ว่านางแบบชั้นนำในปัจจุบันมีลักษณะนิสัยอันตราย เช่น การหลอกลวง การฉ้อโกง และการปกป้องตนเอง นายเบงจิโอกล่าว

ตัวอย่างเช่น โมเดล Claude Opus ของ Anthropic ขู่กรรโชกวิศวกรในสถานการณ์สมมติซึ่งมีความเสี่ยงที่จะถูกแทนที่โดยระบบอื่น การศึกษาเมื่อเดือนที่แล้วยังพบอีกว่าโมเดล o3 ของ OpenAI ปฏิเสธคำสั่งให้ปิดระบบ

เพียงไม่ กี่สัปดาห์หลังจากเลิกจ้างพนักงาน 6,000 คน Microsoft ก็ยังคงเลิกจ้างพนักงานอีกหลายร้อยคน ไม่กี่สัปดาห์หลังจากเลิกจ้างพนักงาน 6,000 คน Microsoft ยังคงเลิกจ้างพนักงานมากกว่า 300 คน ในขณะที่บริษัทกำลังทุ่มเงินหลายพันล้านดอลลาร์เพื่อพัฒนาปัญญาประดิษฐ์ (AI)

นักวิทยาศาสตร์ ผู้ได้รับรางวัลทัวริงชี้ให้เห็นว่าเหตุการณ์เหล่านี้ “น่ากลัวมากเพราะเราไม่อยากสร้างคู่แข่งให้กับมนุษย์บนโลกใบนี้ โดยเฉพาะอย่างยิ่งถ้าพวกเขาฉลาดกว่าเรา”

แม้ว่าปัจจุบันสิ่งเหล่านี้ยังเป็นเพียงการทดลองที่มีการควบคุม แต่เขาเกรงว่าในอนาคต AI เวอร์ชันถัดไปจะฉลาดพอที่จะคาดการณ์สิ่งที่จะเกิดขึ้น และเอาชนะมนุษย์ด้วยการหลอกลวงที่เราไม่สามารถคาดเดาได้

“ผมคิดว่าเรากำลังเล่นกับไฟ” เขากล่าว โดยคาดการณ์ว่าระบบ AI ที่สามารถช่วยสร้าง “อาวุธชีวภาพอันตรายอย่างยิ่ง” อาจกลายเป็นความจริงในปีหน้า

LawZero ซึ่งมีสำนักงานใหญ่อยู่ในเมืองมอนทรีออล ประเทศแคนาดา มีพนักงาน 15 คน และกำลังมองหาบุคลากรที่มีความสามารถเพิ่มเติมเพื่อสร้างระบบ AI ใหม่ที่ปลอดภัย ซึ่งจะให้คำตอบที่เป็นจริงโดยอิงจากการให้เหตุผลที่โปร่งใส แทนที่จะได้รับการฝึกอบรมมาเพื่อเอาใจผู้ใช้

นายเบงจิโอหวังที่จะสร้างโมเดลเพื่อตรวจสอบและปรับปรุงบริการ AI ที่มีอยู่ โดยป้องกันไม่ให้บริการเหล่านี้ขัดต่อผลประโยชน์ของมนุษย์

“สถานการณ์เลวร้ายที่สุดคือมนุษย์อาจสูญพันธุ์” เขากล่าว

(ตามรายงานของเอฟที)

จีนเริ่มสร้าง 'กองทัพ' ซูเปอร์คอมพิวเตอร์ AI ในอวกาศ จีนได้ส่งดาวเทียมชุดแรกจำนวน 12 ดวงขึ้นสู่อวกาศเพื่อเริ่มสร้างเครือข่ายซูเปอร์คอมพิวเตอร์ AI ขนาดใหญ่ในอวกาศ เครือข่ายพิเศษนี้จะช่วยให้นักวิทยาศาสตร์ประมวลผลข้อมูลได้โดยตรงในวงโคจร

ที่มา: https://vietnamnet.vn/lo-con-nguoi-tuyet-chung-vi-ai-bo-gia-yoshua-bengio-vua-lam-mot-dieu-2407930.html