وبحسب يوشوا بينجيو، هناك سباق شرس بين المختبرات الرائدة في العالم لإنشاء الذكاء الاصطناعي الأكثر ذكاءً دون إيلاء الاهتمام الكافي والاستثمار في السلامة.
أسس مؤخرًا منظمة LawZero غير الربحية، التي تركز على بناء أنظمة أكثر أمانًا و"عزل" الأبحاث عن الضغوط التجارية.
حتى الآن، جمعت شركة LawZero ما يقرب من 30 مليون دولار من أسماء مثل مؤسس Skype جان تالين والرئيس التنفيذي السابق لشركة Google إريك شميدت.
وقال السيد بينجيو إن المنظمة غير الربحية تأسست ردًا على أدلة متزايدة على مدى الأشهر الستة الماضية تشير إلى أن عارضات الأزياء الرائدات اليوم يظهرن سمات خطيرة مثل الخداع والاحتيال والحفاظ على الذات.
على سبيل المثال، مارس نموذج كلود أوبس من شركة أنثروبيك ابتزازًا ضد المهندسين في سيناريو خيالي، حيث كان معرضًا لخطر استبداله بنظام آخر. كما وجدت دراسة نُشرت الشهر الماضي أن نموذج o3 من شركة OpenAI رفض التعليمات بإيقاف تشغيل النظام.
وأشار العالم الحائز على جائزة تورينج إلى أن هذه الحوادث "مخيفة للغاية لأننا لا نريد أن ننشئ منافسًا للبشر على هذا الكوكب، خاصة إذا كانوا أكثر ذكاءً منا".
ورغم أن هذه التجارب ما هي إلا تجارب خاضعة للرقابة في الوقت الحالي، فإنه يخشى أن تكون النسخة التالية من الذكاء الاصطناعي في المستقبل ذكية بما يكفي للتنبؤ بما سيحدث والتغلب على البشر بخداع لا يمكننا التنبؤ به.
وقال "أعتقد أننا نلعب بالنار" ، متوقعا أن تصبح أنظمة الذكاء الاصطناعي القادرة على المساعدة في خلق "أسلحة بيولوجية خطيرة للغاية" حقيقة واقعة في العام المقبل.
وتوظف شركة LawZero، التي يقع مقرها الرئيسي في مونتريال بكندا، 15 شخصًا وتبحث عن المزيد من المواهب لبناء نظام ذكاء اصطناعي جديد وآمن يوفر إجابات حقيقية تعتمد على التفكير الشفاف، بدلاً من تدريبه لإرضاء المستخدمين.
ويأمل السيد بينجيو في إنشاء نموذج لمراقبة وتحسين خدمات الذكاء الاصطناعي الموجودة، ومنعها من العمل ضد المصالح البشرية.
وعلق قائلاً: "إن السيناريو الأسوأ هو أن ينقرض البشر" .
(وفقا لصحيفة فاينانشال تايمز)
المصدر: https://vietnamnet.vn/lo-con-nguoi-tuyet-chung-vi-ai-bo-gia-yoshua-bengio-vua-lam-mot-dieu-2407930.html
تعليق (0)