تحذير: الذكاء الاصطناعي قد يطور "إرادة البقاء" خارج نطاق السيطرة البشرية

حذر عالم الكمبيوتر الرائد يوشوا بينجيو من أنه إذا خرجت الذكاء الاصطناعي عن السيطرة، فإن "البشرية قد تختفي في غضون 10 سنوات".

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 1. — يشعر العلماء بالقلق إزاء خطر فقدان السيطرة على الذكاء الاصطناعي - رسم توضيحي: ChatGPT

في السابع من فبراير/شباط، حذر أحد أبرز علماء الكمبيوتر من احتمال "فقدان البشر السيطرة" على أنظمة الذكاء الاصطناعي في المستقبل عندما تطور هذه المنتجات الاصطناعية "إرادة البقاء".

وفي كلمته خلال قمة عمل الذكاء الاصطناعي التي عقدت في باريس، دعا عالم الكمبيوتر يوشوا بينجيو إلى فرض تنظيم دولي أكثر صرامة وإجراء بحوث أكثر شمولاً في مجال سلامة الذكاء الاصطناعي، والتي لا تمثل حالياً سوى جزء صغير من الاستثمارات الكبرى التي يتم إجراؤها في هذا المجال.

أدى ظهور نموذج الذكاء الاصطناعي عالي الأداء ومنخفض التكلفة "ديب سيك" الشهر الماضي إلى تسريع وتيرة البحث عن الأمان، وفقًا للفائز بجائزة تورينج المرموقة في علوم الحاسوب لعام 2018. وحذّر يوشوا بينجيو من أنه إذا خرج الذكاء الاصطناعي عن السيطرة، "فقد تنقرض البشرية في غضون عشر سنوات".

كما دعا إلى قيادة حكومية في إدارة الذكاء الاصطناعي. وتأتي هذه الدعوة في الوقت الذي اتخذت فيه الولايات المتحدة، الدولة الرائدة عالميًا في مجال الذكاء الاصطناعي، خطواتٍ عديدةً لـ"تحرير" تطوير هذه التقنية في عهد الرئيس الجديد دونالد ترامب.

وفي الوقت الحاضر، يشير تقرير السلامة الدولية للذكاء الاصطناعي الذي قدمه السيد يوشوا بينجيو في المؤتمر أيضًا إلى مخاطر معروفة مثل استخدام الذكاء الاصطناعي لإنشاء محتوى مزيف أو مضلل على المنصات عبر الإنترنت، في حين تظهر مخاطر إضافية باستمرار، مثل الهجمات البيولوجية أو الهجمات الإلكترونية.

وبمساهمات من حوالي 100 خبير من 30 دولة والأمم المتحدة والاتحاد الأوروبي ومنظمة التعاون الاقتصادي والتنمية، يعد هذا أول تقرير حول سلامة الذكاء الاصطناعي الدولية، والذي تم إجراؤه منذ قمة سلامة الذكاء الاصطناعي في المملكة المتحدة في نوفمبر 2023.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 2.

الاتحاد الأوروبي يواجه مشكلة صعبة في إدارة الذكاء الاصطناعي

في الرابع من فبراير/شباط، نشرت المفوضية الأوروبية وثيقة توجيهية لتنفيذ أحكام قانون الذكاء الاصطناعي، والتي دخلت حيز التنفيذ اعتبارًا من الثاني من فبراير/شباط، مما أثار ردود فعل متباينة.

[إعلان 2]
المصدر: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm