DNVN - مع الاتجاه نحو تمكين الذكاء الاصطناعي من إكمال المهام بمفرده، فإن خطر الهجمات الإلكترونية سيزداد بشكل كبير. ما يثير القلق هو أن بعض أنظمة الذكاء الاصطناعي التي من المفترض أن تكون قوية هي في الواقع "هشة" للغاية.
وبحسب السيد باتريس كين، الرئيس التنفيذي لمجموعة تاليس، فإن المناقشات حول تأثير الذكاء الاصطناعي أصبحت شرسة بشكل متزايد، مصحوبة بالكثير من الشكوك حول هذه التكنولوجيا. ومع ذلك، فإن الذكاء الاصطناعي هو اتجاه تكنولوجي لا يمكن إنكاره.
في حين ينتقد البعض شركات التكنولوجيا العملاقة بسبب وسائل التواصل الاجتماعي التي تعتمد على الذكاء الاصطناعي أو أدوات المستهلك المشكوك فيها، فإن الذكاء الاصطناعي نفسه أصبح تقنية لا غنى عنها. إن فعاليتها لا مثيل لها، وتبشر بفوائد لا تستطيع أي شركة أو حكومة أن تتجاهلها.
وسوف يصبح الذكاء الاصطناعي قريبا جزءا لا يتجزأ من الحياة مثل الكهرباء، إذ يساعد في تشغيل السيارات، وتشكيل خدمات الرعاية الصحية ، وحماية البنوك، وإدارة أنظمة الإضاءة العامة. السؤال الكبير هو، هل نحن مستعدون لما سيأتي بعد ذلك؟
تتركز الخلافات المحيطة بالذكاء الاصطناعي بشكل كبير على القضايا الأخلاقية، والتحيز المعلوماتي، ومستقبل العمل. ولكن هناك مشكلة رئيسية واحدة تمر دون أن ننتبه إليها: إنها أمن الذكاء الاصطناعي. وفي استطلاع أجرته شركة جارتنر عام 2024 لمسؤولي إدارة المخاطر في المؤسسات، كانت الهجمات الخبيثة المعززة بالذكاء الاصطناعي والمعلومات المضللة المدعومة بالذكاء الاصطناعي هما الخطران الرئيسيان اللذان تم تحديدهما.
السيد باتريس كين، الرئيس التنفيذي لمجموعة تاليس.
لدينا العديد من الأسباب للقلق. تتبنى دول منطقة آسيا والمحيط الهادئ الذكاء الاصطناعي بعدة طرق - في استطلاع أجرته شركة فيناسترا عام 2023، تقود المؤسسات المالية الفيتنامية الطريق في تبني الذكاء الاصطناعي التوليدي (genAI) على مستوى العالم. قال 40% من المشاركين الفيتناميين إن مؤسساتهم قامت بنشر أو تحسين قدرات معالجة اللغة الطبيعية، بما في ذلك الذكاء الاصطناعي التوليدي. ومع ذلك، لا يمكننا المضي قدمًا دون الاستفادة من قوتنا الجماعية - تحتاج الحكومات والشركات إلى العمل معًا لبناء نظام بيئي آمن ومرن للذكاء الاصطناعي.
مع الاتجاه نحو تمكين الذكاء الاصطناعي من إكمال المهام بمفرده، فإن خطر الهجمات الإلكترونية سيزداد بشكل كبير. ما يثير القلق هو أن بعض أنظمة الذكاء الاصطناعي التي من المفترض أن تكون قوية هي في الواقع "هشة" للغاية.
هناك طريقتان رئيسيتان لمهاجمة نظام الذكاء الاصطناعي. الطريقة الأولى هي اختراق النظام وسرقة كل شيء بدءاً من السجلات الصحية الشخصية وحتى الأسرار التجارية للشركات. يمكن للمتسللين خداع نماذج الذكاء الاصطناعي لتقديم معلومات حساسة من خلال استخراج قواعد البيانات الطبية أو خداع برامج الدردشة لتجاوز حماية البيانات الخاصة بها.
الطريقة الثانية هي تخريب النماذج، مما يؤدي إلى تحريف النتائج بشكل خطير. على سبيل المثال، يمكن خداع سيارة تستخدم تقنية الذكاء الاصطناعي لقراءة علامة "توقف" على أنها علامة سرعة "100 كم/ساعة". هذه هي المخاطر الواضحة عند استخدام الذكاء الاصطناعي. ومع توسع تطبيقات الذكاء الاصطناعي، فإن خطر التعرض لهجمات على النظام سوف يتزايد بشكل واضح.
ومع ذلك، فإن التخلي عن الذكاء الاصطناعي لتجنب هذه المخاطر سيكون خطأً كبيراً. إن التضحية بالقدرة التنافسية من أجل الأمن تجعل المنظمات تعتمد على أطراف ثالثة، وتفتقر إلى الخبرة والسيطرة على التكنولوجيا التي أصبحت ضرورية بسرعة.
يشهد الذكاء الاصطناعي نموًا قويًا ويتم تطبيقه من قبل العديد من المنظمات والشركات.
فكيف يمكننا أن نجني فوائد الذكاء الاصطناعي دون المخاطرة به؟ وفيما يلي ثلاث خطوات مهمة:
اختر الذكاء الاصطناعي بحكمة. ليست كل أنظمة الذكاء الاصطناعي معرضة للخطر. على سبيل المثال، تكون نماذج اللغة الكبيرة عرضة للخطر لأنها تعتمد على مجموعات كبيرة من البيانات والأساليب الإحصائية. لكن الأنواع الأخرى من الذكاء الاصطناعي، مثل النماذج الرمزية أو الهجينة، لديها نطاق أضيق لاستخدام البيانات وتعمل وفقًا لقواعد واضحة، مما يجعل اختراقها أكثر صعوبة.
تجمع نماذج الذكاء الاصطناعي الهجين بين التفكير الرمزي والتعلم الآلي، مما يوفر تفسيرات منطقية ودقيقة. يمكن للذكاء الاصطناعي الهجين أن يقلل بشكل كبير من الإيجابيات الخاطئة في اكتشاف الاحتيال مع زيادة الشفافية في اتخاذ القرار. وهذا أمر ذو قيمة خاصة بالنسبة للخدمات المالية وشركات التكنولوجيا المالية في المنطقة.
تنفيذ التدابير الأمنية المثبتة. يمكن لأدوات مثل العلامات المائية الرقمية والتشفير والتدريب المخصص أن تعمل على تقوية نماذج الذكاء الاصطناعي ضد التهديدات المحتملة. وفي منطقة آسيا والمحيط الهادئ، تعد هذه الأدوات ضرورية لقطاعات مثل الخدمات المصرفية والبنية الأساسية الحيوية والرعاية الصحية، حيث يتسارع التحول الرقمي. في شركة Thales، لدينا "Battle Box" الذي يسمح لفرق الأمن السيبراني باختبار نماذج الذكاء الاصطناعي بشكل شامل للعثور على نقاط الضعف وإصلاحها قبل أن يتمكن المتسللون من استغلالها. ستساعد حلول الاختبار هذه الشركات على تقييم مرونة أنظمتها وتحسينها في مواجهة تهديدات الأمن السيبراني المتزايدة.
قم بترقية الأمن السيبراني لمنظمتك. لا تعمل الذكاء الاصطناعي بمعزل عن غيرها، بل هي جزء من النظام البيئي للمعلومات في المؤسسة. يجب تعزيز تدابير الأمن السيبراني التقليدية وتكييفها مع عصر الذكاء الاصطناعي. ويبدأ هذا الأمر بتدريب الموظفين - ففي نهاية المطاف، لا يزال الخطأ البشري هو نقطة الضعف في أي نظام للأمن السيبراني.
يشكل النقص في المواهب في مجال الأمن السيبراني في منطقة آسيا والمحيط الهادئ تحديًا متزايدًا. يجب على الشركات الاستثمار في رفع مهارات موظفيها لتأمين أنظمة الذكاء الاصطناعي الخاصة بها. على سبيل المثال، يقدم برنامج تطوير المواهب في مجال الأمن السيبراني في سنغافورة نموذجًا لسد الفجوة الإقليمية في المهارات.
يزعم البعض أن الحرب على الذكاء الاصطناعي ليست سوى جزء واحد من صراع مستمر بين الأشرار والضحايا غير المدركين. ولكن هذه المرة سيكون الثمن مرتفعا للغاية. إذا لم تضع الشركات والحكومات في منطقة آسيا والمحيط الهادئ أمن الذكاء الاصطناعي على رأس أولوياتها، فإنها لا تخاطر بانتهاك البيانات فحسب، بل وتعيق أيضًا النمو الاقتصادي والابتكار.
وأفضل طريقة للرد هي جعل أمن الذكاء الاصطناعي أولوية استراتيجية والعمل معًا. حينها فقط يمكننا ضمان وصول الذكاء الاصطناعي إلى كامل إمكاناته - مما يؤدي إلى أشكال جديدة من النمو والابتكار مع الحفاظ على سلامة المجتمع.
هوانغ فونغ
[إعلان 2]
المصدر: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/ai-canh-bac-may-rui-neu-thieu-cac-bien-phap-an-ninh-mang-phu-hop/20250115013404507
تعليق (0)