تحذر كاسبرسكي من أن مجرمي الإنترنت يستخدمون الذكاء الاصطناعي الخفي لشن الهجمات.

في 15 أغسطس، أصدرت شركة كاسبرسكي، وهي شركة أمنية، تحذيراً بشأن الهجمات الإلكترونية المتطورة بشكل متزايد والتي يصعب اكتشافها بسبب صعود الذكاء الاصطناعي المظلم (استخدام الذكاء الاصطناعي لأغراض خبيثة وغير قانونية) في منطقة آسيا والمحيط الهادئ.

قدم ممثلون عن شركة كاسبرسكي للأمن معلومات حول مجرمي الإنترنت الذين يستخدمون الذكاء الاصطناعي المظلم في هجماتهم.

يعمل الذكاء الاصطناعي المظلم خارج معايير السلامة، مما يتيح في كثير من الأحيان سلوكيات مثل الاحتيال والتلاعب والهجمات الإلكترونية أو استغلال البيانات دون إشراف دقيق.

"يستغلّ المهاجمون أيضاً الذكاء الاصطناعي لتعزيز قدراتهم الهجومية. ويُعدّ ظهور نماذج GPT الخبيثة أكثر أنواع إساءة استخدام الذكاء الاصطناعي شيوعاً اليوم. هذه نماذج ذكاء اصطناعي طُوّرت أو عُدّلت خصيصاً لأغراض غير مشروعة، مثل إنشاء برامج ضارة، وصياغة رسائل بريد إلكتروني تصيّدية، وتوليد مقاطع صوتية وفيديوهات مزيفة بتقنية التزييف العميق..."، هذا ما صرّح به سيرجي لوزكين، رئيس فريق البحث والتحليل العالمي (GReAT) لمنطقة الشرق الأوسط وتركيا وأفريقيا وآسيا والمحيط الهادئ في شركة كاسبرسكي.

يمكن أن توجد نماذج GPT الخبيثة كنماذج ذكاء اصطناعي خاصة تمامًا أو شبه خاصة. ومن الأمثلة البارزة على ذلك WormGPT وDarkBard وFraudGPT وXanthorox، وكلها مصممة لخدمة الجرائم الإلكترونية والاحتيال وأنشطة الأتمتة الخبيثة.

كشف لوزكين أن خبراء كاسبرسكي يلاحظون الآن اتجاهاً أكثر إثارة للقلق: بدأت مجموعات الهجمات الإلكترونية المدعومة من الدولة أو الحكومة في الاستفادة من نماذج اللغة الكبيرة (LLMs) في حملات الهجوم الخاصة بهم.

أعلنت OpenAI مؤخرًا عن إحباطها لأكثر من 20 حملة تأثير سرية وهجمات إلكترونية استغلت أدوات الذكاء الاصطناعي الخاصة بها. وأضاف لوزكين: "سيتعين علينا مواجهة مهاجمين أكثر تطورًا يستخدمون الذكاء الاصطناعي كسلاح، ما يشكل تهديدًا في كل من الأنظمة العامة والخاصة. هذا اتجاه مقلق يجب على جميع المؤسسات الاستعداد لمواجهته".

بحسب تقرير صادر عن OpenAI، بدأ مجرمو الإنترنت باستغلال قدرات نماذج التعلم الآلي واسعة النطاق لخداع الضحايا وتجاوز طبقات الحماية التقليدية. بإمكانهم إنشاء رسائل مزيفة مقنعة، وإرسال رسائل جماعية إلى الضحايا، وإنتاج محتوى بلغات متعددة.

لتعزيز الدفاعات ضد تهديدات الذكاء الاصطناعي الخفي، يوصي خبراء كاسبرسكي بما يلي: استخدام حلول أمنية من الجيل التالي مثل Kaspersky Next لاكتشاف البرامج الضارة التي يولدها الذكاء الاصطناعي والتحكم في مخاطر سلسلة التوريد؛ وتطبيق أدوات استخبارات التهديدات في الوقت الفعلي لمراقبة استغلال الثغرات الأمنية المدفوعة بالذكاء الاصطناعي؛ وتعزيز التحكم في الوصول وتدريب الموظفين للحد من مخاطر الذكاء الاصطناعي الخفي وتسريب البيانات؛ وإنشاء مركز عمليات أمنية (SOC) لمراقبة التهديدات والاستجابة بسرعة للحوادث.

با تان

المصدر: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html