كاسبرسكي تحذر من استخدام مجرمي الإنترنت للذكاء الاصطناعي المظلم لمهاجمة

في 15 أغسطس، أصدرت شركة كاسبرسكي للأمن تحذيرًا من أن الهجمات الإلكترونية أصبحت أكثر تعقيدًا وصعوبة في اكتشافها بسبب صعود الذكاء الاصطناعي المظلم (استخدام الذكاء الاصطناعي لأغراض خبيثة، وانتهاك القانون ...) في منطقة آسيا والمحيط الهادئ (APAC).

يقدم ممثل شركة كاسبرسكي للأمن معلومات حول مجرمي الإنترنت الذين يستخدمون هجمات الذكاء الاصطناعي المظلم

تعمل الذكاء الاصطناعي المظلم خارج معايير السلامة، مما يسمح غالبًا بسلوكيات مثل الاحتيال أو التلاعب أو الهجمات الإلكترونية أو استخراج البيانات دون إشراف دقيق.

يستخدم المجرمون الذكاء الاصطناعي أيضًا لتعزيز قدراتهم الهجومية. وأكثر أشكال إساءة استخدام الذكاء الاصطناعي شيوعًا اليوم هو ظهور نماذج Black Hat GPT. وهي نماذج ذكاء اصطناعي مُطوّرة أو مُعدّلة خصيصًا لأغراض غير قانونية، مثل إنشاء البرامج الضارة، وصياغة رسائل التصيد الاحتيالي، وتوليد الأصوات ومقاطع الفيديو المُزيّفة بعمق..."، هذا ما صرّح به سيرجي لوزكين، رئيس فريق البحث والتحليل العالمي (GReAT) لمنطقة الشرق الأوسط وتركيا وأفريقيا وآسيا والمحيط الهادئ في كاسبرسكي.

يمكن أن توجد نماذج GPTs ذات القبعة السوداء كنماذج ذكاء اصطناعي خاصة بالكامل أو شبه خاصة. من الأمثلة البارزة على ذلك WormGPT وDarkBard وFraudGPT وXanthorox، وجميعها مصممة لخدمة الجرائم الإلكترونية والاحتيال والأتمتة الخبيثة.

وكشف لوزكين أن خبراء كاسبرسكي يسجلون الآن اتجاهاً أكثر إثارة للقلق، حيث بدأت مجموعات الهجوم الإلكتروني المدعومة من الدول القومية أو الحكومات في الاستفادة من نماذج اللغة الكبيرة (LLMs) في حملات الهجوم الخاصة بها.

أعلنت شركة OpenAI مؤخرًا عن إحباطها لأكثر من 20 حملة تأثير سرية وهجومًا إلكترونيًا استغلت أدوات الذكاء الاصطناعي الخاصة بها. وسنشهد تزايدًا في استخدام المهاجمين المتطورين للذكاء الاصطناعي كسلاح، مما يشكل تهديدًا للأنظمة العامة والخاصة على حد سواء. وهذا اتجاه مقلق ينبغي على جميع المؤسسات الاستعداد له، كما قال لوزكين.

وفقًا لتقرير OpenAI، بدأ مُجرمو الإنترنت باستغلال قدرات نماذج التعلم الآلي الكبيرة (LLMs) لخداع الضحايا وتجاوز طبقات الأمان التقليدية. بإمكانهم إنشاء رسائل مزيفة مقنعة، وإرسال رسائل جماعية إلى الضحايا، وإنتاج محتوى بلغات متعددة.

لتعزيز الدفاعات ضد تهديدات الذكاء الاصطناعي المظلم، يوصي خبراء كاسبرسكي بما يلي: استخدام حلول أمنية من الجيل التالي، مثل Kaspersky Next، للكشف عن البرمجيات الخبيثة المُولّدة بالذكاء الاصطناعي والتحكم في المخاطر في سلسلة التوريد. تطبيق أدوات استخبارات التهديدات الآنية لرصد الثغرات الأمنية المُوجّهة بالذكاء الاصطناعي. تعزيز ضوابط الوصول وتدريب الموظفين للحد من الذكاء الاصطناعي المظلم وخطر تسرب البيانات. إنشاء مركز عمليات أمنية (SOC) لمراقبة التهديدات والاستجابة السريعة للحوادث.

با تان

المصدر: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html