تشكل الذكاء الاصطناعي التوليدي مجموعة من مخاطر الأمن السيبراني، خاصة في أعقاب عمليات الاحتيال السيبراني واسعة النطاق في هونج كونج، وفقًا لشركة أمن سيبراني تعمل على نشر الذكاء الاصطناعي لمكافحة التهديد.
أصبحت رسائل التصيد الاحتيالي ومكالمات انتحال الصوت، التي تُولّدها الذكاء الاصطناعي، أكثر تعقيدًا وصعوبة في الكشف عنها. (الصورة: Shutterstock)
في هونغ كونغ، خدع المحتالون الناس بمبلغ 4.8 مليار دولار هونغ كونغي (611.5 مليون دولار أمريكي) عبر الدردشات الإلكترونية والمكالمات الهاتفية والرسائل النصية. وتُصعّب عمليات الاحتيال هذه، بفضل الصوت والفيديو والنصوص المُولّدة بالذكاء الاصطناعي، من كشفها.
وقال كيم هوك ليو، الرئيس التنفيذي لشركة Wizlynx Group، وهي شركة خدمات الأمن السيبراني التي يقع مقرها في سويسرا، إن ظهور أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT سيسمح لبعض أنواع عمليات الاحتيال بأن تصبح أكثر انتشارًا وفعالية.
وأضاف : "نرى أن تقليد الصوت والفيديو أصبح أكثر واقعية ويمكن استخدامه من قبل أولئك الذين يتطلعون إلى سرقة المعلومات واختراق الأمن السيبراني للشركات" .
بدأت الحكومات باتخاذ إجراءات لمواجهة تزايد عمليات الاحتيال الإلكتروني. في فبراير، حذّر مكتب الأمن العام لبلدية بكين في بيان على تطبيق WeChat من أن المحتالين قد يستخدمون الذكاء الاصطناعي "لارتكاب جرائم ونشر الشائعات". وفي مارس، أصدرت لجنة التجارة الفيدرالية الأمريكية تحذيرًا من استخدام المحتالين لأصوات مُولّدة بالذكاء الاصطناعي لانتحال شخصيات أشخاص باستخدام مقطع صوتي قصير فقط من أصواتهم عبر الإنترنت.
الجميع معرضون لهجمات التصيد الاحتيالي، ولكن من السهل اكتشافها نظرًا لطولها أو الأخطاء الإملائية أو عدم وجود سياق واضح حولك وحول عملك. لكن الآن، يمكن لمجرمي الإنترنت استخدام نماذج لغة الذكاء الاصطناعي الجديدة لزيادة تعقيد رسائل التصيد الاحتيالي الخاصة بهم، كما قال كيم هوك ليو .
تتم عمليات الاحتيال هذه باستخدام أداة مثل ChatGPT لفحص لغة الرسائل وإضفاء طابع احترافي عليها. قد يشمل ذلك إجراء بحث سريع عن الخلفية لإضافة معلومات سياقية لتخصيص رسائل البريد الإلكتروني الاحتيالية.
تستخدم الشركات المالية الآن ChatGPT لمكافحة عمليات الاحتيال المعقدة هذه. تستخدم هذه الشركات روبوتات الدردشة لإنشاء رسائل تصيد احتيالي لأغراض التدريب على مكافحة الاحتيال، بالإضافة إلى تحديد نقاط الضعف وإجراء أبحاث حول أنظمة الأمن السيبراني.
وأضاف السيد ليو قائلاً: "بناءً على المعرفة والبيانات التي يمكن للذكاء الاصطناعي جمعها وتوليدها بمرور الوقت، يمكن لخبراء الأمن السيبراني استخدامها لتحديد المناطق الضعيفة والمحفوفة بالمخاطر في نظام الأمان بدقة".
علينا تشجيع متخصصي الأمن السيبراني وغيرهم من القطاعات على استخدام ChatGPT لتحسين دفاعاتهم. فهو، في الواقع، سلاح ذو حدين، يُستخدم في كل من الأمن السيبراني والجرائم الإلكترونية.
تحظر شروط خدمة OpenAI، مُطوّرة ChatGPT، استخدام تقنيتها لأغراض غير قانونية. لكن ليو أشار إلى وجود خطر من تجاوز جهات فاعلة لمرشحات ChatGPT.
من المتوقع أن تبلغ تكلفة الجرائم الإلكترونية 8 تريليون دولار على مستوى العالم هذا العام في صورة أموال مسروقة وأصول مفقودة وإنتاجية مفقودة، وفقًا لتقرير صادر عن شركة Cybersecurity Ventures.
في مواجهة هذا التهديد، قد يلوح في الأفق سباق تسلح بالذكاء الاصطناعي في مجال الأمن السيبراني. وصرح ديفيد فيرمان، كبير مسؤولي المعلومات لمنطقة آسيا والمحيط الهادئ في شركة نتسكوب: "في السنوات القادمة، سنرى فرق الأمن تتبنى الذكاء الاصطناعي بفعالية لتحسين التعرف على التهديدات وأتمتة جزء كبير من عملية الدفاع".
خان لي (المصدر: صحيفة ساوث تشاينا مورنينج بوست)
مفيد
العاطفة
مبدع
فريد
الغضب
[إعلان 2]
مصدر
تعليق (0)