أمن البيانات في عصر الذكاء الاصطناعي.

أصبحت تقنيات التزييف العميق وهجمات التصيد الاحتيالي وسرقة الهوية الرقمية أكثر تطوراً ويمكن أن تضرب في أي وقت، مستهدفة أي شخص يفتقر إلى مهارات الدفاع الرقمي.

الهجوم من كل جانب.

أطلقت جوجل منتجًا جديدًا للذكاء الاصطناعي يسمى "Gemini Nano Banana"، وهو ليس ذكاءً اصطناعيًا لغويًا واسع النطاق قادرًا على الكتابة والاستدلال، بل هو ذكاء اصطناعي متخصص في تحرير الصور... يشعر العديد من المستخدمين بالحماس تجاه هذه الأداة، لكنها تحمل معها أيضًا عددًا من العيوب.

تستخدم مدرسة تران هونغ داو الابتدائية في حي كاو أونغ لان بمدينة هو تشي منه نظام التعرف على الوجوه لتسجيل الحضور وإرسال إشعارات إلى أولياء الأمور عبر تطبيق إلكتروني. الصورة: هوانغ هونغ

قال نغوين هونغ فوك، كبير المسؤولين العلميين في شركة Conductify AI، معبراً عن رأيه الشخصي: "إنها أشبه بتراجع في تكنولوجيا الذكاء الاصطناعي والقيود الأخلاقية". وأضاف فوك: "يتمتع برنامج Gemini Nano Banana بقدرات فعالة في تحرير الصور. لكن رفع جوجل للرقابة عنه، وتخفيف القيود والآليات المحددة، يسمح لهذا الذكاء الاصطناعي بإنشاء صور شديدة الشبه بصور المشاهير، وصور موحية، وصور حساسة، وما إلى ذلك".

بحسب السيد نغوين هونغ فوك، فإن هذه القدرة تجعل برنامج Gemini Nano Banana أداة لإنشاء صور مزيفة واقعية، لدرجة أن خبراء الذكاء الاصطناعي أنفسهم لا يستطيعون تمييزها، مما يؤدي إلى مخاطر جديدة للاحتيال والأمن السيبراني، مثل إنشاء صور مزيفة مع سياسيين مشهورين لنشر معلومات كاذبة، وحتى تعرض الأفراد للتلاعب بالصور والتشهير بهم بواسطة الذكاء الاصطناعي على وسائل التواصل الاجتماعي...

علاوة على ذلك، ومع انتشار عشرات أدوات تحرير الصور بالذكاء الاصطناعي على الإنترنت، لا تزال عمليات الاحتيال بتقنية التزييف العميق مستمرة. وتشير إحصاءات منظمات الأمن السيبراني إلى أن هذه التقنية تُستخدم في حملات التصيد الاحتيالي التي تستهدف شخصيات مرموقة، لا سيما قادة الأعمال. ففي عام 2024، سُجل ما بين 140,000 و150,000 حالة على مستوى العالم، استهدفت 75% منها الرؤساء التنفيذيين وكبار المسؤولين. ومن المتوقع أن تزيد عمليات التزييف العميق الخسائر الاقتصادية العالمية بنسبة 32%، أي ما يقارب 40 مليار دولار أمريكي سنويًا بحلول عام 2027.

كشفت شركة أنثروبيك، المتخصصة في الذكاء الاصطناعي، مؤخراً عن حملة هجوم إلكتروني نفذها قراصنة أجانب، وأحبطتها، مسجلةً بذلك لأول مرة استخدام الذكاء الاصطناعي لتنسيق أنشطة هجوم آلية. وبالتحديد، استخدم القراصنة أنظمة الذكاء الاصطناعي للتخطيط لعمليات الاختراق وتوجيهها وتنفيذها، وهو تطور مثير للقلق يُنذر بتوسع نطاق وسرعة حملات الهجمات الإلكترونية.

أوضح السيد نجو مينه هيو، مدير قسم مكافحة الاحتيال في الجمعية الوطنية للأمن السيبراني، أن الأدوات المدمجة بالذكاء الاصطناعي تزيد من سرعة الاحتيال بنحو 20 ضعفًا مقارنةً باستخدام أشخاص حقيقيين. إذ يُزوّد ​​المحتالون نظام الذكاء الاصطناعي بسيناريو احتيال لتحليله، فيقوم النظام تلقائيًا بالتواصل مع الضحايا. ومن خلال البيانات الأولية، يستطيع الذكاء الاصطناعي فهم ما يريده الضحية والتواصل معه في الوقت الفعلي. أما أكثر التكتيكات تعقيدًا فهو هجوم "الوسيط"، حيث يتدخل المخترق أثناء قيام المستخدم بالتحقق من هويته عبر الفيديو (كتسجيل وجهه أو إعطاء أوامر)، لتشويش البيانات المرسلة. ثم يقوم مجرمو الإنترنت بإدخال فيديوهات مُعدّة مسبقًا بتقنية التزييف العميق، ليحلوا محل بيانات المستخدم الحقيقية ويتجاوزوا عملية التحقق. وبهذه الطريقة، تُصبح أنظمة أمن البنوك والمؤسسات المالية عرضةً للخداع أيضًا.

إدارة البيانات بشكل أفضل

مع تزايد انتشار الذكاء الاصطناعي، تتزايد مخاطر الأمن والخصوصية بشكل ملحوظ. ستصبح البيانات المخزنة والمعالجة على الخوادم البعيدة هدفًا جذابًا للمخترقين ومجرمي الإنترنت. ووفقًا لبيانات الرابطة الوطنية للأمن السيبراني، ارتفع عدد الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي بنسبة 62% في الربع الثاني من عام 2025 وحده، مما تسبب في خسائر عالمية تصل إلى 18 مليار دولار.

يرى الخبراء أن حماية البيانات أمر بالغ الأهمية. ومع ذلك، يستمر جمع البيانات وبيعها علنًا على العديد من منصات "السوق السوداء"، مقابل مبلغ زهيد لا يتجاوز 20 دولارًا شهريًا. ويستطيع مجرمو الإنترنت استخدام أدوات تحاكي نماذج اللغة ولكنها مُخصصة لأغراض إجرامية. هذه الأدوات قادرة على توليد برامج ضارة، بل وتجاوز برامج مكافحة الفيروسات.

في فيتنام، ينظم المرسوم رقم 13/2023/ND-CP (الذي دخل حيز التنفيذ في 17 أبريل 2023) حماية البيانات الشخصية. علاوة على ذلك، من المتوقع أن يُفعّل قانون حماية البيانات الشخصية، المقرر دخوله حيز التنفيذ في 1 يناير 2026، آلية قانونية أقوى للتصدي لمخاطر تسريب البيانات الشخصية وإساءة استخدامها. مع ذلك، ووفقًا للجمعية الوطنية للأمن السيبراني، لا تزال فعالية تطبيق القانون بحاجة إلى تعزيز في ثلاثة محاور: رفع مستوى الوعي العام، وزيادة مسؤولية الشركات، وتحسين قدرة الهيئات التنظيمية على معالجة البيانات. وبعيدًا عن التدابير التقنية، يحتاج كل فرد إلى تطوير قدرته على تحديد العلامات غير المعتادة والمريبة، وحماية نفسه استباقيًا من التفاعلات الرقمية الخطيرة.

حذرت كاسبرسكي من استغلال الذكاء الاصطناعي الخفي (وهو مصطلح يشير إلى استخدام نماذج لغوية ضخمة تعمل خارج نطاق ضوابط الأمان القياسية، مما يُمكّن في كثير من الأحيان من القيام بأفعال مثل التصيد الاحتيالي والتلاعب والهجمات الإلكترونية وإساءة استخدام البيانات). يتعين على المؤسسات والأفراد الاستعداد لمواجهة هجمات إلكترونية متطورة بشكل متزايد ويصعب اكتشافها، وذلك نتيجة لانتشار الذكاء الاصطناعي الخفي في منطقة آسيا والمحيط الهادئ.

أوضح سيرجي لوزكين، رئيس فريق البحث والتحليل العالمي (GReAT) لمنطقة الشرق الأوسط وتركيا وأفريقيا وآسيا والمحيط الهادئ في شركة كاسبرسكي، أن أحد مظاهر إساءة استخدام الذكاء الاصطناعي في الوقت الراهن هو ظهور نماذج GPT الخبيثة. هذه نماذج ذكاء اصطناعي طُوّرت أو عُدّلت خصيصًا لأغراض غير أخلاقية وغير قانونية، مثل إنشاء برامج ضارة، وصياغة رسائل بريد إلكتروني تصيدية جذابة ومقنعة لشنّ هجمات واسعة النطاق، وإنشاء أصوات ومقاطع فيديو مزيفة بتقنية التزييف العميق، وحتى دعم الهجمات المحاكاة.

يوصي خبراء كاسبرسكي الأفراد والشركات باستخدام حلول أمنية متطورة للكشف عن البرامج الضارة التي تولدها تقنيات الذكاء الاصطناعي، مع إيلاء الأولوية لحماية البيانات. ينبغي على الشركات تطبيق أدوات مراقبة فورية لتتبع استغلال الثغرات الأمنية بواسطة الذكاء الاصطناعي؛ وتعزيز ضوابط الوصول وتدريب الموظفين للحد من استخدام الذكاء الاصطناعي في المناطق المظلمة وتقليل مخاطر تسريب البيانات؛ وإنشاء مركز عمليات للأمن السيبراني لمراقبة التهديدات والاستجابة السريعة للحوادث.

كيم ثانه

المصدر: https://www.sggp.org.vn/bao-mat-du-lieu-thoi-ai-post824210.html