الهجوم من كل زاوية
أطلقت جوجل منتجًا جديدًا للذكاء الاصطناعي يُدعى "Gemini Nano Banana"، وهو ليس ذكاء اصطناعيًا لغويًا كبيرًا (LLM) لديه القدرة على الكتابة والتفكير، ولكنه ذكاء اصطناعي متخصص في تحرير الصور... يشعر العديد من المستخدمين بالحماس تجاه هذه الأداة، ولكنها تجلب أيضًا العديد من الآثار الضارة.
قال نجوين هونغ فوك، مدير العلوم في شركة Conductify AI: "يبدو الأمر بمثابة تراجع في أخلاقيات التكنولوجيا والذكاء الاصطناعي". وأضاف: "يتمتع برنامج Gemini Nano Banana بالقدرة على تعديل الصور بفعالية. لكن إلغاء جوجل للرقابة على برنامج Gemini Nano Banana، الذي يُخفف القيود والآليات المُقيدة، يسمح لهذا الذكاء الاصطناعي بإنشاء صور تُشبه إلى حد كبير صور المشاهير، والصور المثيرة، والصور الحساسة...".
وبحسب السيد نجوين هونغ فوك، فإن هذه القدرة تجعل من Gemini Nano Banana أداة لإنشاء صور مزيفة واقعية لدرجة أن خبراء الذكاء الاصطناعي لا يستطيعون التمييز، مما يؤدي إلى مخاطر جديدة تتعلق بالاحتيال ومخاطر الأمن السيبراني، مثل إنشاء صور مع سياسيين وسياسيين مشهورين لنشر معلومات مزيفة، حتى أن الأفراد يتم تحرير صورهم بواسطة الذكاء الاصطناعي وتشويه سمعتهم على الشبكات الاجتماعية...
بالإضافة إلى ذلك، مع انتشار عشرات أدوات الذكاء الاصطناعي الأخرى لتحرير الصور على الإنترنت، لا يبدو أن هناك نهاية قريبة للاحتيال باستخدام تقنية التزييف العميق. تُظهر إحصاءات منظمات الأمن أن تقنية التزييف العميق تُطلق حملات احتيال تستهدف شخصيات مرموقة، وخاصةً قادة الأعمال. في عام 2024، سُجِّلت ما بين 140 ألفًا و150 ألف حالة احتيال عالميًا، استهدفت 75% منها رؤساء تنفيذيين وكبار القادة... قد تزيد تقنية التزييف العميق الخسائر الاقتصادية العالمية بنسبة 32%، أي ما يعادل حوالي 40 مليار دولار أمريكي سنويًا بحلول عام 2027.
مؤخرًا، اكتشفت شركة AI Anthropic حملة هجوم إلكتروني شنّها قراصنة أجانب، ونجحت في منعها، حيث سُجّل لأول مرة استخدام الذكاء الاصطناعي لتنسيق أنشطة الهجوم الآلي. وتحديدًا، استخدم القراصنة أنظمة الذكاء الاصطناعي لتخطيط أنشطة الاختراق وتوجيهها ونشرها، وهو تطور "مقلق"، إذ يُنذر بتوسيع نطاق وسرعة حملات الهجمات الإلكترونية.
أشار السيد نغو مينه هيو، مدير منظمة مكافحة الاحتيال التابعة للجمعية الوطنية للأمن السيبراني، إلى أن الأداة المدمجة بالذكاء الاصطناعي تتميز بسرعة اكتشاف الاحتيال تفوق سرعة اكتشافه باستخدام الأشخاص الحقيقيين بنحو 20 مرة. يُرسل المشاركون سيناريو الاحتيال إلى الذكاء الاصطناعي لتحليله، ويبدأ النظام تلقائيًا بالدردشة مع الضحايا. ومن خلال البيانات الأولية، يستطيع الذكاء الاصطناعي معرفة ما يريده الضحية والدردشة معه فورًا. أما أكثر هذه الحيل تعقيدًا فهي هجوم "الرجل في المنتصف"، أي عندما يُجري المستخدم مصادقة فيديو، مثل تحريك وجهه أو قراءة الأوامر، يقف المخترق في المنتصف للتدخل في البيانات المرسلة. عندها، يُدخل مجرمو الإنترنت مقاطع فيديو مُعدّة بتقنية التزييف العميق، مُستبدلين تدفق بيانات المستخدم الحقيقية لتجاوز المصادقة... وبهذه الطريقة، تُصبح أنظمة أمن البنوك والمؤسسات المالية أيضًا عُرضة للاحتيال.
إدارة أفضل للبيانات
مع تزايد شيوع الذكاء الاصطناعي، تزداد مخاطر الأمن والخصوصية بشكل ملحوظ. ستصبح البيانات المخزنة والمعالَجة على خوادم بعيدة هدفًا جذابًا للقراصنة ومنظمات الجرائم الإلكترونية. ووفقًا لبيانات الجمعية الوطنية للأمن السيبراني، في الربع الثاني من عام 2025 وحده، ارتفع عدد الهجمات الإلكترونية باستخدام الذكاء الاصطناعي بنسبة 62%، مما تسبب في خسائر عالمية تصل إلى 18 مليار دولار أمريكي.
يقول الخبراء إن حماية البيانات أمرٌ بالغ الأهمية. ومع ذلك، لا يزال جمع البيانات وبيعها يجريان علنًا على العديد من منصات "السوق السوداء"، مقابل رسوم شهرية زهيدة تصل إلى 20 دولارًا. يستطيع مجرمو الإنترنت استخدام أدوات تعمل بشكل مشابه لنماذج اللغة، ولكنها مُخصصة لأغراض إجرامية. هذه الأدوات قادرة على إنشاء برمجيات خبيثة، بل وتجاوز برامج مكافحة الفيروسات.
في فيتنام، يُنظّم المرسوم رقم 13/2023/ND-CP (الذي دخل حيز التنفيذ في 17 أبريل 2023) حماية البيانات الشخصية. ومن المتوقع أن يدخل قانون حماية البيانات الشخصية حيز التنفيذ في 1 يناير 2026، مما يُتيح آلية قانونية أقوى للتصدي لخطر تسريب البيانات الشخصية وإساءة استخدامها. ومع ذلك، ووفقًا للجمعية الوطنية للأمن السيبراني، لا تزال هناك حاجة إلى تعزيز فعالية إنفاذ القانون على الركائز الثلاث التالية: توعية الأفراد، وزيادة مسؤولية الشركات، وتحسين قدرة الجهات الإدارية على التعامل مع البيانات. بالإضافة إلى التدابير التقنية، يحتاج كل فرد إلى بناء القدرة على تحديد العلامات غير العادية والمريبة، وحماية نفسه بشكل استباقي من التفاعلات الرقمية الخطيرة.
حذّرت شركة كاسبرسكي للأمن الإلكتروني من إساءة استخدام الذكاء الاصطناعي المظلم (وهو مصطلح يُستخدم لوصف نشر نماذج لغوية ضخمة تعمل خارج نطاق الضوابط الأمنية القياسية، مما يسمح غالبًا بأعمال مثل الاحتيال والتلاعب والهجمات الإلكترونية وإساءة استخدام البيانات). ويتعيّن على المؤسسات والأفراد الاستعداد لهجمات إلكترونية متزايدة التعقيد وصعوبة اكتشافها، نتيجةً لتزايد استخدام الذكاء الاصطناعي المظلم في منطقة آسيا والمحيط الهادئ.
أشار سيرجي لوزكين، رئيس فريق البحث والتحليل العالمي (GReAT) المسؤول عن منطقة الشرق الأوسط وتركيا وأفريقيا وآسيا والمحيط الهادئ في كاسبرسكي، إلى أن أحد مظاهر إساءة استخدام الذكاء الاصطناعي اليوم هو ظهور نماذج Black Hat GPT. وهي نماذج ذكاء اصطناعي طُوّرت أو عُدّلت خصيصًا لخدمة أغراض غير أخلاقية وغير قانونية، مثل إنشاء برامج ضارة، وصياغة رسائل تصيد احتيالي سلسة ومقنعة للغاية لشن هجمات واسعة النطاق، وإنشاء أصوات ومقاطع فيديو مُزيّفة، وحتى دعم عمليات هجوم مُحاكية.
يوصي خبراء كاسبرسكي الأفراد والشركات باستخدام حلول أمنية متطورة للكشف عن البرمجيات الخبيثة المُولّدة بالذكاء الاصطناعي، مع التركيز على حماية البيانات كهدف أساسي. ومن الضروري للشركات تطبيق أدوات مراقبة آنية لرصد الثغرات الأمنية المُستخدَمة بالذكاء الاصطناعي؛ وتعزيز مراقبة الوصول وتدريب الموظفين للحد من ظاهرة استخدام الذكاء الاصطناعي في الخفاء، بالإضافة إلى الحد من خطر تسرب البيانات؛ وإنشاء مركز عمليات للأمن السيبراني لرصد التهديدات والاستجابة السريعة للحوادث.
المصدر: https://www.sggp.org.vn/bao-mat-du-lieu-thoi-ai-post824210.html
تعليق (0)