استخدم المتسللون الذكاء الاصطناعي لمهاجمة نظام جيميني التابع لشركة جوجل.

وفقًا لـ BGR ، كشف تقرير بحثي جديد عن تقنية مثيرة للقلق تسمى "Fun-Tuning"، والتي تستخدم الذكاء الاصطناعي لتوليد هجمات حقن سريعة فعالة للغاية تستهدف نماذج الذكاء الاصطناعي المتقدمة الأخرى، بما في ذلك Gemini من Google.

هذه الطريقة تجعل "اختراق" الذكاء الاصطناعي أسرع وأرخص وأسهل من أي وقت مضى، مما يمثل تصعيدًا جديدًا في معركة الأمن السيبراني التي تشمل الذكاء الاصطناعي.

خطر استخدام الجهات الخبيثة للذكاء الاصطناعي لاختراقه.

يُعدّ حقن التعليمات البرمجية أسلوبًا يقوم فيه المهاجمون بإدخال تعليمات ضارة خلسةً في بيانات إدخال نموذج الذكاء الاصطناعي (على سبيل المثال، من خلال التعليقات في شفرة المصدر، أو النصوص المخفية على الإنترنت). والهدف من ذلك هو "خداع" الذكاء الاصطناعي، وإجباره على تجاهل قواعد الأمان المبرمجة مسبقًا، مما يؤدي إلى عواقب وخيمة مثل تسريب البيانات الحساسة، أو نشر معلومات مضللة، أو القيام بأفعال خطيرة أخرى.

يستخدم المتسللون الذكاء الاصطناعي لمهاجمة الذكاء الاصطناعي.

صورة: لقطة شاشة من لينكدإن

في السابق، كان تنفيذ هذه الهجمات بنجاح، وخاصة على النماذج "المغلقة" مثل Gemini أو GPT-4، يتطلب في كثير من الأحيان قدراً كبيراً من الاختبارات اليدوية المعقدة والمستهلكة للوقت.

لكن تقنية Fun-Tuning غيرت المشهد تماماً. فقد طورها فريق من الباحثين من عدة جامعات، وتستغل هذه الطريقة بذكاء واجهة برمجة التطبيقات (API) المحسّنة التي توفرها جوجل مجاناً لمستخدمي Gemini.

من خلال تحليل الاستجابات الدقيقة لنموذج جيميني أثناء عملية الضبط (على سبيل المثال، كيفية استجابته للأخطاء في البيانات)، يستطيع نظام Fun-Tuning تحديد "البادئات" و"اللواحق" الأكثر فعالية لإخفاء عبارة خبيثة. وهذا يزيد بشكل كبير من احتمالية امتثال الذكاء الاصطناعي للغرض الخبيث للمهاجم.

تظهر نتائج الاختبار أن برنامج Fun-Tuning حقق معدل نجاح يصل إلى 82٪ في بعض إصدارات Gemini، وهو رقم يفوق بكثير نسبة النجاح التي تقل عن 30٪ والتي حققتها أساليب الهجوم التقليدية.

ما يزيد من خطورة تقنية "Fun-Tuning" هو انخفاض تكلفة تنفيذها بشكل كبير. فبفضل توفير واجهة برمجة تطبيقات الضبط من جوجل مجانًا، قد تصل التكلفة الحسابية لإنشاء هجوم فعال إلى 10 دولارات فقط. علاوة على ذلك، وجد الباحثون أن الهجوم المصمم لإصدار معين من Gemini يمكن تطبيقه بسهولة ونجاح على إصدارات أخرى، مما يزيد من خطر انتشار الهجمات على نطاق واسع.

أكدت جوجل أنها على دراية بالتهديد الذي تشكله تقنية Fun-Tuning، لكنها لم تُعلّق بعد على ما إذا كانت ستُغيّر طريقة عمل واجهة برمجة تطبيقات الضبط. كما أشار فريق البحث إلى صعوبة التصدي لهذه التقنية: فإذا أُزيلت المعلومات التي تستغلها Fun-Tuning من عملية الضبط، ستصبح واجهة برمجة التطبيقات أقل فائدة للمطورين الشرعيين. وعلى العكس، إذا بقيت دون تغيير، فستظل تُشكّل ثغرةً يستغلها المخترقون.

يُعدّ ظهور تقنية "فن-تونينغ" بمثابة تحذير واضح، يُشير إلى أن المواجهة في الفضاء الإلكتروني قد دخلت مرحلة جديدة أكثر تعقيداً. لم يعد الذكاء الاصطناعي هدفاً فحسب، بل أصبح أيضاً أداة وسلاحاً في أيدي الجهات الخبيثة.

المصدر: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm