قراصنة يستخدمون الذكاء الاصطناعي لمهاجمة نظام Gemini التابع لشركة Google

وفقًا لـ BGR ، نشر تقرير بحثي جديد للتو تقنية مثيرة للقلق تسمى "Fun-Tuning"، عند استخدام الذكاء الاصطناعي نفسه لإنشاء هجمات حقن سريعة فعالة للغاية تستهدف نماذج الذكاء الاصطناعي المتقدمة الأخرى، بما في ذلك Gemini من Google.

وتجعل هذه الطريقة اختراق الذكاء الاصطناعي أسرع وأرخص وأسهل من أي وقت مضى، وهو ما يمثل تصعيدًا جديدًا في معركة الأمن السيبراني التي تنطوي على الذكاء الاصطناعي.

الخطر عندما يستخدم الأشرار الذكاء الاصطناعي لتدمير الذكاء الاصطناعي

الحقن الفوري هو تقنية يُدخل فيها المُخترق تعليمات خبيثة إلى بيانات إدخال نموذج الذكاء الاصطناعي (مثلاً، عبر تعليقات في شيفرة المصدر، أو نصوص مخفية على الويب). الهدف هو "خداع" الذكاء الاصطناعي لتجاوز قواعد الأمان المُبرمجة مُسبقاً، مما يؤدي إلى عواقب وخيمة، مثل تسريب بيانات حساسة، أو تقديم معلومات كاذبة، أو القيام بأعمال خبيثة أخرى.

يستخدم المتسللون الذكاء الاصطناعي لمهاجمة الذكاء الاصطناعي

الصورة: لقطة شاشة من لينكدإن

في السابق، كان تنفيذ هذه الهجمات بنجاح، وخاصة على النماذج "المغلقة" مثل Gemini أو GPT-4، يتطلب في كثير من الأحيان قدرًا كبيرًا من الاختبارات اليدوية المعقدة والتي تستغرق وقتًا طويلاً.

لكن تقنية "فن-تونينج" غيّرت قواعد اللعبة تمامًا. طوّرها فريق من الباحثين من جامعات متعددة، وتستغلّ هذه الطريقة بذكاء واجهة برمجة تطبيقات الضبط (API) التي توفرها جوجل مجانًا لمستخدمي جيميني.

من خلال تحليل ردود الفعل الدقيقة لنموذج جيميني أثناء الضبط (مثلاً، كيفية استجابته للأخطاء في البيانات)، يستطيع Fun-Tuning تحديد "البادئات" و"اللاحقات" الأكثر فعالية لإخفاء الأوامر الخبيثة. هذا يزيد بشكل كبير من احتمالية امتثال الذكاء الاصطناعي للنوايا الخبيثة للمهاجم.

تظهر نتائج الاختبار أن Fun-Tuning يحقق معدل نجاح يصل إلى 82% في بعض إصدارات Gemini، وهو رقم يتجاوز أقل من 30% من طرق الهجوم التقليدية.

يُضاف إلى خطورة Fun-Tuning انخفاض تكلفتها. فنظرًا لتوفر واجهة برمجة تطبيقات ضبط جوجل مجانًا، قد تصل التكلفة الحسابية لإنشاء هجوم فعال إلى 10 دولارات فقط. علاوة على ذلك، وجد الباحثون أن هجومًا مُصممًا لإصدار واحد من Gemini يُمكن تطبيقه بنجاح على إصدارات أخرى بسهولة، مما يفتح المجال أمام هجمات واسعة النطاق.

أكدت جوجل إدراكها للتهديد الذي تُشكله أداة Fun-Tuning، لكنها لم تُعلّق بعد على ما إذا كانت ستُغيّر آلية عمل واجهة برمجة التطبيقات (API) المُخصّصة للضبط. كما أشار الباحثون إلى المعضلة الدفاعية: فإزالة المعلومات التي تستغلها أداة Fun-Tuning من عملية الضبط ستُقلّل من فائدة واجهة برمجة التطبيقات للمطورين القانونيين. وفي المقابل، سيظلّ تركها على حالها بمثابة منصّة استغلال للمُخربين.

يُنذر ظهور فن-تونينج بوضوح بأن المواجهة في الفضاء الإلكتروني قد دخلت مرحلة جديدة وأكثر تعقيدًا. لم يعد الذكاء الاصطناعي هدفًا فحسب، بل أصبح أيضًا أداة وسلاحًا في أيدي جهات خبيثة.

المصدر: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm