Vietnam.vn - Nền tảng quảng bá Việt Nam

قراصنة يستخدمون الذكاء الاصطناعي لمهاجمة نظام Gemini التابع لشركة Google

Báo Thanh niênBáo Thanh niên30/03/2025

[إعلان 1]

وفقًا لـ BGR ، نشر تقرير بحثي جديد للتو تقنية مثيرة للقلق تسمى "Fun-Tuning"، عند استخدام الذكاء الاصطناعي نفسه لإنشاء هجمات حقن سريعة فعالة للغاية تستهدف نماذج الذكاء الاصطناعي المتقدمة الأخرى، بما في ذلك Gemini من Google.

وتجعل هذه الطريقة اختراق الذكاء الاصطناعي أسرع وأرخص وأسهل من أي وقت مضى، وهو ما يمثل تصعيدًا جديدًا في معركة الأمن السيبراني التي تنطوي على الذكاء الاصطناعي.

الخطر عندما يستخدم الأشرار الذكاء الاصطناعي لتدمير الذكاء الاصطناعي

الحقن الفوري هو تقنية يُدخل فيها المُخترق تعليمات خبيثة إلى بيانات إدخال نموذج الذكاء الاصطناعي (مثلاً، عبر تعليقات في شيفرة المصدر، أو نصوص مخفية على الويب). الهدف هو "خداع" الذكاء الاصطناعي لتجاوز قواعد الأمان المُبرمجة مُسبقاً، مما يؤدي إلى عواقب وخيمة، مثل تسريب بيانات حساسة، أو تقديم معلومات كاذبة، أو القيام بأعمال خبيثة أخرى.

Hacker đang dùng chính AI để tấn công Gemini của Google - Ảnh 1.

يستخدم المتسللون الذكاء الاصطناعي لمهاجمة الذكاء الاصطناعي

الصورة: لقطة شاشة من لينكدإن

في السابق، كان تنفيذ هذه الهجمات بنجاح، وخاصة على النماذج "المغلقة" مثل Gemini أو GPT-4، يتطلب في كثير من الأحيان قدرًا كبيرًا من الاختبارات اليدوية المعقدة والتي تستغرق وقتًا طويلاً.

لكن تقنية "فن-تونينج" غيّرت قواعد اللعبة تمامًا. طوّرها فريق من الباحثين من جامعات متعددة، وتستغلّ هذه الطريقة بذكاء واجهة برمجة تطبيقات الضبط (API) التي توفرها جوجل مجانًا لمستخدمي جيميني.

من خلال تحليل ردود الفعل الدقيقة لنموذج جيميني أثناء الضبط (مثلاً، كيفية استجابته للأخطاء في البيانات)، يستطيع Fun-Tuning تحديد "البادئات" و"اللاحقات" الأكثر فعالية لإخفاء الأوامر الخبيثة. هذا يزيد بشكل كبير من احتمالية امتثال الذكاء الاصطناعي للنوايا الخبيثة للمهاجم.

تظهر نتائج الاختبار أن Fun-Tuning يحقق معدل نجاح يصل إلى 82% في بعض إصدارات Gemini، وهو رقم يتجاوز أقل من 30% من طرق الهجوم التقليدية.

يُضاف إلى خطورة Fun-Tuning انخفاض تكلفتها. فنظرًا لتوفر واجهة برمجة تطبيقات ضبط جوجل مجانًا، قد تصل التكلفة الحسابية لإنشاء هجوم فعال إلى 10 دولارات فقط. علاوة على ذلك، وجد الباحثون أن هجومًا مُصممًا لإصدار واحد من Gemini يُمكن تطبيقه بنجاح على إصدارات أخرى بسهولة، مما يفتح المجال أمام هجمات واسعة النطاق.

أكدت جوجل إدراكها للتهديد الذي تُشكله أداة Fun-Tuning، لكنها لم تُعلّق بعد على ما إذا كانت ستُغيّر آلية عمل واجهة برمجة التطبيقات (API) المُخصّصة للضبط. كما أشار الباحثون إلى المعضلة الدفاعية: فإزالة المعلومات التي تستغلها أداة Fun-Tuning من عملية الضبط ستُقلّل من فائدة واجهة برمجة التطبيقات للمطورين القانونيين. وفي المقابل، سيظلّ تركها على حالها بمثابة منصّة استغلال للمُخربين.

يُنذر ظهور فن-تونينج بوضوح بأن المواجهة في الفضاء الإلكتروني قد دخلت مرحلة جديدة وأكثر تعقيدًا. لم يعد الذكاء الاصطناعي هدفًا فحسب، بل أصبح أيضًا أداة وسلاحًا في أيدي جهات خبيثة.


[إعلان 2]
المصدر: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm

تعليق (0)

No data
No data

نفس الموضوع

نفس الفئة

فيتنام - بولندا ترسم "سيمفونية من الضوء" في سماء دا نانغ
يُثير جسر ثانه هوا الساحلي الخشبي ضجة بفضل منظر غروب الشمس الجميل كما هو الحال في فو كوك
جمال الجنديات مع النجوم المربعة والمقاتلات الجنوبيات في شمس الصيف بالعاصمة
موسم مهرجان الغابات في كوك فونج

نفس المؤلف

إرث

شكل

عمل

No videos available

أخبار

النظام السياسي

محلي

منتج