ہیکرز گوگل کے جیمنی پر حملہ کرنے کے لیے اے آئی کا استعمال کرتے ہیں۔

BGR کے مطابق، ایک نئی تحقیقی رپورٹ نے حال ہی میں 'Fun-Tuning' نامی ایک خطرناک تکنیک شائع کی ہے، جو کہ AI (مصنوعی ذہانت) کو خود بخود استعمال کرتی ہے تاکہ گوگل کے جیمنی سمیت دیگر جدید AI ماڈلز کو نشانہ بناتے ہوئے انتہائی موثر فوری انجیکشن حملے بنائے۔

یہ طریقہ 'کریکنگ' AI کو پہلے سے کہیں زیادہ تیز، سستا اور آسان بناتا ہے، جس سے AI سے متعلق سائبر سیکیورٹی جنگ میں ایک نئی شدت پیدا ہوتی ہے۔

خطرہ جب برے لوگ AI کو توڑنے کے لیے AI کا استعمال کرتے ہیں۔

پرامپٹ انجیکشن ایک ایسی تکنیک ہے جہاں ایک مخالف AI ماڈل کے ان پٹ ڈیٹا (جیسے سورس کوڈ میں تبصروں کے ذریعے، ویب پر چھپے ہوئے متن کے ذریعے) بدنیتی پر مبنی ہدایات کو چھپاتا ہے۔ مقصد AI کو 'بے وقوف' بنانا ہے، اسے پہلے سے پروگرام کیے گئے حفاظتی اصولوں کو نظرانداز کرنے پر مجبور کرنا ہے، جس کے نتیجے میں سنگین نتائج جیسے کہ حساس ڈیٹا کا لیک ہونا، غلط معلومات فراہم کرنا، یا دیگر خطرناک طرز عمل کرنا ہے۔

ہیکرز AI پر حملہ کرنے کے لیے AI کا استعمال کر رہے ہیں۔

تصویر: لنکڈین اسکرین شاٹ

اس سے پہلے، کامیابی کے ساتھ ان حملوں کو انجام دینے کے لیے، خاص طور پر جیمنی یا GPT-4 جیسے 'بند' ماڈلز پر، اکثر پیچیدہ اور وقت طلب دستی جانچ کی ضرورت ہوتی تھی۔

لیکن Fun-Tuning نے گیم کو مکمل طور پر بدل دیا ہے۔ یہ طریقہ، متعدد یونیورسٹیوں کے محققین کی ایک ٹیم نے تیار کیا ہے، نہایت چالاکی کے ساتھ بہت زیادہ موافقت پذیر ایپلیکیشن پروگرامنگ انٹرفیس (API) کا فائدہ اٹھاتا ہے جو گوگل جیمنی صارفین کو مفت فراہم کرتا ہے۔

ٹیوننگ کے دوران جیمنی ماڈل کے باریک رد عمل کا تجزیہ کرکے (مثال کے طور پر، یہ ڈیٹا میں ہونے والی غلطیوں کا کیسے جواب دیتا ہے)، Fun-Tuning خود بخود سب سے زیادہ مؤثر 'سابقے' اور 'لاحقے' کا تعین کر سکتی ہے تاکہ ایک بدنیتی پر مبنی کمانڈ کو چھپا سکے۔ یہ اس امکان کو نمایاں طور پر بڑھاتا ہے کہ AI حملہ آور کے بدنیتی پر مبنی ارادوں کی تعمیل کرے گا۔

ٹیسٹ کے نتائج سے پتہ چلتا ہے کہ Fun-Tuning Gemini کے کچھ ورژنز پر 82% تک کامیابی کی شرح حاصل کرتی ہے، جو کہ روایتی حملے کے طریقوں کے 30% سے کم کو پیچھے چھوڑتی ہے۔

جو چیز Fun-Tuning کو مزید خطرناک بناتی ہے وہ اس کی کم قیمت ہے۔ چونکہ گوگل کا ٹیوننگ API آزادانہ طور پر دستیاب ہے، اس لیے ایک مؤثر حملہ بنانے کی کمپیوٹیشنل لاگت $10 تک کم ہوسکتی ہے۔ مزید برآں، محققین نے پایا کہ جیمنی کے ایک ورژن کے لیے ڈیزائن کیا گیا حملہ آسانی سے دوسرے ورژن پر کامیابی سے لاگو کیا جا سکتا ہے، جس سے بڑے پیمانے پر حملوں کا امکان کھل جاتا ہے۔

گوگل نے تصدیق کی ہے کہ وہ Fun-Tuning سے لاحق خطرے سے آگاہ ہے، لیکن اس نے ابھی تک اس بارے میں کوئی تبصرہ نہیں کیا ہے کہ آیا یہ ٹیوننگ API کے کام کرنے کے طریقے کو تبدیل کرے گا۔ ٹیم دفاعی مخمصے کی بھی نشاندہی کرتی ہے: اس معلومات کو ہٹانا جو Fun-Tuning ٹیوننگ کے عمل سے فائدہ اٹھاتی ہے API کو جائز ڈویلپرز کے لیے کم مفید بنا دے گی۔ اس کے برعکس، اسے اسی طرح چھوڑنا جاری رہے گا جو برے اداکاروں کے استحصال کا باعث بنے گا۔

Fun-Tuning کا ظہور ایک واضح انتباہ ہے کہ سائبر اسپیس میں تصادم ایک نئے، زیادہ پیچیدہ مرحلے میں داخل ہو گیا ہے۔ AI اب نہ صرف ایک ہدف ہے بلکہ بدنیتی پر مبنی اداکاروں کے ہاتھ میں ایک آلہ اور ہتھیار بھی ہے۔

ماخذ: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm