ہیکرز نے گوگل کے جیمنی پر حملہ کرنے کے لیے اے آئی کا استعمال کیا۔

BGR کے مطابق، ایک نئی تحقیقی رپورٹ نے حال ہی میں 'Fun-Tuning' نامی ایک خطرناک تکنیک کا انکشاف کیا ہے، جو AI (مصنوعی ذہانت) کا استعمال کرتے ہوئے خود بخود انتہائی موثر فوری انجیکشن حملے پیدا کرتی ہے جس میں گوگل کے جیمنی سمیت دیگر جدید AI ماڈلز کو نشانہ بنایا جاتا ہے۔

یہ طریقہ 'ہیکنگ' AI کو پہلے سے کہیں زیادہ تیز، سستا اور آسان بناتا ہے، جس سے AI سے متعلق سائبر سیکیورٹی کی جنگ میں ایک نیا اضافہ ہوتا ہے۔

AI کو توڑنے کے لیے AI استعمال کرنے والے بدنیتی پر مبنی اداکاروں کا خطرہ۔

پرامپٹ انجیکشن ایک تکنیک ہے جہاں بدنیتی پر مبنی اداکار چوری چھپے AI ماڈل کے ان پٹ ڈیٹا میں نقصان دہ ہدایات داخل کرتے ہیں (مثلاً، سورس کوڈ میں تبصروں کے ذریعے، ویب پر مخفی متن)۔ مقصد یہ ہے کہ AI کو 'ٹرک' کرنا، اسے پہلے سے پروگرام شدہ حفاظتی اصولوں کو نظر انداز کرنے پر مجبور کرنا، جس کے نتیجے میں سنگین نتائج جیسے کہ حساس ڈیٹا کا لیک ہونا، غلط معلومات فراہم کرنا، یا دیگر خطرناک کارروائیاں کرنا۔

ہیکرز AI پر حملہ کرنے کے لیے AI کا استعمال کر رہے ہیں۔

تصویر: لنکڈین سے اسکرین شاٹ

پہلے، ان حملوں کو کامیابی کے ساتھ انجام دینے کے لیے، خاص طور پر جیمنی یا GPT-4 جیسے 'بند' ماڈلز پر، اکثر پیچیدہ اور وقت خرچ کرنے والی دستی جانچ کی ضرورت ہوتی تھی۔

لیکن Fun-Tuning نے زمین کی تزئین کو مکمل طور پر بدل دیا۔ متعدد یونیورسٹیوں کے محققین کی ایک ٹیم کی طرف سے تیار کردہ، یہ طریقہ بڑی چالاکی سے بہتر ایپلیکیشن پروگرامنگ انٹرفیس (API) کا فائدہ اٹھاتا ہے جو گوگل جیمنی صارفین کو مفت فراہم کرتا ہے۔

ٹیوننگ کے عمل کے دوران جیمنی ماڈل کے باریک ردعمل کا تجزیہ کرکے (مثال کے طور پر، یہ ڈیٹا میں ہونے والی غلطیوں کا کیسے جواب دیتا ہے)، Fun-Tuning خود بخود سب سے زیادہ مؤثر 'سابقے' اور 'لاحقے' کی شناخت کر سکتا ہے تاکہ ایک بدنیتی پر مبنی بیان کو چھپا سکے۔ اس سے اس امکان میں نمایاں اضافہ ہوتا ہے کہ AI حملہ آور کے بدنیتی پر مبنی ارادے کی تعمیل کرے گا۔

ٹیسٹ کے نتائج سے پتہ چلتا ہے کہ Fun-Tuning نے Gemini کے کچھ ورژنز پر 82% تک کامیابی کی شرح حاصل کی، جو روایتی حملے کے طریقوں سے حاصل کردہ 30% سے بھی کم تعداد سے کہیں زیادہ ہے۔

جو چیز Fun-Tuning کے خطرے میں اضافہ کرتی ہے وہ اس کی انتہائی کم لاگت ہے۔ چونکہ گوگل کا ٹیوننگ API مفت فراہم کیا جاتا ہے، اس لیے ایک مؤثر حملہ بنانے کی کمپیوٹیشنل لاگت $10 تک کم ہو سکتی ہے۔ مزید برآں، محققین نے پایا ہے کہ جیمنی کے ایک ورژن کے لیے ڈیزائن کیا گیا حملہ آسانی سے دوسرے ورژن پر کامیابی سے لاگو کیا جا سکتا ہے، جس سے بڑے پیمانے پر حملوں کا خطرہ بڑھ جاتا ہے۔

گوگل نے تصدیق کی ہے کہ وہ فن ٹیوننگ تکنیک سے لاحق خطرے سے آگاہ ہے لیکن اس نے ابھی تک اس بارے میں کوئی تبصرہ نہیں کیا ہے کہ آیا یہ ٹیوننگ API کے کام کرنے کے طریقے کو تبدیل کرے گا۔ تحقیقی ٹیم نے اس کے خلاف دفاع کرنے میں دشواری کی نشاندہی بھی کی: اگر Fun-Tuning کے ذریعے استحصال کی گئی معلومات کو ٹیوننگ کے عمل سے ہٹا دیا جاتا ہے، تو API جائز ڈویلپرز کے لیے کم مفید ہو جائے گا۔ اس کے برعکس، اگر اس میں کوئی تبدیلی نہیں کی جاتی ہے، تو یہ بدنیتی پر مبنی اداکاروں کے استحصال کے لیے ایک اسپرنگ بورڈ بنے گا۔

Fun-Tuning کا ظہور ایک واضح انتباہ ہے، جس سے ظاہر ہوتا ہے کہ سائبر اسپیس میں تصادم ایک نئے، زیادہ پیچیدہ مرحلے میں داخل ہو گیا ہے۔ AI اب نہ صرف ایک ہدف ہے بلکہ بدنیتی پر مبنی اداکاروں کے ہاتھ میں ایک آلہ اور ہتھیار بھی ہے۔

ماخذ: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm