اسرائیل: انتباہ کہ AI معاونین صارفین پر حملہ کرنے کے لیے بدنیتی پر مبنی ایجنٹ بن سکتے ہیں۔

اسرائیل نے حال ہی میں چیٹ جی پی ٹی میں زیرو کلک کے خطرے کی دریافت کا انکشاف کیا ہے جو ہیکرز کو ڈیٹا اور بات چیت کو کنٹرول کرنے کی اجازت دے سکتا ہے بغیر صارفین کو جانے، نیٹ ورک کی سلامتی کو خطرہ ہے۔

اسرائیلی سائبر سیکیورٹی فرم زینٹی نے اوپن اے آئی کی چیٹ جی پی ٹی سروس میں پہلی بار "زیرو کلک" کے خطرے کا انکشاف کیا ہے۔ اس قسم کے حملے کے لیے صارفین کو کسی لنک پر کلک کرنے، فائل کھولنے، یا کسی مطلوبہ تعامل میں مشغول ہونے جیسی کوئی کارروائی کرنے کی ضرورت نہیں ہوتی، لیکن پھر بھی اکاؤنٹس تک رسائی حاصل کر سکتے ہیں اور حساس ڈیٹا کو لیک کر سکتے ہیں۔

تل ابیب میں ایک وی این اے رپورٹر کے مطابق، زینٹی کے شریک بانی اور سی ٹی او مسٹر میخائل برگوری نے براہ راست وضاحت کی کہ کس طرح ایک ہیکر کو بات چیت کو مکمل طور پر کنٹرول کرنے کے لیے صرف صارف کے ای میل ایڈریس کی ضرورت ہوتی ہے - بشمول ماضی اور مستقبل کے مواد، گفتگو کا مقصد تبدیل کرنا، اور یہاں تک کہ ہیکر کی خواہشات کے مطابق عمل کرنے کے لیے ChatGPT کو کنٹرول کرنا۔

اپنی پریزنٹیشن میں، محققین نے ظاہر کیا کہ ایک سمجھوتہ شدہ ChatGPT ایک "بد نیتی پر مبنی اداکار" میں تبدیل ہو سکتا ہے جو صارفین کے خلاف خفیہ طور پر کام کر سکتا ہے۔ ہیکرز چیٹ بوٹ کو صارفین کو وائرس سے متاثرہ سافٹ ویئر ڈاؤن لوڈ کرنے، گمراہ کن کاروباری مشورے دینے، یا صارف کا اکاؤنٹ منسلک ہونے کی صورت میں گوگل ڈرائیو پر محفوظ فائلوں تک رسائی کا مشورہ دے سکتے ہیں۔

یہ سارا عمل صارف کے جانے بغیر ہوا۔ Zenity کی طرف سے OpenAI کو مطلع کرنے کے بعد ہی خطرے کو مکمل طور پر ٹھیک کیا گیا تھا۔

ChatGPT کے علاوہ، Zenity نے دوسرے مشہور AI اسسٹنٹ پلیٹ فارمز کے خلاف بھی اسی طرح کے حملوں کا مظاہرہ کیا ہے۔ مائیکروسافٹ کے Copilot سٹوڈیو میں، محققین نے پورے CRM ڈیٹا بیس کو لیک کرنے کا ایک طریقہ دریافت کیا۔

سیلز فورس آئن سٹائن کے لیے، ہیکرز جعلی سروس کی درخواستیں بنا سکتے ہیں تاکہ تمام کسٹمر کمیونیکیشنز کو ان کے زیر کنٹرول ای میل پتوں پر ری ڈائریکٹ کیا جا سکے۔

گوگل جیمنی اور مائیکروسافٹ 365 کوپائلٹ کو بھی "دشمن اداکاروں" میں تبدیل کر دیا گیا تھا، جو فشنگ حملے کرتے تھے اور ای میلز اور کیلنڈر ایونٹس کے ذریعے حساس معلومات کو لیک کرتے تھے۔

ایک اور مثال میں، سافٹ ویئر ڈویلپمنٹ ٹول کرسر، جب جیرا ایم سی پی کے ساتھ ضم کیا گیا، تو جعلی "ٹکٹس" کے ذریعے ڈویلپر کی اسناد چرانے کے لیے بھی استعمال کیا گیا۔

زینٹی نے کہا کہ اوپن اے آئی اور مائیکروسافٹ سمیت کچھ کمپنیوں نے الرٹ ہونے کے بعد تیزی سے پیچ جاری کیا۔ تاہم، دوسروں نے اس مسئلے کو حل کرنے سے انکار کر دیا، یہ دلیل دیتے ہوئے کہ یہ طرز عمل سیکیورٹی کے خطرے کے بجائے ایک "ڈیزائن فیچر" تھا۔

میخائل برگوری کے مطابق، اب بڑا چیلنج یہ ہے کہ AI معاونین صرف آسان کام نہیں کر رہے ہیں، بلکہ "ڈیجیٹل ادارے" بن رہے ہیں جو صارفین کی نمائندگی کرتے ہیں - فولڈرز کھولنے، فائلیں بھیجنے اور ای میلز تک رسائی کے قابل۔ وہ متنبہ کرتا ہے کہ یہ ہیکرز کے لیے ایک "جنت" کی طرح ہے، جس میں استحصال کے بہت سارے نکات ہیں۔

زینٹی کے شریک بانی اور سی ای او بین کالیگر نے زور دیا کہ کمپنی کی تحقیق سے پتہ چلتا ہے کہ موجودہ حفاظتی طریقے اب AI معاونین کے کام کرنے کے طریقے کے لیے موزوں نہیں ہیں۔ انہوں نے تنظیموں پر زور دیا کہ وہ اپنے نقطہ نظر کو تبدیل کریں اور ان "ایجنٹس" کی سرگرمیوں کو کنٹرول کرنے اور ان کی نگرانی کرنے کے قابل ہونے کے لیے خصوصی حل میں سرمایہ کاری کریں۔

زینٹی کی بنیاد 2021 میں رکھی گئی تھی۔ اس وقت دنیا بھر میں اس کے تقریباً 110 ملازمین ہیں، جن میں سے 70 اس کے تل ابیب کے دفتر میں کام کرتے ہیں۔ زینٹی کے کلائنٹس میں فارچیون 100 اور یہاں تک کہ فارچیون 5 کمپنیاں بھی شامل ہیں۔

(ویتنام نیوز ایجنسی/ویتنام+)

ماخذ: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp