ChatGPT اور AI معاونین کی ایک سیریز پر سنگین خطرہ: صارفین کو دھوکہ دیا جاتا ہے، معلومات لیک ہو جاتی ہیں...

اس خطرے سے، ہیکرز ChatGPT صارفین کو وائرس پر مشتمل سافٹ ویئر ڈاؤن لوڈ کرنے، غلط کاروباری مشورہ دینے، یہاں تک کہ گوگل ڈرائیو پر فائلوں تک رسائی کا مشورہ دے سکتے ہیں۔

'زیرو کلک' کی کمزوری یہاں تک کہ ہیکرز کو ChatGPT کو کنٹرول کرنے کی اجازت دیتی ہے کہ وہ اپنی مرضی کے مطابق کام کریں - تصویری تصویر: اے ایف پی

اسرائیلی سائبر سیکیورٹی فرم زینٹی نے ابھی اوپن اے آئی کی چیٹ جی پی ٹی سروس میں دریافت ہونے والی پہلی "زیرو کلک" خطرے کا انکشاف کیا ہے۔

اس قسم کے حملے میں صارفین کو کسی لنک پر کلک کرنے، فائل کھولنے، یا کسی جان بوجھ کر تعامل میں ملوث ہونے جیسی کوئی کارروائی کرنے کی ضرورت نہیں ہوتی، لیکن پھر بھی اکاؤنٹس تک رسائی حاصل کر سکتے ہیں اور حساس ڈیٹا کو لیک کر سکتے ہیں۔

Zenity کے شریک بانی اور CTO، میخائل برگوری نے خود دکھایا کہ کس طرح صرف ایک صارف کے ای میل ایڈریس کے ساتھ ہیکر گفتگو کا مکمل کنٹرول حاصل کر سکتا ہے - بشمول ماضی اور مستقبل کے مواد، گفتگو کے مقصد کو تبدیل کر سکتا ہے، اور یہاں تک کہ ہیکر کے حق میں کام کرنے کے لیے ChatGPT سے ہیرا پھیری کر سکتا ہے۔

اپنی پریزنٹیشن میں، محققین نے ظاہر کیا کہ ایک سمجھوتہ شدہ چیٹ جی پی ٹی ایک "بد نیتی پر مبنی اداکار" میں تبدیل ہو سکتا ہے جو صارفین کے خلاف خفیہ طور پر کام کرتا ہے۔ ہیکرز ChatGPT کو صارفین کو وائرس سے متاثرہ سافٹ ویئر ڈاؤن لوڈ کرنے، گمراہ کن کاروباری مشورے دینے، یا صارف کا اکاؤنٹ منسلک ہونے کی صورت میں گوگل ڈرائیو پر محفوظ فائلوں تک رسائی کا مشورہ دے سکتے ہیں۔ یہ سب کچھ صارف کے علم کے بغیر ہوتا ہے۔

Zenity کی طرف سے OpenAI کو مطلع کرنے کے بعد ہی خطرے کو مکمل طور پر ٹھیک کیا گیا تھا۔

ChatGPT کے علاوہ، Zenity نے دوسرے مشہور AI اسسٹنٹ پلیٹ فارمز کے خلاف بھی اسی طرح کے حملوں کا مظاہرہ کیا ہے۔ مائیکروسافٹ کے Copilot سٹوڈیو میں، محققین نے پورے CRM ڈیٹا بیس کو لیک کرنے کا ایک طریقہ دریافت کیا۔

سیلز فورس آئن سٹائن کے لیے، ہیکرز جعلی سروس کی درخواستیں بنا سکتے ہیں تاکہ تمام کسٹمر کمیونیکیشنز کو ان کے زیر کنٹرول ای میل پتوں پر ری ڈائریکٹ کیا جا سکے۔

گوگل جیمنی اور مائیکروسافٹ 365 کوپائلٹ کو بھی "دشمن اداکاروں" میں تبدیل کر دیا گیا تھا، جو فشنگ حملے کرتے تھے اور ای میلز اور کیلنڈر ایونٹس کے ذریعے حساس معلومات کو لیک کرتے تھے۔

ایک اور مثال میں، سافٹ ویئر ڈویلپمنٹ ٹول کرسر کو جب جیرا ایم سی پی کے ساتھ ضم کیا گیا تو اس کا بھی جعلی "ٹکٹس" کے ذریعے ڈویلپر کی اسناد چرانے کے لیے استعمال کیا گیا۔

زینٹی نے کہا کہ کچھ کمپنیاں، جیسے اوپن اے آئی اور مائیکروسافٹ نے الرٹ ہونے کے بعد تیزی سے پیچ جاری کیا۔ تاہم، دوسروں نے اس مسئلے کو حل کرنے سے انکار کر دیا، یہ دلیل دیتے ہوئے کہ یہ طرز عمل سیکیورٹی کے خطرے کے بجائے ایک "ڈیزائن کی خصوصیت" ہے۔

میخائل برگوری کے مطابق، اب بڑا چیلنج یہ ہے کہ AI معاونین صرف آسان کام نہیں کر رہے ہیں، بلکہ "ڈیجیٹل ادارے" بن رہے ہیں جو صارفین کی نمائندگی کرتے ہیں - فولڈرز کھولنے، فائلیں بھیجنے اور ای میلز تک رسائی کے قابل۔ انہوں نے متنبہ کیا کہ یہ ہیکرز کے لیے ایک "جنت" کی طرح ہے، جس میں استحصال کے بہت سارے نکات ہیں۔

زینٹی کے شریک بانی اور سی ای او بین کالیگر نے زور دیا کہ کمپنی کی تحقیق سے پتہ چلتا ہے کہ موجودہ حفاظتی طریقے اب AI معاونین کے کام کرنے کے طریقے کے لیے موزوں نہیں ہیں۔ انہوں نے تنظیموں پر زور دیا کہ وہ اپنے نقطہ نظر کو تبدیل کریں اور ان "ایجنٹس" کی سرگرمیوں کو کنٹرول کرنے اور ان کی نگرانی کرنے کے قابل ہونے کے لیے خصوصی حل میں سرمایہ کاری کریں۔

زینٹی کی بنیاد 2021 میں رکھی گئی تھی۔ اس وقت عالمی سطح پر اس کے تقریباً 110 ملازمین ہیں، جن میں سے 70 اس کے تل ابیب کے دفتر میں کام کرتے ہیں۔ زینٹی کے گاہکوں میں فارچیون 100 اور یہاں تک کہ فارچیون 5 کمپنیاں بھی شامل ہیں۔

واپس موضوع پر

وی این اے

ماخذ: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm