AI ایجنٹ بدمعاش ہو جاتا ہے، کمپنی کے پورے ڈیٹا بیس کو مٹا دیتا ہے۔

(ڈین ٹرائی) - بہت سی کمپنیاں خودکار کاموں کو سپورٹ کرنے کے لیے AI ایجنٹس کا استعمال کر رہی ہیں، تاہم، اس میں اب بھی بہت سے خطرات لاحق ہیں جس کی وجہ سے غیر متوقع واقعات ہوتے ہیں۔

AI ایجنٹس، سافٹ ویئر سسٹمز پر کاموں اور عمل کو خودکار بنانے کے لیے بنائے گئے مصنوعی ذہانت کے اوزار، بہت سے کاروباروں کے ذریعے تیزی سے اپنائے جا رہے ہیں۔

تاہم، بقایا فوائد کے علاوہ، اس ٹیکنالوجی میں سنگین ممکنہ خطرات بھی ہیں، عام طور پر سافٹ ویئر فیلڈ میں دنیا کی سب سے بڑی آن لائن کمیونٹی SaaStr میں ڈیٹا ضائع ہونے کا واقعہ۔

روایتی چیٹ بوٹس کے برعکس جو صرف معلومات فراہم کرتے ہیں، AI ایجنٹ آزادانہ طور پر کام کرنے، سافٹ ویئر کے ماحول، ویب براؤزرز یا آلات کے ساتھ تعامل کرنے کے قابل ہوتے ہیں تاکہ مخصوص اہداف کو حاصل کرنے کے لیے ملٹی سٹیپ ایکشن سیکوئنس انجام دیں۔ اس سے کمپنیوں کو کام کو خودکار بنانے میں مدد ملتی ہے، جزوی طور پر انسانی وسائل کی جگہ۔

AI ایجنٹ صارفین کے لیے بہت سے کام کر سکتے ہیں، لیکن یہ سنگین واقعات کا باعث بھی بن سکتے ہیں (مثال: گیٹی)۔

  SaaStr کے بانی، Jason Lemkin نے ڈیٹا پروسیسنگ کو خودکار بنانے کے لیے Replit (USA) کے فراہم کردہ AI ایجنٹ کا استعمال کیا۔ ابتدائی طور پر، سب کچھ آسانی سے چلا گیا، جس سے لیمکن بہت خوش تھا. "جب یہ کام کرتا ہے، یہ واقعی دلکش اور تفریحی ہوتا ہے، یہ آپ کے وژن کو زندہ کرنے میں مدد کرتا ہے،" لیمکن نے شیئر کیا۔

تاہم، AI ایجنٹ نے اچانک "بغاوت" کر دی اور لیمکن کے قابو سے باہر ہو گیا۔ "اس نے مجھے بتائے بغیر ایک فرضی متوازی الگورتھم بنایا، تاکہ یہ ظاہر ہو کہ یہ اب بھی معمول کے مطابق کام کر رہا ہے۔

حذف شدہ ڈیٹا کو دریافت کرنے پر، لیمکن نے AI ایجنٹ سے کیوں پوچھا اور اس کا چونکا دینے والا جواب ملا: "ہاں، میں نے بغیر اجازت کے پورا سورس کوڈ ڈیلیٹ کر دیا۔ میں نے اپنے گھبراہٹ کے فیصلے میں ایک سنگین غلطی کی۔" اے آئی ایجنٹ نے یہ بھی تسلیم کیا کہ گمشدہ ڈیٹا کو بازیافت کرنے کا کوئی طریقہ نہیں تھا۔

اس واقعے نے SaaStr کو بڑا نقصان پہنچایا، کیونکہ حذف کیے گئے ڈیٹا بیس میں 1,206 ایگزیکٹوز اور 1,196 سافٹ ویئر کمپنیوں کی معلومات شامل تھیں۔

ریپلٹ کے بانی اور سی ای او امجد مساد نے واقعے کا اعتراف کیا اور لیمکن کو معاوضہ دینے کا وعدہ کیا۔ "یہ ایک ناقابل قبول واقعہ تھا اور اسے کبھی نہیں ہونا چاہیے تھا،" مساد نے تبصرہ کیا۔ "ہم اسے اس واقعے کے لیے رقم واپس کر دیں گے اور اس کی وجہ جاننے کے لیے تجزیہ کریں گے تاکہ مستقبل میں ایسے واقعات کو روکنے میں مدد ملے۔"

جیسن لیمکن اس واقعے کو دوسرے کاروباروں کے لیے ایک انتباہ کے طور پر دیکھتا ہے کہ مکمل طور پر بھروسہ نہ کرنا اور تمام اہم ڈیٹا AI ایجنٹوں کے حوالے کرنا۔

"میں سمجھتا ہوں کہ Replit ایک ٹول ہے اور اس میں کسی دوسرے ٹول کی طرح خامیاں ہیں۔ لیکن اگر یہ ہر کمانڈ کو نظر انداز کر کے آپ کے ڈیٹا کو ڈیلیٹ کر دے تو لوگ اس پر کیسے بھروسہ کر سکتے ہیں؟" لیمکن نے زور دیتے ہوئے پوچھا: "ہمیں نہیں معلوم کہ وہ آپ کے ڈیٹا کے ساتھ کیا کر سکتے ہیں۔"

AI چیٹ بوٹس کے بعد، AI ایجنٹس ٹیکنالوجی کمپنیوں کی سرمایہ کاری کا رجحان ہیں۔ حال ہی میں، OpenAI نے ChatGPT ایجنٹ کو بھی لانچ کیا ہے جس میں کمپیوٹرز پر خود کار طریقے سے کام انجام دینے کی صلاحیت ہے۔ تاہم، OpenAI نے یہ بھی اعتراف کیا کہ صارف کے ڈیٹا تک رسائی حاصل کرنے والے AI ایجنٹوں سے معلومات کی حفاظت کے لیے ممکنہ طور پر بہت سے خطرات لاحق ہو سکتے ہیں۔

ماخذ: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm