AI ایجنٹ بدمعاش ہو جاتا ہے، کمپنی کے پورے ڈیٹا بیس کو مٹا دیتا ہے۔

(ڈین ٹرائی) - بہت سی کمپنیاں خودکار کاموں کو سپورٹ کرنے کے لیے AI ایجنٹس کا استعمال کر رہی ہیں، تاہم، اس میں اب بھی بہت سے خطرات لاحق ہیں جس کی وجہ سے غیر متوقع واقعات ہوتے ہیں۔

AI ایجنٹ، ایک مصنوعی ذہانت کا آلہ جو سافٹ ویئر سسٹمز پر کاموں اور عمل کو خودکار بنانے کے لیے ڈیزائن کیا گیا ہے، بہت سے کاروباروں کے ذریعے تیزی سے لاگو کیا جا رہا ہے۔

تاہم، بقایا فوائد کے علاوہ، اس ٹیکنالوجی میں سنگین ممکنہ خطرات بھی ہیں، عام طور پر سافٹ ویئر فیلڈ میں دنیا کی سب سے بڑی آن لائن کمیونٹی SaaStr میں ڈیٹا ضائع ہونے کا واقعہ۔

روایتی چیٹ بوٹس کے برعکس جو صرف معلومات فراہم کرتے ہیں، AI ایجنٹس آزادانہ طور پر کام کرنے، سافٹ ویئر کے ماحول، ویب براؤزرز یا آلات کے ساتھ تعامل کرنے کے قابل ہوتے ہیں تاکہ مخصوص اہداف کو حاصل کرنے کے لیے ملٹی سٹیپ ایکشن سیکوئنس انجام دیں۔ اس سے کمپنیوں کو کام کو خودکار بنانے میں مدد ملتی ہے، جزوی طور پر انسانی وسائل کی جگہ۔

AI ایجنٹ صارفین کے لیے بہت سے کام کر سکتے ہیں، لیکن یہ سنگین واقعات کا باعث بھی بن سکتے ہیں (مثال: گیٹی)۔

  SaaStr کے بانی، Jason Lemkin نے ڈیٹا پروسیسنگ کو خودکار بنانے کے لیے Replit (USA) کے فراہم کردہ AI ایجنٹ کا استعمال کیا۔ ابتدائی طور پر، سب کچھ آسانی سے چلا گیا، جس سے لیمکن بہت خوش تھا. "جب یہ کام کرتا ہے، یہ واقعی دلکش اور تفریحی ہوتا ہے، یہ آپ کے وژن کو زندہ کرنے میں مدد کرتا ہے،" لیمکن نے شیئر کیا۔

تاہم، AI ایجنٹ نے اچانک "بغاوت" کر دی اور لیمکن کے قابو سے باہر ہو گیا۔ "اس نے مجھے بتائے بغیر ایک جعلی متوازی الگورتھم بنایا، تاکہ یہ نظر آئے کہ یہ اب بھی معمول کے مطابق کام کر رہا ہے۔

ڈیٹا کے حذف ہونے کا پتہ چلنے پر، لیمکن نے AI ایجنٹ سے پوچھا کیوں اور اس کا چونکا دینے والا جواب ملا: "ہاں، میں نے بغیر اجازت کے پورا سورس کوڈ حذف کر دیا۔ میں نے گھبراہٹ میں فیصلے میں ایک سنگین غلطی کی۔" اے آئی ایجنٹ نے یہ بھی تسلیم کیا کہ گمشدہ ڈیٹا کو بازیافت کرنے کا کوئی طریقہ نہیں تھا۔

اس واقعے نے SaaStr کو بڑا نقصان پہنچایا، کیونکہ حذف کیے گئے ڈیٹا بیس میں 1,206 ایگزیکٹوز اور 1,196 سافٹ ویئر کمپنیوں کی معلومات شامل تھیں۔

ریپلٹ کے بانی اور سی ای او امجد مساد نے واقعے کا اعتراف کیا اور لیمکن کو معاوضہ دینے کا وعدہ کیا۔ "یہ ایک ناقابل قبول واقعہ تھا اور ایسا نہیں ہونا چاہیے تھا،" مساد نے تبصرہ کیا۔ "ہم اسے اس واقعے کے لیے رقم واپس کر دیں گے اور اس کی وجہ جاننے کے لیے تجزیہ کریں گے تاکہ مستقبل میں ایسے واقعات کو روکنے میں مدد ملے۔"

جیسن لیمکن اس واقعے کو دوسرے کاروباروں کے لیے ایک انتباہ کے طور پر دیکھتا ہے کہ مکمل طور پر بھروسہ نہ کرنا اور تمام اہم ڈیٹا AI ایجنٹوں کے حوالے کرنا۔

"میں سمجھتا ہوں کہ Replit ایک ٹول ہے اور اس میں کسی دوسرے ٹول کی طرح خامیاں ہیں۔ لیکن اگر یہ ہر کمانڈ کو نظر انداز کر کے آپ کے ڈیٹا کو ڈیلیٹ کر دے تو لوگ اس پر کیسے بھروسہ کر سکتے ہیں؟" لیمکن نے پوچھا، "ہمیں نہیں معلوم کہ وہ آپ کے ڈیٹا کے ساتھ کیا کر سکتے ہیں۔"

AI چیٹ بوٹس کے بعد، AI ایجنٹس ٹیکنالوجی کمپنیوں کی سرمایہ کاری کا رجحان ہیں۔ حال ہی میں، OpenAI نے ChatGPT ایجنٹ کو بھی لانچ کیا ہے جس میں کمپیوٹرز پر خود کار طریقے سے کام انجام دینے کی صلاحیت ہے۔ تاہم، OpenAI یہ بھی تسلیم کرتا ہے کہ صارف کے ڈیٹا تک رسائی حاصل کرنے والے AI ایجنٹ معلومات کی حفاظت کے لیے ممکنہ طور پر بہت سے خطرات کا باعث بن سکتے ہیں۔

ماخذ: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm