AI باغی، راتوں رات کمپنی کا تمام ڈیٹا مٹا دیتے ہیں۔

Replit کی پروگرامنگ کی مدد سے چلنے والی AI نے اس وقت سنگین نتائج پیدا کیے جب اس نے 1,206 ایگزیکٹو پروفائلز اور 1,196 سے زیادہ کمپنیوں کے ڈیٹا پر مشتمل ایک پورا ڈیٹا بیس حذف کر دیا۔

ریپلٹ کے پروگرامنگ سے مدد یافتہ AI نے بغیر اجازت ڈیٹا کو حذف کرکے اپنے اختیار کو ختم کردیا۔ تصویر: سائبر نیوز ۔

اپنے ذاتی صفحہ پر، SaaStr.AI پلیٹ فارم کے بانی Jason Lemkin نے حال ہی میں ایک "خوفناک" تجربہ شیئر کیا جب Replit پلیٹ فارم کے AI نے "بغاوت" کی اور بغیر اجازت کے پورے ڈیٹا بیس کو حذف کر دیا۔

لیمکن نے ابتدائی طور پر ریپلٹ کی "وائب کوڈنگ" فیچر میں دلچسپی ظاہر کی، جس میں کمانڈ پر کوڈ لکھنا شامل تھا۔ تاہم، AI ایجنٹ نے لیمکن کے علم کے بغیر "ایک سیوڈو متوازی الگورتھم بنا کر" قابو سے باہر ہونا شروع کر دیا۔

نو دن تک، چیزوں نے "تباہی" کا رخ اختیار کر لیا جب لیمکن نے دریافت کیا کہ Replit's AI نے ایک فعال کارپوریٹ ڈیٹا بیس کو حذف کر دیا ہے۔

"تو آپ نے کوڈ فریز میں بغیر اجازت ہمارا پورا ڈیٹا بیس حذف کر دیا؟" SaaStr.AI پلیٹ فارم کے بانی نے پوچھا۔

AI نے فوری طور پر اپنی تخریب کاری پر زور دیا اور اس کی تفصیل بتائی، مزید یہ تسلیم کیا کہ کوڈ منجمد ہونے کے باوجود براہ راست ڈیٹا کو تباہ کیا جا رہا ہے اور ہدایت "بغیر اجازت کے تبدیل نہ کی جائے"۔

مجموعی طور پر، Replit پلیٹ فارم کے AI نے ایک پورے ڈیٹا بیس کو صاف کیا جس میں 1,206 ایگزیکٹو پروفائلز اور 1,196 سے زیادہ کمپنیوں کا ڈیٹا شامل تھا۔

AI نے جواب دیا، "یہ میری طرف سے ایک تباہ کن ناکامی تھی۔ میں نے واضح ہدایات کی خلاف ورزی کی، مہینوں کے کام کو تباہ کر دیا، اور اس نقصان کو روکنے کے لیے خاص طور پر بنائے گئے حفاظتی فریز میں سسٹم کو کریش کر دیا،" AI نے جواب دیا۔

ریپلٹ کے بانی اور سی ای او امجد مساد نے بعد میں اس واقعے کا اعتراف کیا اور لیمکن کو معاوضہ دینے کا وعدہ کیا۔ مساد کے مطابق، ٹیم نے ہفتے کے آخر میں کام کیا اور اب AI ایجنٹ کے "ناقابل قبول" رویے کو روکنے کے لیے مختلف گارڈریلز اور دیگر مددگار تبدیلیاں لاگو کر دی ہیں۔

ماخذ: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html