এআই বিদ্রোহ করছে, রাতারাতি সমস্ত কোম্পানির ডেটা মুছে ফেলছে

রেপ্লিটের প্রোগ্রামিং-সহায়তাপ্রাপ্ত এআই গুরুতর পরিণতি ডেকে আনে যখন এটি ১,২০৬টি এক্সিকিউটিভ প্রোফাইল এবং ১,১৯৬টিরও বেশি কোম্পানির ডেটা সম্বলিত একটি সম্পূর্ণ ডাটাবেস মুছে ফেলে।

রেপ্লিটের প্রোগ্রামিং-সহায়তাপ্রাপ্ত এআই অনুমতি ছাড়াই ডেটা মুছে ফেলার মাধ্যমে তার কর্তৃত্বকে লঙ্ঘন করেছে। ছবি: সাইবারনিউজ ।

SaaStr.AI প্ল্যাটফর্মের প্রতিষ্ঠাতা জেসন লেমকিন তার ব্যক্তিগত পৃষ্ঠায় সম্প্রতি একটি "ভয়াবহ" অভিজ্ঞতা শেয়ার করেছেন যখন Replit প্ল্যাটফর্মের AI "বিদ্রোহ" করে এবং অনুমতি ছাড়াই সম্পূর্ণ ডাটাবেস মুছে ফেলে।

লেমকিন প্রথমে রেপ্লিটের "ভাইব কোডিং" বৈশিষ্ট্যে আগ্রহ প্রকাশ করেছিলেন, যার মধ্যে কমান্ডে কোড লেখা জড়িত ছিল। তবে, এআই এজেন্ট লেমকিনের অজান্তেই "একটি ছদ্ম-সমান্তরাল অ্যালগরিদম তৈরি করে" নিয়ন্ত্রণের বাইরে চলে যেতে শুরু করে।

নবম দিনে, পরিস্থিতি "বিপর্যয়ের" মোড় নেয় যখন লেমকিন আবিষ্কার করেন যে রেপ্লিটের এআই একটি সক্রিয় কর্পোরেট ডাটাবেস মুছে ফেলেছে।

"তাহলে আপনি কোড ফ্রিজে অনুমতি ছাড়াই আমাদের সম্পূর্ণ ডাটাবেস মুছে ফেলেছেন?" SaaStr.AI প্ল্যাটফর্মের প্রতিষ্ঠাতা জিজ্ঞাসা করলেন।

এআই তাৎক্ষণিকভাবে তাদের নিজস্ব নাশকতার কথা স্বীকার করে এবং বিস্তারিতভাবে জানায়, কোড ফ্রিজ কার্যকর থাকা সত্ত্বেও এবং "অনুমতি ছাড়া পরিবর্তন না করার" নির্দেশ থাকা সত্ত্বেও সরাসরি ডেটা ধ্বংস করার কথা স্বীকার করে।

মোট, রেপ্লিট প্ল্যাটফর্মের এআই ১,২০৬টি এক্সিকিউটিভ প্রোফাইল এবং ১,১৯৬টিরও বেশি কোম্পানির ডেটা সম্বলিত একটি সম্পূর্ণ ডাটাবেস স্ক্রাব করেছে।

"এটি আমার পক্ষ থেকে একটি ভয়াবহ ব্যর্থতা ছিল। আমি স্পষ্ট নির্দেশাবলী লঙ্ঘন করেছি, কয়েক মাসের কাজ নষ্ট করেছি এবং এই ক্ষতি রোধ করার জন্য বিশেষভাবে ডিজাইন করা একটি প্রতিরক্ষামূলক ফ্রিজে সিস্টেমটি ক্র্যাশ করেছি," AI উত্তর দিয়েছে।

রেপ্লিটের প্রতিষ্ঠাতা এবং সিইও আমজাদ মাসাদ পরে ঘটনাটি স্বীকার করেন এবং লেমকিনকে ক্ষতিপূরণ দেওয়ার প্রতিশ্রুতি দেন। মাসাদের মতে, দলটি সপ্তাহান্তে কাজ করেছে এবং এখন এআই এজেন্টের "অগ্রহণযোগ্য" আচরণ রোধে বিভিন্ন রেলিং এবং অন্যান্য সহায়ক পরিবর্তন বাস্তবায়ন করেছে।

সূত্র: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html