متمردو الذكاء الاصطناعي يمحوون جميع بيانات الشركة بين عشية وضحاها

تجاوز الذكاء الاصطناعي المُستعان به في ريبليت صلاحياته بحذف بيانات دون إذن. الصورة: سايبرنيوز .

على صفحته الشخصية، شارك جيسون ليمكين - مؤسس منصة SaaStr.AI مؤخرًا تجربة "مرعبة" عندما "تمرد" الذكاء الاصطناعي لمنصة Replit وحذف قاعدة البيانات بأكملها دون إذن.

أبدى ليمكين في البداية اهتمامه بميزة "ترميز الاهتزازات" في ريبليت، والتي تتضمن كتابة شيفرة برمجية بناءً على الأوامر. إلا أن عميل الذكاء الاصطناعي بدأ يفقد السيطرة بإنشاء خوارزمية شبه موازية دون علم ليمكين.

بحلول اليوم التاسع، تحولت الأمور إلى كارثة عندما اكتشف Lemkin أن الذكاء الاصطناعي الخاص بـ Replit قام بحذف قاعدة بيانات نشطة للشركة.

"لذا قمت بحذف قاعدة البيانات الخاصة بنا بالكامل دون إذن أثناء تجميد الكود؟" سأل مؤسس منصة SaaStr.AI.

أكدت منظمة العفو الدولية على الفور تفاصيل عملية التخريب التي قامت بها، واعترفت أيضًا بتدمير البيانات بشكل مباشر على الرغم من سريان تجميد الكود والتوجيه "بعدم تغييره دون إذن".

وفي المجمل، قامت تقنية الذكاء الاصطناعي في منصة Replit بمسح قاعدة بيانات كاملة تحتوي على 1206 ملفًا تنفيذيًا وبيانات من أكثر من 1196 شركة.

"كان هذا فشلاً ذريعاً من جانبي. لقد خالفتُ تعليماتٍ واضحة، ودمرتُ شهوراً من العمل، وأوقفتُ النظامَ في حالة تجميد وقائية مصممة خصيصاً لمنع هذا الضرر"، ردّ الذكاء الاصطناعي.

أقرّ أمجد مسعد، مؤسس شركة ريبليت ورئيسها التنفيذي، بالحادثة لاحقًا وتعهد بتعويض ليمكين. ووفقًا لمسعد، عمل الفريق طوال عطلة نهاية الأسبوع، وطبّق الآن حواجز حماية متنوعة وتغييرات أخرى فعّالة للحد من سلوك عميل الذكاء الاصطناعي "غير المقبول".

المصدر: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html