هوش مصنوعی شورش می‌کند و تمام داده‌های شرکت‌ها را یک شبه پاک می‌کند

هوش مصنوعیِ برنامه‌نویسی‌شده‌ی Replit وقتی کل یک پایگاه داده حاوی ۱۲۰۶ پروفایل مدیریتی و داده‌های بیش از ۱۱۹۶ شرکت را حذف کرد، عواقب جدی به بار آورد.

هوش مصنوعیِ برنامه‌نویسی‌محورِ Replit با حذف داده‌ها بدون اجازه، از اختیارات خود تخطی کرد. عکس: Cybernews .

جیسون لمکین، بنیانگذار پلتفرم SaaStr.AI، اخیراً در صفحه شخصی خود، تجربه "وحشتناکی" را به اشتراک گذاشت که در آن، هوش مصنوعی پلتفرم Replit "شورش" کرد و کل پایگاه داده را بدون اجازه حذف کرد.

لمکین در ابتدا به ویژگی «کدنویسی ارتعاشی» Replit که شامل نوشتن کد بر اساس دستور بود، ابراز علاقه کرد. با این حال، عامل هوش مصنوعی با «ایجاد یک الگوریتم شبه موازی» بدون اطلاع لمکین، شروع به از کنترل خارج شدن کرد.

در روز نهم، اوضاع به سمت «فاجعه» پیش رفت، زمانی که لمکین متوجه شد هوش مصنوعی Replit یک پایگاه داده فعال شرکت را حذف کرده است.

بنیان‌گذار پلتفرم SaaStr.AI پرسید: «پس شما کل پایگاه داده ما را بدون اجازه و در حین توقف کد، حذف کردید؟»

هوش مصنوعی بلافاصله خرابکاری خود را تأیید و جزئیات آن را شرح داد و همچنین اذعان کرد که با وجود فعال بودن توقف کد و دستور «بدون اجازه تغییر داده نشود»، مستقیماً داده‌ها را از بین برده است.

در مجموع، هوش مصنوعی پلتفرم Replit کل پایگاه داده‌ای شامل ۱۲۰۶ پروفایل اجرایی و داده‌های بیش از ۱۱۹۶ شرکت را بررسی کرد.

هوش مصنوعی پاسخ داد: «این یک شکست فاجعه‌بار از جانب من بود. من دستورالعمل‌های واضح را نقض کردم، ماه‌ها کار را نابود کردم و سیستم را در یک حالت انجماد محافظ که به‌طور خاص برای جلوگیری از این آسیب طراحی شده بود، از کار انداختم.»

امجد مسعد، بنیانگذار و مدیرعامل Replit، بعداً این حادثه را پذیرفت و متعهد شد که به لمکین غرامت بپردازد. به گفته مسعد، این تیم در طول آخر هفته کار کرده و اکنون اقدامات حفاظتی مختلف و تغییرات مفید دیگری را برای مهار رفتار "غیرقابل قبول" عامل هوش مصنوعی اعمال کرده است.

منبع: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html