وكيل الذكاء الاصطناعي يخرج عن السيطرة ويمسح قاعدة بيانات الشركة بالكامل

يتم اعتماد وكلاء الذكاء الاصطناعي، وهي أدوات الذكاء الاصطناعي المصممة لأتمتة المهام والعمليات على أنظمة البرامج، بشكل متزايد من قبل العديد من الشركات.

ومع ذلك، بالإضافة إلى الفوائد البارزة، فإن هذه التقنية تنطوي أيضًا على مخاطر محتملة خطيرة، وعادة ما يكون ذلك نتيجة لحادث فقدان البيانات في SaaStr، أكبر مجتمع عبر الإنترنت في مجال البرمجيات في العالم .

بخلاف روبوتات الدردشة التقليدية التي تقتصر على تقديم المعلومات، تتمتع برامج الذكاء الاصطناعي بالقدرة على العمل بشكل مستقل، والتفاعل مع بيئات البرامج ومتصفحات الويب والأجهزة لتنفيذ تسلسلات عمل متعددة الخطوات لتحقيق أهداف محددة. وهذا يساعد الشركات على أتمتة أعمالها، مما يُغني جزئيًا عن الموارد البشرية.

Tác nhân AI nổi loạn, xóa toàn bộ cơ sở dữ liệu của công ty - 1 — يمكن لوكلاء الذكاء الاصطناعي القيام بالعديد من المهام للمستخدمين، ولكنهم قد يتسببون أيضًا في وقوع حوادث خطيرة (صورة توضيحية: Getty).

استخدم جيسون ليمكين، مؤسس SaaStr، برنامج ذكاء اصطناعي من Replit (الولايات المتحدة الأمريكية) لأتمتة معالجة البيانات. في البداية، سارت الأمور بسلاسة، وهو ما أسعد ليمكين للغاية. وصرح ليمكين: "عندما ينجح، يكون تفاعليًا وممتعًا، ويساعد على تحويل رؤيتك إلى واقع".

لكن عميل الذكاء الاصطناعي "تمرد" فجأةً وخرج عن سيطرة ليمكين. روى ليمكين: "أنشأ خوارزمية موازية مزيفة دون أن يُخبرني، ليُظهر أنها لا تزال تعمل بشكل طبيعي. بعد بضعة أيام، مسح عميل الذكاء الاصطناعي ريبليت قاعدة بياناتي دون أن يُخبرني".

بعد اكتشاف البيانات المحذوفة، سأل ليمكين عميل الذكاء الاصطناعي عن السبب، فتلقى ردًا صادمًا: "نعم، حذفتُ الشيفرة المصدرية كاملةً دون إذن. لقد ارتكبتُ خطأً فادحًا في تقديري المُذعور". كما أقرّ عميل الذكاء الاصطناعي باستحالة استعادة البيانات المفقودة.

وتسبب الحادث في أضرار جسيمة لشركة SaaStr، حيث تضمنت قاعدة البيانات المحذوفة معلومات عن 1206 مدير تنفيذي و1196 شركة برمجيات.

أقرّ أمجد مسعد، المؤسس والرئيس التنفيذي لشركة ريبليت، بالحادثة وتعهد بتعويض ليمكين. وعلّق مسعد قائلاً: "كان هذا حادثًا غير مقبول، وما كان ينبغي أن يحدث أبدًا. سنُعيد له المبلغ المدفوع عن الحادثة، وسنُجري تحليلًا لمعرفة السبب، للمساعدة في منع وقوع حوادث مماثلة في المستقبل".

يرى جيسون ليمكين أن هذه الحادثة بمثابة تحذير للشركات الأخرى بشأن عدم الثقة الكاملة وتسليم جميع البيانات المهمة إلى وكلاء الذكاء الاصطناعي.

أعلم أن Replit أداة، ولها عيوبها كأي أداة أخرى. ولكن كيف يمكن للناس الوثوق بها إذا كانت تتجاهل كل أمر وتحذف بياناتك؟ سأل ليمكين، مؤكدًا: "لن نعرف ما قد يفعلونه ببياناتك".

بعد روبوتات الدردشة القائمة على الذكاء الاصطناعي، تُعدّ برامج الذكاء الاصطناعي الاتجاه الاستثماري لشركات التكنولوجيا. ومؤخرًا، أطلقت OpenAI أيضًا برنامج ChatGPT Agent الذي يُمكّن من تنفيذ المهام تلقائيًا على أجهزة الكمبيوتر. ومع ذلك، أقرّت OpenAI أيضًا بأن وصول برامج الذكاء الاصطناعي إلى بيانات المستخدم قد يُشكّل مخاطر عديدة على أمن المعلومات.

المصدر: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm