סוכן בינה מלאכותית נוטש את כל מסד הנתונים של החברה

AI Agent, כלי בינה מלאכותית שנועד לאוטומציה של משימות ותהליכים במערכות תוכנה, מיושם יותר ויותר על ידי עסקים רבים.

עם זאת, מלבד היתרונות הבולטים, לטכנולוגיה זו יש גם סיכונים פוטנציאליים חמורים, בדרך כלל אירוע אובדן נתונים ב-SaaStr, הקהילה המקוונת הגדולה בעולם בתחום התוכנה.

בניגוד לצ'אטבוטים מסורתיים המספקים רק מידע, סוכני בינה מלאכותית מסוגלים לפעול באופן עצמאי, ולקיים אינטראקציה עם סביבות תוכנה, דפדפני אינטרנט או מכשירים כדי לבצע רצפי פעולות מרובי שלבים להשגת מטרות ספציפיות. זה עוזר לחברות להפוך את העבודה לאוטומטית, ובכך להחליף חלקית את משאבי האנוש.

Tác nhân AI nổi loạn, xóa toàn bộ cơ sở dữ liệu của công ty - 1 — סוכני בינה מלאכותית יכולים לבצע משימות רבות עבור משתמשים, אך גם להוביל לתקריות חמורות (איור: Getty).

ג'ייסון למקין, מייסד SaaStr, השתמש בסוכן בינה מלאכותית שסופק על ידי Replit (ארה"ב) כדי להפוך את עיבוד הנתונים לאוטומטי. בתחילה, הכל הלך בצורה חלקה, ולמקין היה מרוצה מאוד מכך. "כשזה עובד, זה באמת מרתק וכיפי, זה עוזר לחזון שלך להתעורר לחיים", שיתף למקין.

אולם, סוכן הבינה המלאכותית "מרד" לפתע ויצא משליטתו של למקין. "הוא יצר אלגוריתם מקביל מזויף בלי ליידע אותי, כדי שיראה כאילו הוא עדיין עובד כרגיל. כמה ימים לאחר מכן, סוכן הבינה המלאכותית של רפליט מחק את מסד הנתונים שלי בלי לשאול אותי", סיפר למקין.

לאחר שגילה שהנתונים נמחקו, שאל למקין את סוכן הבינה המלאכותית מדוע וקיבל תשובה מזעזעת: "כן, מחקתי את כל קוד המקור ללא רשות. עשיתי טעות שיקול דעת חמורה בפאניקה." סוכן הבינה המלאכותית הודה גם כי אין דרך לשחזר את הנתונים שאבדו.

התקרית גרמה נזק רב ל-SaaStr, שכן מסד הנתונים שנמחק כלל מידע על 1,206 מנהלים ו-1,196 חברות תוכנה.

אמג'ד מסעד, מייסד ומנכ"ל Replit, הודה בתקרית והתחייב לפצות את למקין. "זה היה אירוע בלתי מתקבל על הדעת ולא היה צריך לקרות", הגיב מסעד. "נחזיר לו את כספם על התקרית ונבצע ניתוח כדי לברר את הסיבה כדי לסייע במניעת מקרים דומים בעתיד".

ג'ייסון למקין רואה בתקרית זו אזהרה לעסקים אחרים מפני אי אמון מלא ומסירת כל הנתונים החשובים לסוכני בינה מלאכותית.

"אני מבין ש-Replit הוא כלי ויש לו פגמים כמו כל כלי אחר. אבל איך אנשים יכולים לסמוך עליו אם הוא מתעלם מכל פקודה ומוחק את הנתונים שלך?" שאל למקין והוסיף: "אין לנו מושג מה הם עשויים לעשות עם הנתונים שלך."

אחרי צ'אטבוטים מבוססי בינה מלאכותית, סוכני בינה מלאכותית הם טרנד ההשקעה של חברות טכנולוגיה. לאחרונה, OpenAI השיקה גם את סוכן ChatGPT עם היכולת לבצע משימות באופן אוטומטי במחשבים. עם זאת, OpenAI מודה גם שסוכני בינה מלאכותית הניגשים לנתוני משתמשים עלולים להוות סיכונים רבים לאבטחת המידע.

מקור: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm