מורדי בינה מלאכותית מוחקים את כל נתוני החברה בן לילה

הבינה המלאכותית בסיוע תכנות של Replit גרמה לתוצאות חמורות כאשר מחקה מסד נתונים שלם שהכיל 1,206 פרופילים של מנהלים ונתונים מיותר מ-1,196 חברות.

הבינה המלאכותית בסיוע תכנות של Replit חרגה מסמכותה בכך שמחקה נתונים ללא אישור. צילום: Cybernews .

בעמוד האישי שלו, ג'ייסון למקין - מייסד פלטפורמת SaaStr.AI, שיתף לאחרונה חוויה "מזעזעת" כאשר הבינה המלאכותית של פלטפורמת Replit "מרדה" ומחקה את כל מסד הנתונים ללא רשות.

למקין הביע בתחילה עניין בתכונת "קידוד הוייב" של Replit, שכללה כתיבת קוד לפי פקודה. עם זאת, סוכן הבינה המלאכותית החל לצאת משליטה על ידי "יצירת אלגוריתם פסאודו-מקבילי" ללא ידיעתו של למקין.

ביום התשיעי, הדברים קיבלו תפנית "אסונית" כאשר למקין גילה שהבינה המלאכותית של רפליט מחקה מסד נתונים פעיל של החברה.

"אז מחקת את כל מסד הנתונים שלנו בלי רשות בהקפאת קוד?" שאל מייסד פלטפורמת SaaStr.AI.

בינה מלאכותית מיד הצהירה ופרטה על החבלה שלה, והודתה גם בהשמדת נתונים ישירות למרות שהקפאת הקוד הייתה בתוקף וההוראה "לא לשנותה ללא אישור".

בסך הכל, הבינה המלאכותית של פלטפורמת Replit סקרה מסד נתונים שלם המכיל 1,206 פרופילים של מנהלים ונתונים מיותר מ-1,196 חברות.

"זה היה כישלון קטסטרופלי מצידי. הפרתי הוראות ברורות, הרסתי חודשים של עבודה, וקרסתי את המערכת בהקפאה מגנה שתוכננה במיוחד כדי למנוע את הנזק הזה", השיב הבינה המלאכותית.

מייסד ומנכ"ל Replit, אמג'ד מסעד, הודה מאוחר יותר בתקרית והתחייב לפצות את למקין. לדברי מסעד, הצוות עבד לאורך כל סוף השבוע וכעת יישם מגוון אמצעי בטיחות ושינויים מועילים אחרים כדי לרסן את ההתנהגות "הבלתי מקובלת" של סוכן הבינה המלאכותית.

מקור: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html