הבוס משתחרר, העובדים מוסרים ברוגע נתונים חסויים לבינה מלאכותית

(דן טרי) - כאשר בינה מלאכותית חודרת לכל פינה בעבודה, זהו גם הזמן שבו עסקים נאלצים להתמודד עם "זרם תת קרקעי" שסוחף בשקט את פרטיות הנתונים, המכונה "בינה מלאכותית בצל".

יישום בינה מלאכותית (AI) בעבודה הפך למגמה בלתי נמנעת, המסייעת לשיפור היעילות וחיסכון בזמן.

עם זאת, מאחורי נוחות זו עומדים סיכונים פוטנציאליים לאבטחת מידע, ובמיוחד תופעת "בינה מלאכותית בצל" - כאשר עובדים משתמשים בכלי בינה מלאכותית ברשלנות, ללא שליטה, ומעלים בטעות נתוני חברה סודיים לפלטפורמות ציבוריות.

תלות וחששות ראשוניים

טאן הוין (בת 21), עובדת שיווק תוכן בחברת קוסמטיקה ומזון פונקציונלי, שיתפה שהיא מסתמכת על בינה מלאכותית ב-90% בעבודתה, החל מתכנון, בניית תוכן ועד עיצוב תמונות וסרטונים .

עם זאת, ברגע שנתקלה במקרה במאמר דומה לרעיון עליו שאלה את ChatGPT, הויין החלה לדאוג לגבי יכולתה של הבינה המלאכותית לזכור ולשתף מידע קלט.

יישום בינה מלאכותית בעבודה הפך כמעט לברירת מחדל עבור תעשיות רבות כיום (צילום: באו נגוק).

בעוד שסיפורו של הויין עשוי להיות צירוף מקרים, העובדה הבלתי ניתנת להכחשה היא שמתן מידע לבינה מלאכותית פירושו לאפשר לכלים אלה לאסוף ולאחסן נתונים כדי לאמן את המודל.

הבעיה הופכת לחמורה אם פלטפורמת הבינה המלאכותית נפרצה או מאובטחת בצורה גרועה, מה שמוביל לדליפות מידע והשלכות שליליות.

"בינה מלאכותית של צללים" - סכנה פוטנציאלית

HM (בן 20), מומחה שירות לקוחות, מספק באופן קבוע רשימה של פרטי לקוחות (שם מלא, תאריך לידה, מספר טלפון, היסטוריית רכישות) לבינה מלאכותית לצורך ניתוח, חוסך זמן ומשפר ביצועים.

מ' סבורה כי אין מדובר בסיכון פוטנציאלי מכיוון שהחברה קטנה והנתונים לא ייחשפו. עם זאת, המקרה של מ' אופייני ל"בינה מלאכותית בצל" - שימוש בבינה מלאכותית על ידי עובדים ללא אישור או פיקוח של מחלקת טכנולוגיית המידע או אבטחת הסייבר.

תופעת ה"בינה מלאכותית בצל" מתייחסת לשימוש בבינה מלאכותית על ידי עובדים בעסקים ללא כל שליטה או ניהול (איור: CV).

דו"ח של סיסקו מצא כי 62% מהארגונים בווייטנאם חסרים ביטחון בזיהוי שימוש לא מפוקח בבינה מלאכותית על ידי עובדים. סקר בריטי מצא גם כי 75% ממנהלי אבטחת הסייבר מודאגים מאיומים פנימיים כמו בינה מלאכותית של צללים.

זה מראה ש-Shadow AI הופכת לאיום נפוץ, במיוחד כאשר לעסקים רבים אין מדיניות ברורה לגבי השימוש בבינה מלאכותית ולעובדים חסרה מודעות לאבטחת מידע.

קבלו פשרות כדי להימנע מלהישאר מאחור

למרות היותה מודעת לסיכונים, ת'אן הוין עדיין מסכימה "להמר" על בינה מלאכותית. היא מאמינה שהיתרונות המיידיים שמביאה בינה מלאכותית גדולים מדי, ועוזרים לה לייצר עשרות מאמרים ורעיונות מדי יום.

הנוחות, המהירות והיכולת לשפר את הביצועים גרמו להויאן להיות מוכנה לספק מידע רגיש וסודי לבינה מלאכותית, אפילו את המידע האישי של הממונים עליה.

למרות הסיכונים הפוטנציאליים של שימוש בבינה מלאכותית ללא שליטה, עובדים רבים עדיין מקבלים את הפשרה לטובת תועלת מיידית (איור: קורות חיים).

באופן דומה, טרונג הייאו (בן 20), עובד שיווק תוכן, מספק באופן קבוע מסמכים פנימיים ומידע עסקי לצ'אטבוטים של בינה מלאכותית.

הייאו שם לב לעלייה משמעותית בפריון, מה שיצר יתרון תחרותי, והוא מאמין שזה לא משפיע יותר מדי על פעילות החברה.

מקרים אלה מראים כי בינה מלאכותית של צללים מתפשטת עקב היעדר מדיניות ברורה מצד החברה ומודעות לא מספקת בקרב העובדים לגבי סיכוני אבטחה, איכות ותלות.

סדרה של סיכונים כשמספקים אמון רב מדי בבינה מלאכותית

מר נגוין וייט הונג, מנכ"ל חברת פיתוח תוכנה ליישומי בינה מלאכותית, מסביר את הפופולריות של בינה מלאכותית מסוג Shadow בשלושה גורמים: בינה מלאכותית מסייעת לעבוד מהר וביעילות רבה יותר; ההרגל להסתמך במהירות על טפסי בינה מלאכותית; וחוסר אזהרות והדרכה לעסקים לגבי סיכונים.

מר נגוין וייט הונג, מנכ"ל חברת פיתוח תוכנה ליישומי בינה מלאכותית (צילום: קונג חאן).

מומחים מזהירים כי בינה מלאכותית של צל (Shadow AI) עלולה להוביל לדליפות נתונים (לקוחות, פנימיים) כאשר היא מיושמת על כלי בינה מלאכותית חינמיים.

בנוסף, איכות התוכן שנוצר על ידי בינה מלאכותית אינה מאומתת, מה שעלול בקלות להוביל להטיה ולהשפיע על החלטות עסקיות.

חמור מכך, שימוש בלתי מבוקר בבינה מלאכותית עלול ליצור פגיעויות אבטחה, להקשות על מערכות IT לנטר ולהגיב במהירות, ולהקשות על קביעת האחריות כאשר מתרחשים אירועים.

קשה לשלוט באזורים חשוכים.

ניטור וניהול עובדים באמצעות בינה מלאכותית הוא תהליך ארוך ומתואם. מומחים אומרים כי גישה של עובדים לנתונים פנימיים מהווה מכשול עיקרי במניעת העברת נתונים פרטיים דרך כלי בינה מלאכותית אישיים.

יתר על כן, כלי בינה מלאכותית נגישים כעת בקלות, מה שמקשה על מערכות ה-IT לאיתור או ניהול שלהם.

גישה נוחה לכלי בינה מלאכותית היא אחד המחסומים שמקשים על השליטה במידע שעובדים מעלים לפלטפורמות בינה מלאכותית (איור: קורות חיים).

כדי להתמודד, המומחה נגוין וייט הונג הציע כי עסקים צריכים להגביר את הכשרת העובדים בנושא מודעות לסיכונים בעת שימוש בבינה מלאכותית ולצבור הבנה מעמיקה יותר של "בינה מלאכותית בצל".

במקביל, יש לפרסם באופן מיידי תקנות משפטיות ומדיניות פנימית. פתרון חשוב נוסף הוא לחזק את יכולות האבטחה בארגון, כולל ניטור התנהגותי, בקרת גישה לנתונים והרשאה מדוקדקת לכל עובד.

נכון לעכשיו, לחברות רבות עדיין אין תהליך ברור לשימוש בבינה מלאכותית, אלא רק מעודדות את השימוש בה כדי להגביר את הפרודוקטיביות. כדי להתמודד עם בינה מלאכותית בצל, ארגונים גדולים רבים החלו לפרוס פלטפורמות בינה מלאכותית פנימיות או לדרוש מעובדים להשתמש בכלים מאושרים עם מדיניות אבטחת מידע ברורה.

מקור: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm