האקרים יכולים להשיג מידע סודי ביותר של החברה על ידי 'צ'אט' עם צ'אטבוטים מבוססי בינה מלאכותית.

לדברי מומחי טכנולוגיה, באמצעות סדרה של הנחיות מתוחכמות, האקרים יכולים לחדור למסד הנתונים ה"סודי" של חברה מבלי להתגלות.

סקירה כללית של אירוע OpenInfra & Cloud Native Day Vietnam 2025 בנושא "עידן פריצת הדרך הדיגיטלית של וייטנאם" - צילום: CHI HIEU

בינה מלאכותית (AI) מציעה יתרונות רבים, וכיום היא משולבת על ידי עסקים רבים כדי לשרת משתמשי קצה כמו עובדי חברות ולקוחות. עם זאת, שילוב זה יכול גם ליצור פגיעויות המאפשרות להאקרים לתקוף ולגנוב מידע ממערכות אחסון נתונים.

"כיום, ישנן שיטות רבות לתקיפת מודלים של בינה מלאכותית, כאשר הנפוצה ביותר היא 'הרעלת תוכן', סוג של התקפה שנראית 'בלתי נראית' למערכות הגנת מידע מסורתיות", הזהיר מר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam, באירוע OpenInfra & Cloud Native Day Vietnam 2025 שנערך ב-26 ביולי בהאנוי .

האירוע אורגן על ידי איגוד האינטרנט של וייטנאם (VIA) בשיתוף פעולה עם קהילת התשתיות הפתוחות של וייטנאם (VietOpenInfra), מועדון מחשוב הענן ומרכזי הנתונים של וייטנאם (VNCDC), בתמיכת משרד המדע והטכנולוגיה .

90% מהעסקים משתמשים בפלטפורמות או תוכנות קוד פתוח.

בדברי הפתיחה שלו, הדגיש מר וו דה בינה, סגן נשיא ומזכיר כללי של איגוד האינטרנט של וייטנאם, את חשיבותן של תשתית פתוחה וקוד פתוח בתהליך הטרנספורמציה הדיגיטלית הלאומית.

בהקשר של טכנולוגיה עולמית המשתנה במהירות, מר בין הצהיר כי תשתית פתוחה ממשיכה להתפתח כבסיס לחדשנות, כאשר למעלה מ-90% מהעסקים משתמשים בפלטפורמות פתוחות או בתוכנה בצורות שונות.

על פי סקר של רד האט (2024), 82% ממנהיגי תעשיית הטכנולוגיה רואים בפלטפורמות פתוחות ובתוכנה מפתח להנעת טרנספורמציה דיגיטלית ולהאצת חדשנות. פלטפורמות כמו Kubernetes, OpenStack, Linux, Ceph ו-OpenTelemetry ממלאות תפקיד מכריע יותר ויותר בהפעלת מערכות בינה מלאכותית, IoT, 5G/6G ומערכות Cloud Native.

"לפני עשר שנים, ייתכן שהענן היה נחשב בטעות לענן בשמיים, וקוד פתוח היה נשמע כמו 'טכניקת אומנויות לחימה סודית'. אבל היום, אנחנו כאן, מתחברים לקהילת התשתיות הפתוחות העולמית ביותר מ-180 מדינות, ועובדים יחד כדי להפוך שורות קוד לכוח מניע לחדשנות", שיתף מר וו דה בינה.

צ'אטבוטים מבוססי בינה מלאכותית – "חלון צר" עבור האקרים לחדור למערכות.

"כיום, עסקים רבים מיישמים באופן משמעותי את היתרונות של פלטפורמות פתוחות ורספונסיביות עם מערכות משולבות כמו צ'אטבוטים מבוססי בינה מלאכותית כדי לשפר את יעילות העבודה ולשפר את חוויית המשתמש."

מנקודה זו צצות שיטות תקיפה רבות המכוונות למודלים של בינה מלאכותית, כולל התקפות של "הרעלת תוכן", הזהיר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam.

הוא ציין כי עסקים וייטנאמים, כאשר פורסים בינה מלאכותית, עדיין חסרים ידע מספיק על סוג זה של מתקפה.

בהתאם לכך, גורמים זדוניים משתמשים בשיטה של ​​שאילת מידע כוזב ולימוד מחדש של מודלים של בינה מלאכותית, מה שגורם ל"הרעלת" מידע.

אם המידע במערכת הענן "נדבק" אך נותר בלתי מזוהה וממשיך להיות בשימוש, היא תספק מידע לא מדויק או תנצל את הפגיעות הזו כדי לגשת למסד הנתונים לצורך גניבת מידע.

מר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam - צילום: CHI HIEU

מר דאו וייט הונג ציטט סיפורים יוצאי דופן, כמו למשל כאשר מערכת צ'אטבוט למכירות מקוונות של חברת רכב שוכנעה למכור מכונית חדשה תמורת דולר אחד בלבד.

הסיבה היא שבמהלך תהליך חילופי הדברים והמשא ומתן עם הצ'אטבוט, לקוח זה הצליח "לעקוף" את מסד הנתונים ולשכנע את הצ'אטבוט להסכים לבקשה.

דוגמה נוספת מראה האקר שהצליח להשיג את כל המסמכים הסודיים ותרשימי הארגון של חברה פשוט על ידי ניסוח שאלות מתאימות ושליחתן לצ'אטבוט פנימי של בינה מלאכותית.

בהתבסס על סיכון זה, מר דאו וייט הונג שיתף פתרון אבטחה מבוסס בינה מלאכותית שבו בינה מלאכותית מגנה על בינה מלאכותית, שיטה בה משתמשים עסקים גדולים רבים ברחבי העולם .

בשיטת אבטחה זו, הנתונים המאוחסנים משלבים שכבות הגנה מרובות, מה שמקשה על "הידבקות".

מערכות אבטחה מבוססות בינה מלאכותית יכולות לזהות איזה מידע נקי ואיזה מידע מהווה סיכון פוטנציאלי לתקיפה, ולאחר מכן לנקוט בפעולה מהירה ומתאימה...

חזרה לנושא

אדיקות אבותית

מקור: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm