האקרים יכולים לקבל מידע סודי של החברה על ידי "שיחה" עם צ'אטבוט מבוסס בינה מלאכותית

לדברי מומחי טכנולוגיה, באמצעות סדרה של הנחיות מתוחכמות, האקרים יכולים לחדור למסד הנתונים ה"סודי" של חברה מבלי להתגלות.

סקירה כללית של אירוע OpenInfra & Cloud Native Day Vietnam 2025 בנושא "עידן פריצת הדרך הדיגיטלית של וייטנאם" - צילום: CHI HIEU

בינה מלאכותית (AI) מביאה עמה ערכים רבים, במיוחד כיום כשהיא משולבת על ידי עסקים רבים כדי לשרת משתמשי קצה כמו עובדי חברות, לקוחות... מכאן, מערכות צ'אטבוט משולבות בינה מלאכותית יכולות להפוך ל"דלת צרה" עבור האקרים לתקוף ולגנוב מידע על מערכות אחסון נתונים.

"כיום, ישנן שיטות רבות לתקיפת מודלים של בינה מלאכותית, כאשר הנפוצה שבהן היא 'הרעלת תוכן', שנראית כ'בלתי נראית' למערכות הגנת מידע מסורתיות", הזהיר מר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam, באירוע OpenInfra & Cloud Native Day Vietnam 2025 שנערך ב-26 ביולי בהאנוי .

האירוע אורגן על ידי איגוד האינטרנט של וייטנאם (VIA) בתיאום עם קהילת התשתיות הפתוחות של וייטנאם (VietOpenInfra), ומועדון מחשוב הענן ומרכזי הנתונים של וייטנאם (VNCDC), בתמיכת משרד המדע והטכנולוגיה .

90% מהעסקים משתמשים בפלטפורמות או תוכנות פתוחות

בנאום הפתיחה שלו, הדגיש מר וו דה בינה - סגן נשיא ומזכיר כללי של איגוד האינטרנט של וייטנאם - את חשיבותן של תשתית פתוחה וקוד פתוח בתהליך הטרנספורמציה הדיגיטלית הלאומית.

בהקשר של שינויים מהירים בטכנולוגיה העולמית, אמר מר בינה כי תשתית פתוחה ממשיכה להתפתח כבסיס לחדשנות כאשר יותר מ-90% מהעסקים משתמשים בפלטפורמות או תוכנה פתוחות בצורות רבות.

על פי סקר של רד האט (2024), 82% ממובילי הטכנולוגיה רואים בפלטפורמות פתוחות ובתוכנה מפתח להנעת טרנספורמציה דיגיטלית ולהאצת חדשנות. פלטפורמות כמו Kubernetes, OpenStack, Linux, Ceph ו-OpenTelemetry ממלאות תפקיד חשוב יותר ויותר בהפעלת מערכות בינה מלאכותית, IoT, 5G/6G ומערכות Cloud Native.

"לפני 10 שנים, אפשר היה לטעות ולחשוב שענן הוא ענן בשמיים, וקוד פתוח נשמע כמו 'סוד של אומנויות לחימה'. אבל היום, אנחנו כאן, מתחברים לקהילת התשתיות הפתוחות העולמית ביותר מ-180 מדינות, ויחד הופכים שורות קוד לכוח מניע לחדשנות", שיתף מר וו דה בינה.

צ'אטבוט מבוסס בינה מלאכותית - "דלת צרה" עבור האקרים לחדור למערכת

"כיום, עסקים רבים מיישמים באופן משמעותי את יעילותן של פלטפורמות פתוחות ורספונסיביות המשלבות מערכות כמו צ'אטבוטים מבוססי בינה מלאכותית כדי לשפר את ביצועי העבודה ולשפר את חוויית המשתמש."

גם מכאן, שיטות רבות של תקיפה על מודלים של בינה מלאכותית, כולל התקפות "הרעלת תוכן", הזהיר מר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam.

הוא ציין כי עסקים וייטנאמים, כאשר פורסים בינה מלאכותית, עדיין לא יודעים הרבה על סוג זה של התקפה.

בהתאם לכך, גורמים רעים משתמשים בשיטה של ​​שאילת מידע כוזב ולימוד מחדש של מודל הבינה המלאכותית ללא הרף, מה שגורם ל"הרעלת" מידע.

אם המידע במערכת הענן "נדבק" ולא זוהה וממשיך להיות בשימוש, היא תספק מידע שגוי או תנצל את הפגיעות הזו כדי להתגנב לתוך מסד הנתונים לצורך קבלת מידע.

מר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam - צילום: CHI HIEU

מר דאו וייט הונג ציטט סיפור נדיר, כאשר מערכת צ'אטבוט למכירות מקוונות של חברת רכב שוכנעה למכור מכונית חדשה תמורת דולר אחד בלבד.

הסיבה היא שבמהלך תהליך חילופי הדברים והמשא ומתן עם הצ'אטבוט, לקוח זה מצא דרך "להתגנב" לתוך מסד הנתונים ולשכנע את הצ'אטבוט להסכים לבקשה הנ"ל.

דוגמה נוספת היא כאשר האקרים הצליחו להשיג את כל המסמכים הסודיים ותרשימי הארגון של חברה רק על ידי ניסוח שאלות מתאימות ושליחתן לצ'אטבוט הפנימי של בינה מלאכותית.

מתוך סיכון זה, מר דאו וייט הונג שיתף את פתרון האבטחה של בינה מלאכותית כך שהבינה המלאכותית עצמה תוכל להגן עליה, זוהי צורה המשמשת ארגונים גדולים רבים בעולם .

בשיטת אבטחה זו, הנתונים המאוחסנים משלבים שכבות הגנה מרובות, מה שמקשה על "הידבקות".

מערכת האבטחה מבוססת הבינה המלאכותית יכולה לזהות איזה מידע נקי ואיזה מידע קיים סיכון פוטנציאלי לתקיפה, ומכאן תהיה תוכנית טיפול מהירה ומתאימה...

חזרה לנושא

אֲדִיקוּת

מקור: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm