האקרים יכולים לקבל מידע סודי ביותר על החברה על ידי "הסתתרות" עם צ'אטבוט מבוסס בינה מלאכותית

לדברי מומחי טכנולוגיה, באמצעות סדרה של הנחיות מתוחכמות, האקרים יכולים לחדור למסד הנתונים ה"סודי" של חברה מבלי להתגלות.

סקירה כללית של אירוע OpenInfra & Cloud Native Day Vietnam 2025 בנושא "עידן פריצת הדרך הדיגיטלית של וייטנאם" - צילום: CHI HIEU

בינה מלאכותית (AI) מביאה עמה ערכים רבים, במיוחד כיום משולבת על ידי עסקים רבים כדי לשרת משתמשי קצה כמו עובדי חברות, לקוחות... מכאן, מערכות צ'אטבוט משולבות בינה מלאכותית יכולות להפוך ל"דלת צרה" שתעזור להאקרים לתקוף ולגנוב מידע על מערכות אחסון נתונים.

"כיום, ישנן שיטות רבות לתקיפת מודלים של בינה מלאכותית, כאשר הנפוצה שבהן היא 'הרעלת תוכן', שנראית כ'בלתי נראית' למערכות הגנת מידע מסורתיות", הזהיר מר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam, באירוע OpenInfra & Cloud Native Day Vietnam 2025 שנערך ב-26 ביולי בהאנוי .

האירוע אורגן על ידי איגוד האינטרנט של וייטנאם (VIA) בתיאום עם קהילת התשתיות הפתוחות של וייטנאם (VietOpenInfra), ומועדון מחשוב הענן ומרכזי הנתונים של וייטנאם (VNCDC), בתמיכת משרד המדע והטכנולוגיה .

90% מהעסקים משתמשים בפלטפורמות או תוכנות פתוחות

בנאום הפתיחה שלו, הדגיש מר וו דה בינה - סגן נשיא ומזכיר כללי של איגוד האינטרנט של וייטנאם - את חשיבותן של תשתית פתוחה וקוד פתוח בתהליך הטרנספורמציה הדיגיטלית הלאומית.

בהקשר של שינויים מהירים בטכנולוגיה העולמית, אמר מר בינה כי תשתית פתוחה ממשיכה להתפתח כבסיס לחדשנות כאשר יותר מ-90% מהעסקים משתמשים בפלטפורמות או תוכנה פתוחות בצורות רבות.

על פי סקר של רד האט (2024), 82% ממובילי הטכנולוגיה רואים בפלטפורמות פתוחות ובתוכנה מפתח להנעת טרנספורמציה דיגיטלית ולהאצת חדשנות. פלטפורמות כמו Kubernetes, OpenStack, Linux, Ceph ו-OpenTelemetry ממלאות תפקיד חשוב יותר ויותר בהפעלת בינה מלאכותית, IoT, מערכות 5G/6G וכן Cloud Native.

"לפני 10 שנים, אפשר היה לטעות ולחשוב שענן הוא ענן בשמיים, וקוד פתוח נשמע כמו 'סוד של אומנויות לחימה'. אבל היום, אנחנו כאן, מתחברים לקהילת התשתיות הפתוחות העולמית ביותר מ-180 מדינות, ויחד הופכים שורות קוד לכוח מניע לחדשנות", שיתף מר וו דה בינה.

צ'אטבוט מבוסס בינה מלאכותית - "דלת צרה" עבור האקרים לחדור למערכת

"כיום, עסקים רבים מיישמים באופן משמעותי את יעילותן של פלטפורמות פתוחות ורספונסיביות המשלבות מערכות כמו צ'אטבוטים מבוססי בינה מלאכותית כדי לשפר את ביצועי העבודה ולשפר את חוויית המשתמש."

גם מכאן, שיטות רבות של תקיפה על מודלים של בינה מלאכותית, כולל התקפות "הרעלת תוכן", הזהיר מר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam.

הוא ציין כי עסקים וייטנאמים, כאשר פורסים בינה מלאכותית, עדיין לא יודעים הרבה על סוג זה של התקפה.

בהתאם לכך, גורמים רעים משתמשים בשיטה של ​​שאילת מידע כוזב ולימוד מחדש של מודל הבינה המלאכותית ללא הרף, מה שגורם ל"הרעלת" מידע.

אם המידע במערכת הענן "נדבק" ולא זוהה וממשיך להיות בשימוש, היא תמסור מידע שגוי או תנצל את הפגיעות הזו כדי להתגנב לתוך מסד הנתונים לצורך קבלת מידע.

מר דאו וייט הונג, מנהל המדינה של Akamai Technologies Vietnam - צילום: CHI HIEU

מר דאו וייט הונג ציטט סיפור נדיר שבו מערכת צ'אט בוט למכירות מקוונות של חברת רכב שוכנעה למכור מכונית חדשה תמורת דולר אחד בלבד.

הסיבה היא שבמהלך תהליך חילופי הדברים והמשא ומתן עם הצ'אטבוט, לקוח זה מצא דרך "להתגנב" לתוך מסד הנתונים ולשכנע את הצ'אטבוט להסכים לבקשה הנ"ל.

דוגמה נוספת היא כאשר האקר הצליח להשיג את כל המסמכים הסודיים ותרשימי הארגון של החברה, רק על ידי ניסוח השאלות הנכונות ושליחתן לצ'אטבוט הפנימי של הבינה המלאכותית.

מתוך סיכון זה, מר דאו וייט הונג שיתף את פתרון האבטחה של בינה מלאכותית כדי שבינה מלאכותית תוכל להגן עליה, זוהי צורה המשמשת ארגונים גדולים רבים בעולם .

בשיטת אבטחה זו, הנתונים המאוחסנים משלבים שכבות הגנה מרובות, מה שמקשה על "הידבקות".

מערכת האבטחה מבוססת הבינה המלאכותית יכולה לזהות איזה מידע נקי ואיזה מידע קיים סיכון פוטנציאלי לתקיפה, ומכאן תהיה לה תוכנית טיפול מהירה ומתאימה...

חזרה לנושא

אדיקות בנים

מקור: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm