קספרסקי מזהירה מפני פושעי סייבר המשתמשים בבינה מלאכותית אפלה לתקיפה

ב-15 באוגוסט, חברת האבטחה קספרסקי פרסמה אזהרה כי מתקפות סייבר הופכות מתוחכמות יותר וקשות יותר לגילוי עקב עליית הבינה המלאכותית האפלה (שימוש בבינה מלאכותית למטרות זדוניות, הפרת החוק...) באזור אסיה-פסיפיק (APAC).

נציג חברת האבטחה קספרסקי מספק מידע על פושעי סייבר המשתמשים בבינה מלאכותית אפלה לתקיפה

בינה מלאכותית אפלה פועלת מחוץ לנורמות הבטיחות, ומאפשרת לעתים קרובות התנהגויות כמו הונאה, מניפולציה, מתקפות סייבר או כריית נתונים ללא פיקוח הדוק.

"גורמים פושעים משתמשים גם בבינה מלאכותית כדי לשפר את יכולות ההתקפה שלהם. ניצול לרעה הנפוץ ביותר של בינה מלאכותית כיום הוא הופעתם של מודלים של Black Hat GPT. אלו מודלים של בינה מלאכותית שפותחו או הותאמו במיוחד למטרות בלתי חוקיות כגון יצירת תוכנות זדוניות, ניסוח הודעות דוא"ל פישינג, יצירת קולות וסרטוני דיפ-פייק...", אמר סרגיי לוז'קין, ראש צוות המחקר והניתוח הגלובלי (GReAT) האחראי על המזרח התיכון, טורקיה, אפריקה ואסיה- פסיפיק בקספרסקי.

מודלים של Black Hat GPT יכולים להתקיים כמודלים של בינה מלאכותית פרטיים לחלוטין או חצי פרטיים. כמה דוגמאות בולטות כוללות את WormGPT, DarkBard, FraudGPT ו-Xanthorox... כולם מיועדים לפשעי סייבר, הונאה ואוטומציה זדונית.

מר לוז'קין גילה כי מומחי קספרסקי רושמים כעת מגמה מדאיגה אף יותר, כאשר קבוצות מתקפות סייבר הנתמכות על ידי מדינות או ממשלות מתחילות למנף מודלים של שפה גדולה (LLMs) בקמפייני התקיפה שלהן.

"OpenAI הודיעה לאחרונה כי שיבשה יותר מ-20 קמפיינים של השפעה חשאית ומתקפות סייבר שניצלו את כלי הבינה המלאכותית שלה. נראה תוקפים מתוחכמים יותר ויותר שמנצלים בינה מלאכותית, ומהווים איום על מערכות אקולוגיות ציבוריות ופרטיות כאחד. זוהי מגמה מדאיגה שכל הארגונים צריכים להיערך אליה", אמר לוז'קין.

גורמים זדוניים החלו לנצל את היכולות של מודלים גדולים של למידת מכונה (LLM) כדי להונות קורבנות ולעקוף שכבות אבטחה קונבנציונליות, על פי דיווח של OpenAI. הם יכולים ליצור הודעות מזויפות משכנעות, לשלוח הודעות לקורבנות בכמות גדולה ולייצר תוכן במספר שפות.

כדי לחזק את ההגנות מפני איומי בינה מלאכותית אפלה, מומחי קספרסקי ממליצים על: שימוש בפתרונות אבטחה מהדור הבא כמו Kaspersky Next כדי לזהות תוכנות זדוניות שנוצרו על ידי בינה מלאכותית ולשלוט בסיכונים בשרשרת האספקה. יישום כלי מודיעין איומים בזמן אמת כדי לנטר פרצות מונעות על ידי בינה מלאכותית. חיזוק בקרות גישה והכשרת עובדים כדי להגביל את בינה מלאכותית השקופה ואת הסיכון לדליפת נתונים. הקמת מרכז פעולות אבטחה (SOC) כדי לנטר איומים ולהגיב במהירות לאירועים.

בא טאן

מקור: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html