בינה מלאכותית אפלה פועלת מחוץ לתקני הבטיחות, ולעתים קרובות מאפשרת התנהגויות כמו הונאה, מניפולציה, מתקפות סייבר או ניצול נתונים ללא פיקוח הדוק.
"גורמים זדוניים גם מנצלים בינה מלאכותית כדי לשפר את יכולות ההתקפה שלהם. השימוש לרעה הנפוץ ביותר בבינה מלאכותית כיום הוא הופעתם של מודלים של Black Hat GPT. אלו מודלים של בינה מלאכותית שפותחו או שונו במיוחד כדי לשרת מטרות לא חוקיות כגון יצירת תוכנות זדוניות, ניסוח הודעות דוא"ל פישינג, יצירת סרטוני קול וסרטוני דיפ-פייק...", שיתף סרגיי לוז'קין, ראש צוות המחקר והניתוח הגלובלי (GReAT) למזרח התיכון, טורקיה, אפריקה ואסיה פסיפיק בקספרסקי.
מודלים של בינה מלאכותית מסוג Black Hat יכולים להתקיים כמודלים פרטיים לחלוטין או חצי-פרטיים של בינה מלאכותית. כמה דוגמאות בולטות כוללות את WormGPT, DarkBard, FraudGPT ו-Xanthorox, כולם נועדו לשרת פעילויות אוטומציה זדוניות של פשעי סייבר, הונאה ואוטומציה זדונית.
לוז'קין חשף כי מומחי קספרסקי צופים כעת במגמה מדאיגה אף יותר: קבוצות מתקפות סייבר הנתמכות על ידי המדינה או הממשלה מתחילות למנף מודלים של שפה גדולה (LLMs) בקמפייני התקיפה שלהן.
"OpenAI הודיעה לאחרונה כי סיכלה יותר מ-20 קמפיינים של השפעה חשאית ומתקפות סייבר שניצלו את כלי הבינה המלאכותית שלה. נצטרך להתמודד עם תוקפים מתוחכמים יותר ויותר אשר משתמשים בבינה מלאכותית כנשק, והופכים לאיום במערכות אקולוגיות ציבוריות ופרטיות כאחד. זוהי מגמה מדאיגה שכל הארגונים צריכים להיערך אליה", שיתף לוז'קין.
על פי דו"ח של OpenAI, גורמים זדוניים החלו לנצל את היכולות של מודלים גדולים של למידת מכונה (LLM) כדי להונות קורבנות ולעקוף שכבות אבטחה קונבנציונליות. הם יכולים ליצור הודעות מזויפות משכנעות, לשלוח הודעות המוניות לקורבנות ולייצר תוכן במספר שפות.
כדי לשפר את ההגנות מפני איומי בינה מלאכותית אפלה, מומחי קספרסקי ממליצים: שימוש בפתרונות אבטחה מהדור הבא כמו Kaspersky Next כדי לזהות תוכנות זדוניות שנוצרו על ידי בינה מלאכותית ולשלוט בסיכוני שרשרת האספקה; יישום כלי מודיעין איומים בזמן אמת כדי לנטר ניצול פגיעויות המונעות על ידי בינה מלאכותית; חיזוק בקרת הגישה והכשרת הצוות כדי להגביל את סיכוני בינה מלאכותית צללית ודליפת נתונים; והקמת מרכז פעולות אבטחה (SOC) כדי לנטר איומים ולהגיב במהירות לאירועים.
מקור: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html
תגובה (0)