אתגרים רבים עבור בינה מלאכותית בעידן החדש.

ככל שבינה מלאכותית הופכת לנגישה יותר, ויותר אנשים ועסקים משתמשים בבינה מלאכותית באמצעות כלים נפוצים, האקרים יכולים בו זמנית להפוך התקפות לאוטומטיות, להאיץ תהליכים תפעוליים ולפרוס קמפיינים מתוחכמים יותר כדי להשיג את מטרותיהם הבלתי חוקיות.

קספרסקי חושפת סוגי מתקפות סייבר המונעות על ידי בינה מלאכותית.

להלן כמה משיטות התקיפה ש-Kaspersky זיהתה: ניתן להשתמש ב-ChatGPT לפיתוח תוכנות זדוניות ולפריסה אוטומטית של התקפות על מספר קורבנות; תוכנות בינה מלאכותית חודרות לנתוני משתמשים בסמארטפונים, ובאמצעות ניתוח של נתונים רגישים, תוקפים יכולים "לגנוב" לחלוטין הודעות, סיסמאות וקודי בנק מקורבנות; אלגוריתמים של בינת נחיל עוזרים לרשתות מחשבים לשחזר באופן אוטומטי (bonet) רשתות זדוניות שחוסלו על ידי פתרונות אבטחה.

מחקר של קספרסקי על שימוש בבינה מלאכותית לפיצוח סיסמאות מצביע על כך שרוב הסיסמאות מוצפנות באמצעות אלגוריתמי גיבוב כמו MD5 ו-SHA. לכן, פעולה פשוטה יכולה להפוך סיסמה לשורת טקסט מוצפנת, אך היפוך התהליך כולו הוא אתגר משמעותי.

באמצעות בינה מלאכותית, גורמים זדוניים יכולים לנצל תוכן הונאה, כולל טקסט, תמונות, אודיו ווידאו , כדי להפעיל התקפות לא טכניות. מודלים של שפה גדולה כמו ChatGPT-4o משמשים ליצירת תרחישי פישינג והודעות מתוחכמות ביותר. בינה מלאכותית, המתגברת על מחסומי שפה, יכולה לכתוב אימייל שנראה אותנטי המבוסס אך ורק על מידע מרשתות חברתיות. היא יכולה אפילו לחקות את סגנון הכתיבה של הקורבן, מה שמקשה עוד יותר על גילוי ההונאה.

בינתיים, טכנולוגיית דיפפייק צצה כ"בעיה" בתחום אבטחת הסייבר, למרות שנחשבה בעבר לתוצר של מחקר מדעי . התחזות לסלבריטאים למטרות רווח כספי היא השיטה הנפוצה ביותר; יתר על כן, נוכלים משתמשים בדיפפייק כדי לגנוב חשבונות ולבצע שיחות התחזות לחברים וקרובי משפחה של הקורבנות כדי לסחוט כסף.

מלבד ניצול טכנולוגיית בינה מלאכותית לפעילויות בלתי חוקיות, גורמים זדוניים יכולים גם לתקוף אלגוריתמים של בינה מלאכותית. זה כולל התקפות "הזרקה מיידית", שבהן פקודות זדוניות מוזרקות למודלי שפה גדולים, אפילו בניגוד לכללים שהוגבלו בעבר; והתקפות עוינות, שבהן שדות מידע נסתרים מתווספים לתמונות או אודיו כדי להשפיע על יכולות סיווג התמונות של מערכות למידת מכונה.

בינה מלאכותית משולבת יותר ויותר בכל היבט של חיי האדם, החל מ-Apple Intelligence ו-Google Gemini ועד Microsoft Copilot. לכן, טיפול בפגיעויות של בינה מלאכותית צריך להיות בראש סדר העדיפויות. קספרסקי משתמשת בטכנולוגיית בינה מלאכותית כדי להגן על לקוחותיה ושותפיה במשך שנים רבות, מחפשת באופן רציף אחר פגיעויות במערכות בינה מלאכותית כדי להגביר את עמידותן וחוקרת באופן פעיל טכניקות למתקפות סייבר כדי לספק הגנה אמינה מפני התקפות מבוססות בינה מלאכותית.

קים טהאן

מקור: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html