אתגרים רבים של בינה מלאכותית בעידן החדש

[מודעה_1]

ככל שבינה מלאכותית הופכת לנגישה יותר, עם יותר ויותר אנשים פרטיים ועסקים המשתמשים בבינה מלאכותית באמצעות כלים נפוצים... האקרים יכולים גם להפוך התקפות לאוטומטיות, להאיץ פעולות ולפרוס קמפיינים מורכבים יותר כדי להשיג את מטרותיהם הבלתי חוקיות.

קספרסקי חושפת סוגי מתקפות סייבר באמצעות בינה מלאכותית

אלו סוגי ההתקפות ש-Kaspersky זיהתה: ניתן להשתמש ב-ChatGPT לפיתוח תוכנות זדוניות ולפריסה אוטומטית של התקפות על מספר קורבנות; תוכנות בינה מלאכותית חודרות לנתוני משתמשים בסמארטפונים, ובאמצעות תהליך ניתוח נתונים רגישים, יכולות "לקרוא" לחלוטין הודעות, סיסמאות וקודי בנק של קורבנות; אלגוריתמים של בינת נחיל עוזרים לרשתות מחשבים אוטומטיות (bonets) לשחזר רשתות זדוניות שחוסלו על ידי פתרונות אבטחה.

המחקר של קספרסקי על שימוש בבינה מלאכותית לפיצוח סיסמאות מראה שרוב הסיסמאות מוצפנות באמצעות אלגוריתמי גיבוב כמו MD5 ו-SHA. פעולה פשוטה יכולה להפוך סיסמה לזרם של טקסט מוצפן, אך היפוך התהליך הוא אתגר גדול.

באמצעות בינה מלאכותית, גורמים פושעים יכולים לנצל תוכן הונאה, כולל טקסט, תמונות, אודיו ווידאו , כדי להפעיל התקפות הנדסה חברתית. מודלים של שפה גדולה כמו ChatGPT-4o משמשים ליצירת סקריפטים והודעות פישינג מתוחכמות ביותר. בינה מלאכותית, המתגברת על מחסומי שפה, יכולה לכתוב אימייל אמיתי, המבוסס רק על מידע ברשתות חברתיות. בינה מלאכותית יכולה אפילו לחקות את סגנון הכתיבה של הקורבן. זה מקשה עוד יותר על זיהוי התנהגות פישינג.

במקביל, דיפפייק קיים כ"בעיה" באבטחת הסייבר, למרות שבעבר נחשב לתוצר של מחקר מדעי . התחזות לסלבריטאים למטרות רווח כספי היא השיטה הנפוצה ביותר, לאחר מכן, נוכלים משתמשים גם בדיפפייק כדי לגנוב חשבונות, לבצע שיחות מזויפות לחברים ולקרובי משפחה של קורבנות כדי להשתלט על רכוש.

בנוסף לניצול טכנולוגיית בינה מלאכותית לפעילויות בלתי חוקיות, רשעים יכולים גם לתקוף אלגוריתמים של בינה מלאכותית. כגון התקפות "הזרקה מיידית" (Prompt Injection) על ידי הזנת פקודות זדוניות למודלי שפה גדולים, אפילו בניגוד לכללים שהוגבלו בעבר; התקפות עוינות על ידי הוספת שדות מידע נסתרים לתמונות או אודיו, כדי להשפיע על יכולת סיווג התמונות של מערכת למידת מכונה.

בינה מלאכותית משולבת בהדרגה בכל היבט של חיי האדם, החל מ-Apple Intelligence, Google Gemini ועד Microsoft Copilot. לכן, טיפול בפגיעויות של בינה מלאכותית צריך להיות בראש סדר העדיפויות. קספרסקי משתמשת בטכנולוגיית בינה מלאכותית כדי להגן על לקוחות ושותפים במשך שנים רבות, מחפשת באופן רציף אחר פגיעויות במערכות בינה מלאכותית, מגבירה את חוסן המערכת וחוקרת באופן פעיל טכניקות למתקפות סייבר כדי לספק הגנה אמינה מפני מתקפות בינה מלאכותית.

קים טהאן

[מודעה_2]
מקור: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html