אבטחת בינה מלאכותית: חרב פיפיות

בינה מלאכותית (AI) מעצבת מחדש כל היבט של החיים, ואבטחת סייבר אינה יוצאת דופן. עם זאת, ההתפתחות המהירה של טכנולוגיה זו מציבה פרדוקס גדול: בינה מלאכותית היא גם מגן ההגנה החזק ביותר וגם כלי הנשק המסוכן ביותר להתקפה. באירוע BSides Hanoi 2025 תחת הכותרת "AI Hack You", התכנסו מומחים מובילים כדי "לנתח" את טבעה של חרב פיפיות זו, ולשרטט תמונה פנורמית של לוחמת סייבר בעידן החדש.

לדברי מר וו דוי היין, סגן מזכ"ל וראש המשרד של האיגוד הלאומי לאבטחת סייבר, בינה מלאכותית היא כיום אחת הטכנולוגיות שממלאות תפקיד חשוב במיוחד, התומכות באנשים פרטיים ובעסקים בתחומים רבים ומסייעות לעיבוד עבודה מהר ויעיל יותר. עם זאת, בתחום אבטחת הסייבר, בינה מלאכותית היא חרב פיפיות.

בינה מלאכותית - "שומר ראש" חכם

אין להכחיש שבינה מלאכותית עושה צעדים גדולים בתעשיית אבטחת הסייבר. "מצד שני, בינה מלאכותית עוזרת לנו לזהות התקפות מוקדם, לנתח נתונים ולחזק את הגנות הרשת. כלי אבטחה חכמים רבים שנוצרו הודות לבינה מלאכותית הפחיתו משמעותית את זמן התגובה לאיומים", אישר מר וו דוי היין.

מר וו דוי היי - סגן מזכ"ל וראש משרד, האיגוד הלאומי לאבטחת סייבר - בסדנה.

כוח זה מודגם בבירור באמצעות שיתוף של גב' הוין נגוק חאן מין, חברה ברשת ללא מטרות רווח Anti-Phishing. היא אמרה שבעבר, כאשר עבודת האנטי-פישינג הסתמכה בעיקר על תהליכים ידניים, מומחים היו צריכים לאמת כל קישור חשוד בנפרד, מה שגרם לעיכוב עצום בעשרות אלפי הדיווחים ביום.

כדי להתגבר על מגבלה זו, צוות מניעת ההונאות פיתח כלי בינה מלאכותית חדש. "המשתמשים רק צריכים להדביק את הקישור, הבינה המלאכותית תבדוק ותציג את התוצאות באופן אוטומטי תוך 30 שניות עד דקה אחת בדיוק של עד 98% ", אמרה גב' חאן מין. " הודות לכך, זמן האימות מתקצר עשרות פעמים בהשוואה לבעבר, מה שעוזר לאנשים לזהות ולמנוע באופן יזום את הסיכון להונאה מקוונת ביעילות ובחינם לחלוטין."

ברחבי העולם , פלטפורמות אבטחת סייבר מובילות גם שילבו באופן עמוק בינה מלאכותית. מערכת Darktrace משתמשת בבינה מלאכותית בעלת למידה עצמית כדי לבנות "מערכת חיסונית" לעסקים, תוך זיהוי אוטומטי של האנומליות הקטנות ביותר שיכולות להוות סימנים להתקפה לא ידועה. באופן דומה, פלטפורמת CrowdStrike Falcon משתמשת בלמידת מכונה וניתוח התנהגותי כדי למנוע התקפות מתוחכמות, במקום להסתמך אך ורק על "חתימות" ידועות של תוכנות זדוניות.

כלים אלה מראים כיצד בינה מלאכותית מסייעת לאנשי מקצוע בתחום אבטחת הסייבר לעבור ממצב ריאקטיבי למצב פרואקטיבי, ולעצור איומים לפני שהם עלולים לגרום נזק.

בינה מלאכותית - נשק בידי הרעים

הצד השני של המטבע מבריק לא פחות. היכולות המעולות של הבינה המלאכותית הן שהפכו אותה לכלי נחשק עבור פושעי סייבר. מר וו דוי היין ציין: "מצד שני, פושעי סייבר משתמשים בבינה מלאכותית גם כדי לפתח צורות מתוחכמות יותר של התקפה, המסוגלות להתגבר על שכבות רבות של הגנה מסורתית. לכן, המהירות, ההיקף והדיוק של מתקפות הסייבר גדלו באופן דרמטי."

התקפות פישינג מותאמות אישית עמוקות: בעזרת מודלים של שפה גדולה (LLMs), האקרים יכולים ליצור סדרה של מיילים והודעות עם שפה טבעית והקשר המתאימים לכל מטרה, מה שיגרום אפילו למשתמשים הזהירים ביותר להתאהב בהם.

עלייתן של דיפ-זייק: פושעי סייבר יכולים לזייף את קולו או סרטון הווידאו של מנכ"ל כדי לבקש העברות כספים דחופות. מקרה מפורסם אחד כלל פושעים שהשתמשו בבינה מלאכותית כדי לזייף את קולו של מנכ"ל חברת אנרגיה בריטית כדי להונות בהצלחה 243,000 דולר.

תוכנה זדונית פולימורפית: ניתן להשתמש בבינה מלאכותית כדי ליצור תוכנה זדונית שיכולה לשנות אוטומטית את קוד המקור שלה לאחר כל הדבקה, מה שהופך תוכנות אנטי-וירוס מסורתיות לבלתי יעילות.

אוטומציה של תהליך ההתקפה: האקרים יכולים לפרוס בינה מלאכותית כדי לסרוק באופן אוטומטי מיליוני מערכות לאיתור פגיעויות, לבצע התקפות מניעת שירות מבוזרות (DDoS) או לפרוץ סיסמאות במהירויות מסחררות, מה שמגביר את היקף ההתקפה פי כמה.

הגורם האנושי והמרוץ האינסופי

לנוכח מציאות זו, מומחים מסכימים כי מלחמת הסייבר בעידן הבינה המלאכותית היא מרוץ בין "בינה מלאכותית טובה" ל"בינה מלאכותית רעה". ובלב המרוץ הזה, הגורם האנושי הופך לחשוב עוד יותר.

מר טרונג דוק לואונג, יו"ר חברת המניות המשותפת לאבטחת סייבר של וייטנאם (VSEC), אמר כי עם 22 שנות ניסיון, הוא הבין את היעדר הזדמנויות לשיתוף פעולה ושיתוף ידע מעמיק בין צוות אבטחת הסייבר הווייטנאמי לעולם, בעוד שקהילת הביטחון הבינלאומית פעילה מאוד. עובדה זו מציבה צורך דחוף בבניית קהילה חזקה.

בתגובה לדאגה זו, אמר מר וו דוי היין: "בינה מלאכותית היא מגמה בלתי הפיכה, ולכן במקום לדאוג, קהילת הסייבר צריכה לשתף פעולה, לשתף חוויות ולבנות יחד מערכת אקולוגית הגנה בטוחה שמתאימה את עצמה לעידן החדש."

בנוסף, האתגר אינו רק בצד הטכני. לדברי עורכת הדין נהי פאם, למרות שלווייטנאם יש מסמכים משפטיים, החקירה והטיפול עדיין מתמודדים עם אתגרים רבים מכיוון שהפרות לעיתים קרובות חוצות גבולות, מה שמקשה על איתור והחזרת נכסים. לדבריה, כדי למזער סיכונים, חיוני שיתוף פעולה הדוק והבנה הדדית בין הצוותים הטכניים והמשפטיים.

בסופו של דבר, המפתח לניצחון הוא לשפר באופן מתמיד את היכולות שלכם. מר היין הדגיש כי מניעת פשעי סייבר בעידן הבינה המלאכותית דורשת מכל משתמש ומכל עסק לעדכן כל הזמן את הטכנולוגיה, ובפרט, מומחי אבטחת סייבר צריכים לשפר את יכולותיהם המקצועיות ולפתח פתרונות חדשים ופרואקטיביים.

החרב הפיפיות של הבינה המלאכותית הציבה אתגר עצום אך גם הזדמנות חסרת תקדים לתעשיית הסייבר. עתיד המרחב הקיברנטי תלוי באופן שבו נשתמש ונשלט בכלי רב עוצמה זה. העימות בין בינה מלאכותית הגנתית לבינה מלאכותית התקפית יהיה מרוץ חימוש אינסופי, והניצחון יהיה שייך רק לצד שמוכן טוב יותר, משתף פעולה בצורה הדוקה יותר, ולומד וחדש כל הזמן.

הוי קוואנג

מקור: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html