בינה מלאכותית הופכת לנשק לוחמה פסיכולוגית עבור פושעי סייבר

(דן טרי) - בינה מלאכותית הופכת לכלי מפחיד עבור פושעי סייבר, המסוגלת ליצור תרחישי דיפפייק ולמניפולציה של הפסיכולוגיה של הקורבנות.

מייג'ור גנרל לה שואן מין, מנהל מחלקת אבטחת הסייבר ומניעת פשעי טכנולוגיה עילית, דיבר באירוע (צילום: NCA).

בבוקר ה-15 בנובמבר, תחרות הסטודנטים בתחום אבטחת הסייבר לשנת 2025 נכנסה רשמית לסיבוב הגמר.

התחרות אורגנה על ידי האיגוד הלאומי לביטחון סייבר, בחסות משרד הביטחון הציבורי ומשרד החינוך וההכשרה. במסגרת האירוע התקיים דיון בנושא הגנה על יחידים וארגונים מפני מתקפות סייבר בעידן הדיגיטלי: זיהוי ותגובה יזומה לסיכונים פוטנציאליים.

בדיון, ד"ר הוין טי טאן בין, סגנית מנהל בית הספר לטכנולוגיית מידע ותקשורת , אוניברסיטת המדע והטכנולוגיה של האנוי , שיתפה את סיפורה של סטודנטית בינלאומית שהכירה, אשר נלכדה לאחרונה בהונאת טכנולוגיה מתוחכמת ביותר.

במקרה, הנוכל התחזה לשוטר והאשים את הקורבן באופן שקרי במעורבות בעסקת סמים.

הם לא רק ביצעו מניפולציות וביקשו מהקורבנות להעביר כסף לצורך חקירה, אלא גם החריפו את מצבם הפסיכולוגי עד כדי אילוץ "להתפשט" כדי לצלם תמונות, ואז השתמשו בתמונות הרגישות הללו כדי לסחוט את המשפחה.

מומחים בדיון (צילום: NCA).

הסיפור מתאר מציאות מפחידה: בינה מלאכותית (AI) הפכה רשמית לנשק של לוחמה פסיכולוגית.

אלו כבר לא הונאות מבודדות. מר נגו טואן אנה, המנכ"ל של חברת אבטחת המידע של וייטנאם, אמר כי בתוך שנה אחת בלבד, מספר מתקפות הפישינג מבוססות בינה מלאכותית גדל פי 20.

למה בינה מלאכותית כל כך מסוכנת?

קולונל ד"ר נגוין הונג קוואן, ראש מחלקת אבטחת מידע והגנת מידע אישי באיגוד הלאומי לאבטחת סייבר, אמר כי טכנולוגיית דיפפייק זקוקה כעת רק לכ-30 שניות כדי לחקות קול אנושי.

מר נגו מין הייאו, מנהל הארגון למניעת הונאות, חולק את אותה דעה ואמר כי פושעי סייבר כיום אינם בהכרח חייבים להיות האקרים מצטיינים. כעת, הם יכולים לשכור כלי בינה מלאכותית שתוכננו במיוחד.

"כיום יש שוק תת-קרקעי שלם שבו בינה מלאכותית מותאמת לפושעים ונמכרת בחבילות חודשיות בדיוק כמו שמשתמשי ChatGPT משלמים."

"תמורת 200-300 דולר בלבד לחודש, כל אחד יכול להחזיק בכלי בינה מלאכותית שמרכיב באופן אוטומטי סקריפטים של הונאה, מסנן קורבנות ואפילו יוצר וירוסים המכילים קוד זדוני כמו תוכנת כופר", שיתף מר הייאו.

פיתיון רווחי עבור האקרים

אחת החזיתות הקשות ביותר במלחמת הבינה המלאכותית היא זיהוי דיגיטלי (eKYC). בווייטנאם יש כיום עד 27 מיליון חשבונות פתוחים באמצעות זיהוי אלקטרוני. זהו "פיתיון שמן" בעיני ההאקרים.

מר פאן טרונג קוואן, ראש מחלקת הערכת אבטחת מידע בקבוצת VNPT , הסביר כי פושעים אינם משתמשים עוד בטריקים בסיסיים כמו הדבקת מספרי זיהוי או קודי QR על מסמכים מזויפים. כעת, הם משתמשים בטכנולוגיית דיפפייקים כדי להעתיק את חלק הזיהוי.

השיטה המתוחכמת ביותר היא מתקפת "Man-in-the-Middle". כאשר המשתמש מבצע אימות וידאו כגון סיבוב פניו או קריאת פקודות, ההאקר יעמוד באמצע כדי שיוכל להתערב בנתונים המועברים.

"הם מוסיפים סרטוני דיפ-פייק מוכנים מראש, מחליפים את זרם הנתונים האמיתי של המשתמש כדי לעקוף את האימות. המערכת הבנקאית והפיננסית 'תראה' פנים מזויפות אך תאמינו שהן אמיתיות", הזהיר מר קוואן.

לדברי מר וו דוי היין, סגן מזכ"ל האיגוד הלאומי לאבטחת סייבר, סטודנטים הם הכוח החלוצי בחזית ההגנה על הריבונות הדיגיטלית הלאומית (צילום: NCA).

הפתרון היחיד להתקפות במהירות מכונה הוא להשתמש ב"מגן" שפועל גם הוא במהירות מכונה. מומחים אומרים שזו מלחמה עם בינה מלאכותית.

מר פאן טרונג קוואן חשף כיצד VNPT מתחזקת מחדש את הבינה המלאכותית לצורך הגנה. במקום רק לנתח תמונות פנים, המערכת של VNPT משתמשת בבינה מלאכותית כדי לזהות התנהגות חריגה.

הטכנולוגיה מבוססת על ביומטריה התנהגותית - ניתוח פרטים זעירים שבני אדם לא יכולים לתפוס, אבל בינה מלאכותית כן.

בינה מלאכותית תנתח את האופן שבו משתמשים מחזיקים את הטלפון. למשתמש אמיתי יהיו רעידות ותנועה טבעיות. במקביל, האופן שבו אצבעות המשתמש מקיימות אינטראקציה עם המסך ייצור אזורי חום שונים. בינה מלאכותית תלמד את ההרגל הזה כדי להבדיל בין אנשים אמיתיים לבוטים.

כל הנתונים הללו מוזנים ל"מנוע למידת מכונה" המשתמש ברשתות נוירונים. אם הבינה המלאכותית מזהה שההתנהגות הנוכחית שונה באופן חריג מנתונים היסטוריים, היא תחסום את החשבון, ותנעל את סשן המסחר לפני שייגרם נזק כלשהו.

הגורם החלש ביותר הוא אנשים

עם זאת, אפילו "מגן" הבינה המלאכותית החזק ביותר הופך לחסר תועלת אם בני אדם פותחים את הדלת בפני אויבים.

מומחים מסכימים: אנשים הם החוליה החלשה ביותר בכל מודל ארגוני הגנתי.

מר הואנג מאן דוק, ראש קבוצת המחקר לאבטחת מערכות באוניברסיטת FPT, אמר כי מודל ההגנה "חומה גבוהה, חפיר עמוק" מיושן. עידן הענן וה-IoT דורש אסטרטגיה חדשה: "אפס אמון".

הפילוסופיה של אפס אמון היא שלא נסמוך על אף חיבור, על אף מכשיר, בין אם פנימי או חיצוני, כולם חייבים לעבור אימות קפדני ביותר.

אבל טכנולוגיה היא רק חלק מהמשוואה. נגוין דוק דוי, מהנדס פתרונות בכיר ב-Huawei וייטנאם, הדגיש את החשיבות של גיבויים בלתי ניתנים לשינוי - כלומר, לא ניתן להחליף אותם, למחוק אותם או לשנות אותם - בשילוב עם מחיצות מבודדות לחלוטין כדי להבטיח שניתן יהיה לשחזר נתונים תמיד לאחר מתקפת כופרה.

ד"ר דואן טרונג סון, מנהל תוכנית אבטחת הסייבר באוניברסיטת פניקא, ציין כי הבעיה של וייטנאם היא היעדר "תרבות אבטחת הסייבר".

תרבות זו אינה עניין טכנולוגי בלבד, זוהי עניין של אנשים, ויש ליישם אותה מלמעלה למטה, החל ממודעות המנהיגות.

המאבק להגנת הסייבר של וייטנאם הוא חזית חדשה במאבק להגנת המולדת. כדי לנצח, וייטנאם פועלת על פי שלושת עמודי התווך: טכנולוגיה, חוק וחשוב מכל, אנשים.

מקור: https://dantri.com.vn/cong-nghe/ai-dang-tro-thanh-vu-khi-chien-tranh-tam-ly-cua-toi-pham-mang-20251115171410658.htm