מה שאתם רואים ושומעים לא בהכרח נכון בעידן הבינה המלאכותית.

מומחי אבטחת סייבר מזהירים כי בינה מלאכותית וטכנולוגיית Deepfake הופכות הונאות למתוחכמות יותר, מכיוון שהן יכולות בקלות לחקות קולות ופנים כדי להונות משתמשים.

"מה שאתם רואים במו עיניכם לא בהכרח נכון, וגם מה שאתם שומעים בקול לא בהכרח נכון. ככל שהמצב דחוף יותר, כך עלינו לאמת ולבדוק יותר", אמר מומחה אבטחת הסייבר נגו מין הייאו (Hieu PC) בפורום Digital Trust in Finance 2026, תחת הכותרת "בניית אמון דיגיטלי במימון בעידן הבינה המלאכותית", ב-12 במאי.

מומחה אבטחת הסייבר נגו מין הייאו (Hieu PC) מדבר בפורום.

לדברי המומחה נגו מין הייאו, ההתפתחות המהירה של בינה מלאכותית ו-Deepfake הופכת הונאות מקוונות למתוחכמות יותר, שכן פושעי סייבר יכולים לזייף פנים, קולות, הבעות פנים ואפילו רקעים כדי לתמרן את הקורבנות.

"בעבר, חשבנו שמה שראינו ושמענו אמיתי, אז האמנו לזה מיד. אבל עכשיו בינה מלאכותית יכולה לזייף הכל, החל מפנים וקולות ועד הבעות", אמר, והוסיף כי הנזק הגדול ביותר מדיפפייק הוא לא רק כסף, אלא גם אובדן אמון המשתמשים.

"כאשר עבריינים מנצלים גורמים פסיכולוגיים ואמונות, הם יכולים לפתות קורבנות לפלטפורמות השקעה הונאה או לתפוס את נכסיהם", הוסיף.

קל לגשת לעומק זיופים, אך קשה לאתר אותם.

לדברי מומחה אבטחת הסייבר נגו מין הייאו, טכנולוגיית דיפפייק נגישה מאוד כיום. כלים רבים בקוד פתוח או שירותים זולים מאפשרים לפושעי סייבר ליצור סרטונים מזויפים מתמונת פורטרט בלבד.

"עם תמונה בלבד, אפשר להחליף פנים, לזייף קולות ולבצע שיחות דרך FaceTime, Zalo או WhatsApp", הוא אמר.

בפורום, מר הייאו הדגים תוכנת דיפפייק המסוגלת לשנות פנים בזמן אמת במהלך שיחות וידאו. טכנולוגיה זו מנוצלת על ידי אנשים רבים כדי להתחזות לפקידי ממשלה, קרובי משפחה או "נסיכים מקסימים" כדי להונות אנשים ולגרום להם לחוות אהבה וכסף.

הוא גם הזהיר את המשתמשים שהם חושפים יותר מדי מידע אישי ברשתות החברתיות: "אנחנו מפרסמים תמונות, סרטונים והקלטות קול ברשתות החברתיות כל יום. אנשים רבים אפילו לא מפרסמים, אבל החברים שלהם מפרסמים עבורם. ניתן לאסוף את הנתונים האלה ממקורות שונים כדי ליצור דיפפייקס."

המומחה ציין גם כי על הורים לנקוט משנה זהירות בעת פרסום תמונות של ילדיהם ברשתות החברתיות, שכן פושעי סייבר יכולים לנצל נתונים אלה לסחיטה או "חטיפה מקוונת".

לדברי מר נגו מין הייאו, ההיבט המסוכן ביותר של טכנולוגיית דיפפייק הוא יכולתה להתגבר על "תחושת האמון" של אנשים.

"שיחות וידאו תמיד מעוררות יותר אמון מהודעות טקסט. קולות מוכרים מעוררים יותר ביטחון מטקסט כתוב. פושעי סייבר יוצרים לעתים קרובות מצבי חירום כמו בקשת העברות כספים, קודי OTP או התקנות אפליקציות כדי לתמרן פסיכולוגית את הקורבנות", אמר.

המומחה נגו מין הייאו: ההיבט המסוכן ביותר הוא שדיפפייקס יכולים להתגבר על תחושת האמון של אנשים.

למרות שכיום קשה הרבה יותר לזהות דיפ-זיופים, עדיין ישנם כמה סימנים יוצאי דופן כמו צורות פה לא תואמות, תאורה לא טבעית, דיבור מונוטוני או שיניים מעוותות.

"גוון העור בסרטוני דיפפייק הוא לעתים קרובות חלק מאוד ולא טבעי", אמר המומחה הייאו. עם זאת, הוא מאמין שמשתמשים לא צריכים להתמקד רק בקביעה האם הסרטון אמיתי או מזויף, אלא גם לתהות האם הבקשה בשיחה סבירה.

דליפות נתונים הנגרמות על ידי כלי בינה מלאכותית חינמיים.

בפורום, הזהיר המומחה נגו מין הייאו כי צ'אטבוטים מבוססי בינה מלאכותית הופכים בהדרגה למטרה חדשה עבור האקרים אם למשתמשים חסרות הכישורים להגן על המידע האישי שלהם.

הוא טען כי בינה מלאכותית תומכת כיום מאוד בעבודה, למידה ומחקר. עם זאת, לאנשים רבים יש הרגל להעלות כמויות גדולות של נתונים אישיים כגון תמונות פרטיות, מידע משפחתי, מסמכי עבודה או נתוני עסק לצ'אטבוטים מבלי לצפות את הסיכון לניצול.

יתר על כן, רוב המשתמשים כמעט מעולם לא קראו את תנאי השימוש של פלטפורמות בינה מלאכותית, בעוד שכלים חינמיים רבים יכולים לאסוף נתונים כדי לאמן מודלים או למטרות אחרות.

הסיכונים גוברים עם הופעתן של יישומי בינה מלאכותית חינמיים רבים ממקור לא ידוע, המאפשרים למשתמשים ליצור תמונות, לערוך פנים או להפוך תמונות אמיתיות לדמויות מצוירות. לדברי מר הייאו, זוהי צורה של מניפולציה שמעודדת משתמשים לספק מרצונם נתונים ביומטריים לצדדים שלישיים.

משתמשים עומדים בפני סיכון של חשיפה למידע אישי בעת שימוש בצ'אטבוטים מבוססי בינה מלאכותית חסרי אבטחה. (תמונה להמחשה)

כדי להשתמש בבינה מלאכותית בצורה בטוחה יותר, מומחים ממליצים למשתמשים להימנע מהעלאת מידע רגיש, מסמכים אישיים או נתוני עסק פנימיים לצ'אטבוטים של בינה מלאכותית, במיוחד בפלטפורמות שמפעיליהן אינם ידועים.

על המשתמשים להפעיל תכונות אבטחה כגון מצב צ'אט זמני, מחיקה אוטומטית של היסטוריית שיחות ולהשבית אפשרויות המאפשרות למערכת להשתמש בנתונים לאימון בינה מלאכותית. יש להפעיל גם אימות דו-שלבי כדי להגביל את הסיכון לפריצה לחשבון.

לדברי המומחה נגו מין הייאו, אם האקרים ישתלטו על חשבון צ'אטבוט אישי המבוסס על בינה מלאכותית, הם יוכלו לנצל את כל המידע שהמשתמש שיתף בעבר.

"בעזרת פקודה כמו 'ספר לי כל מה שאתה יודע עליי', בינה מלאכותית יכולה לאסוף לחלוטין הרבה נתונים אישיים של משתמשים", הזהיר מר הייאו.

פורום האמון הדיגיטלי במימון 2026 מאורגן על ידי ברית האמון הדיגיטלי בשיתוף פעולה עם האיגוד הלאומי לאבטחת סייבר ו-MoMo, בחסות משרד הביטחון הציבורי , הבנק הממלכתי של וייטנאם ומשרד האוצר.

האירוע קיבץ מומחים ועסקים מתחומי הפיננסים, הבנקאות והטכנולוגיה כדי לדון בפתרונות להגנה על משתמשים ובניית אמון דיגיטלי בהקשר של בינה מלאכותית המתפתחת במהירות.

גשם פרחים

מקור: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html