משטרת הו צ'י מין סיטי: היזהרו מ"הצד האפל" של טכנולוגיית יצירת וידאו מבוססת בינה מלאכותית Veo 3

למרות שלא תועדו מקרים של הונאה באמצעות טכנולוגיית יצירת וידאו מבוססת בינה מלאכותית Veo 3, משטרת הו צ'י מין סיטי ממליצה לאנשים להיות ערניים מכיוון שטכנולוגיה זו עלולה להיות מנוצלת על ידי אנשים רשעים לביצוע מעשים בלתי חוקיים.

טכנולוגיית בינה מלאכותית חדשה ליצירת וידאו מציעה הזדמנויות רבות למשתמשים אך גם מציבה סיכונים

ב-9 ביולי, משטרת הו צ'י מין סיטי מסרה כי באמצעות עבודת קבלת הדיווחים וגינוי פשעים, לא תועדו מקרים של הונאה באמצעות טכנולוגיית יצירת הווידאו AI Veo 3. עם זאת, אנשים צריכים להיות ערניים גם מכיוון שמלבד ההיבטים החיוביים, טכנולוגיה זו עלולה להיות מנוצלת על ידי אנשים רעים לביצוע מעשים בלתי חוקיים.

על פי מחלקת אבטחת הסייבר ומניעת פשיעה טכנולוגית מתקדמת (PA05) של משטרת הו צ'י מין סיטי, יישומי בינה מלאכותית גנרטיביים - הידועים גם בשם בינה מלאכותית (כגון Swapface, SoraAI, ChatGPT, Deepseek...) המאפשרים למשתמשים ליצור סרטונים, תמונות, שידורים חיים עם שינויי קול ושינויי פנים - הפכו פופולריים יותר ויותר.

בסוף מאי 2025, גוגל הוציאה את Google Veo 3, טכנולוגיית יצירת וידאו חדשה מבוססת בינה מלאכותית שגורמת לסערה בפלטפורמות רשתות חברתיות פופולריות כמו פייסבוק, X... עם היכולת ליצור תמונות, תוכן ותנועות של דמויות ורקעים כאחד, ובמיוחד היכולת ליצור באופן אוטומטי אפקטים קוליים וקריינות לפי דרישה, מה שמקשה על צופים רבים להבחין אם מדובר במוצר בינה מלאכותית או בסצנה אמיתית.

מלבד ההשפעות החיוביות (פוטנציאל גדול ביצירת תוכן, חינוך , קולנוע, מדיה...), טכנולוגיה זו יכולה להיות מנוצלת על ידי נושאים לביצוע מעשים בלתי חוקיים.

לדוגמה, מתמונתו של אדם, אנשים רעים יכולים לנצל את טכנולוגיית Veo 3 כדי "לחלץ" באופן אוטומטי מידע חשוב רב כגון: פניו של בעל התמונה; המיקום הגיאוגרפי בו האדם בתמונה מבקר לעתים קרובות; מוצרים ושירותים בהם נעשה שימוש תכוף; הרגלי חיים... ובכך לשחזר את הפנים והקול עם תמונות וצלילים בלבד שנלקחו מהמרחב הקיברנטי; מכאן ליצור "עותק דיגיטלי" ריאליסטי.

טריק מוכר של נוכלים המשתמשים בטכנולוגיית בינה מלאכותית הוא שלאחר יצירת "עותק דיגיטלי", הם יבקשו ממישהו להתחזות לקרוב משפחה או לגוף ממשלתי (משטרה, בית משפט, משרד התובע, משרד המס, בית חולים וכו') לבצע שיחת וידאו ולבקש מהם לעשות כמתבקש או להעמיד פנים שהם נכנסים לפאניקה ולהזעיק עזרה דחופה כדי לנצל את חרדת הקורבן; ברגע שהקורבן העביר את הכסף, הנוכל "נעלם" מיד.

בנוסף, אנשים רעים יכולים להשתמש בכלי זה גם למטרות בלתי חוקיות אחרות כגון: תוכן פורנוגרפי, הפצת מידע כוזב... כדי לסחוט רכוש.

על פי PA05, בתקופה הקרובה, הרעים ימשיכו לנצל את התפתחות המדע והטכנולוגיה כדי לנצל, להפעיל ולבצע מעשים בלתי חוקיים. בינתיים, הידע והמודעות של אנשים לזיהוי, מניעה עצמית וערנות עדיין מוגבלים.

על מנת לשפר את יעילות המאבק בפעילויות הונאה של הפקעת נכסים במרחב הקיברנטי בתקופה הקרובה, משטרת העיר תמשיך לדווח למשרד לביטחון פנים כדי לייעץ למפלגה ולמדינה להשלמת המסדרון המשפטי, את עבודת ניהול הביטחון והסדר על ידי המדינה, את עבודת גיוס ההמונים להשתתפות בתנועת העם כולו להגנה על הביטחון הלאומי ברמה העממית כדי להעלות את המודעות והערנות, ולהגביר את היעילות במניעה ובגילוי של פעילויות הונאה של הפקעת נכסים במרחב הקיברנטי.

בנוסף, משטרת הו צ'י מין סיטי ממליצה לאנשים על הדברים הבאים:

היו ערניים מפני הודעות ושיחות ממספרים לא ידועים המכילים תוכן על מצבים בלתי צפויים; בדקו, אימות וקבעו בקפידה את דיוק המידע; בהחלט אל תקשיב, אל תפעל לפי הוראות, אל תעביר כסף כפי שנדרש על ידי אנשים רעים, אל תיגשו לקישורים ממקור לא ידוע שנשלחו בהודעות, מיילים וכו'.

הגבל פרסום תוכן הקשור למידע אישי בפלטפורמות רשתות חברתיות ציבוריות... כדי למנוע מקרים בהם אנשים רעים גונבים מידע כגון תמונות, סרטונים, קולות; במקביל, הגדר חשבונות רשתות חברתיות אישיות למצב פרטי כדי להגן על מידע; התקן אפליקציות מקוונות רק ממקורות רשמיים של מערכת ההפעלה של הטלפון (CH Play, AppStore).

במקרה של גילוי הונאה או חשד להונאה באמצעות הטריקים הנ"ל, עליך לדווח במהירות למשטרה הקרובה ביותר לקבלת תמיכה ופתרון בזמן.

דן טואן - צ'או טואן

מקור: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm