משטרת הו צ'י מין סיטי: היזהרו מ"הצד האפל" של טכנולוגיית יצירת וידאו מבוססת בינה מלאכותית Veo 3

למרות שלא תועדו מקרים של הונאה באמצעות טכנולוגיית יצירת וידאו מבוססת בינה מלאכותית Veo 3, משטרת הו צ'י מין סיטי ממליצה לאנשים להיות ערניים מכיוון שטכנולוגיה זו עלולה להיות מנוצלת על ידי אנשים רשעים לביצוע מעשים בלתי חוקיים.

טכנולוגיית בינה מלאכותית חדשה ליצירת וידאו מציעה הזדמנויות רבות למשתמשים, אך גם מציבה סיכונים.

ב-9 ביולי, משטרת הו צ'י מין סיטי מסרה כי באמצעות עבודת קבלת הדיווחים וגינוי פשעים, לא תועדו מקרים של הונאה באמצעות טכנולוגיית יצירת הווידאו AI Veo 3. עם זאת, אנשים צריכים להיות ערניים יותר מכיוון שמלבד ההיבטים החיוביים, טכנולוגיה זו עלולה להיות מנוצלת על ידי אנשים רעים לביצוע מעשים בלתי חוקיים.

על פי מחלקת אבטחת הסייבר ומניעת פשיעה טכנולוגית מתקדמת (PA05) של משטרת הו צ'י מין סיטי, יישומי בינה מלאכותית גנרטיביים - הידועים גם בשם בינה מלאכותית (כגון Swapface, SoraAI, ChatGPT, Deepseek...) המאפשרים למשתמשים ליצור סרטונים, תמונות, שידורים חיים עם שינויי קול ושינויי פנים - הפכו פופולריים יותר ויותר.

בסוף מאי 2025, גוגל הוציאה את כלי Google Veo 3, טכנולוגיית יצירת וידאו מבוססת בינה מלאכותית חדשה, אשר גורמת לסערה בפלטפורמות רשתות חברתיות פופולריות כמו פייסבוק, X... עם היכולת ליצור תמונות, תוכן ותנועות של דמויות ורקעים כאחד, ובמיוחד היכולת ליצור באופן אוטומטי אפקטים קוליים ודיבוב לפי דרישה, מה שמקשה על צופים רבים להבחין אם מדובר במוצר בינה מלאכותית או בסצנה אמיתית.

מלבד ההשפעות החיוביות (פוטנציאל גדול ביצירת תוכן, חינוך , קולנוע, מדיה...), טכנולוגיה זו יכולה להיות מנוצלת על ידי נושאים לביצוע מעשים בלתי חוקיים.

לדוגמה, מתמונתו של אדם, אנשים רעים יכולים לנצל את טכנולוגיית Veo 3 כדי "לחלץ" באופן אוטומטי מידע חשוב רב כגון: זיהוי הפנים של בעל התמונה; המיקום הגיאוגרפי שאליו האדם בתמונה נוטה להגיע; מוצרים ושירותים בהם נעשה שימוש תכוף; הרגלי חיים... ובכך לשחזר את הפנים והקול עם תמונות וצלילים בלבד שנלקחו מהמרחב הקיברנטי; מכאן ליצור "עותק דיגיטלי" ריאליסטי.

טריק מוכר של נוכלים המשתמשים בטכנולוגיית בינה מלאכותית הוא שלאחר יצירת "עותק דיגיטלי", הם יבקשו ממישהו להתחזות לקרוב משפחה או לרשות מוסמכת (משטרה, בית משפט, משרד התובע, משרד המס, בית חולים וכו') שיקיים שיחת וידאו ויבקש מהם לעשות כמתבקש או שיעמיד פנים שהוא נכנס לפאניקה ויזעיק עזרה דחופה כדי לנצל את חרדת הקורבן; ברגע שהקורבן העביר את הכסף, הנוכל "נעלם" מיד.

בנוסף, אנשים רעים יכולים להשתמש בכלי זה גם למטרות בלתי חוקיות אחרות כגון: תוכן פורנוגרפי, הפצת מידע כוזב... כדי לסחוט רכוש.

על פי PA05, בתקופה הקרובה, הרעים ימשיכו לנצל את התפתחות המדע והטכנולוגיה כדי לנצל, להפעיל ולבצע מעשים בלתי חוקיים. בינתיים, הידע והמודעות של אנשים לזיהוי, מניעה עצמית וערנות עדיין מוגבלים.

על מנת לשפר את יעילות המאבק בפעילויות הונאה של גניסת נכסים במרחב הקיברנטי בתקופה הקרובה, משטרת העיר תמשיך לדווח למשרד לביטחון פנים כדי לייעץ למפלגה ולמדינה לשכלל את המסגרת המשפטית, ניהול הביטחון והסדר על ידי המדינה, ולגייס את ההמונים להשתתף בתנועת העם כולו להגנה על הביטחון הלאומי ברמה העממית כדי להעלות את המודעות והערנות, ולהגביר את היעילות במניעה וגילוי של פעילויות הונאה של גניסת נכסים במרחב הקיברנטי.

בנוסף, משטרת הו צ'י מין סיטי ממליצה לאנשים על הדברים הבאים:

היו ערניים מפני הודעות ושיחות ממספרים לא ידועים בנוגע למצבים בלתי צפויים; בדקו, אימות וקבעו בקפידה את דיוק המידע; אין להקשיב להוראות, אין לפעול לפיהן, אין להעביר כסף כמתבקש על ידי אנשים רעים, אין לגשת לקישורים ממקור לא ידוע שנשלחו בהודעות, מיילים וכו'.

הגבל פרסום תוכן הקשור למידע אישי בפלטפורמות רשתות חברתיות ציבוריות... כדי למנוע גניבה של מידע כגון תמונות, סרטונים וקולות על ידי אנשים רעים; במקביל, הגדר חשבונות רשתות חברתיות אישיות למצב פרטי כדי להגן על מידע; התקן אפליקציות מקוונות רק ממקורות רשמיים של מערכת ההפעלה של הטלפון (CH Play, AppStore).

במקרה של גילוי כי הונאת או חשד כי הונאת בשיטה הנ"ל, עליך לדווח בהקדם לתחנת המשטרה הקרובה לקבלת סיוע ופתרון מהירים.

דן טואן - צ'או טואן

מקור: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm