משטרת הו צ'י מין סיטי: היזהרו מ"הצד האפל" של טכנולוגיית יצירת וידאו מבוססת בינה מלאכותית Veo 3.

למרות שטרם תועדו מקרי הונאה באמצעות טכנולוגיית יצירת הווידאו Veo 3 מבוססת בינה מלאכותית, משטרת הו צ'י מין סיטי קוראת לאזרחים להיות ערניים מכיוון שטכנולוגיה זו עלולה להיות מנוצלת על ידי פושעים לביצוע מעשים בלתי חוקיים.

טכנולוגיות חדשות ליצירת וידאו מבוססות בינה מלאכותית מציעות הזדמנויות רבות למשתמשים אך גם מהוות סיכונים פוטנציאליים.

ב-9 ביולי, משטרת הו צ'י מין סיטי הודיעה כי, בהתבסס על דיווחים וגינויים של פשעים, לא תיעדו מקרי הונאה באמצעות טכנולוגיית יצירת הווידאו הבינה המלאכותית Veo 3. עם זאת, על הציבור להישאר ערני מכיוון שבנוסף להיבטיה החיוביים, טכנולוגיה זו עלולה להיות מנוצלת על ידי פושעים לביצוע מעשים בלתי חוקיים.

על פי מחלקת אבטחת הסייבר ומניעת פשיעה טכנולוגית מתקדמת (PA05) של משטרת הו צ'י מין סיטי, יישומי בינה מלאכותית גנרטיביים (כגון Swapface, SoraAI, ChatGPT, Deepseek וכו') המאפשרים למשתמשים ליצור סרטונים, תמונות ושידורים חיים עם קולות ופנים משתנים הופכים פופולריים יותר ויותר.

בסוף מאי 2025, גוגל הוציאה את Google Veo 3, כלי חדש ליצירת סרטונים מבוססי בינה מלאכותית שזוכה כעת לתהודה בפלטפורמות מדיה חברתית פופולריות כמו פייסבוק ונטפליקס. יכולתו ליצור תמונות, תוכן ותנועה הן לדמויות והן לרקעים, ובמיוחד היכולת לייצר באופן אוטומטי אפקטים קוליים וקריינות לפי דרישה, מקשה על צופים רבים להבחין בין תוכן שנוצר על ידי בינה מלאכותית לבין צילומים אמיתיים.

מלבד השפעותיה החיוביות (פוטנציאל גדול ביצירת תוכן, חינוך , קולנוע, מדיה וכו'), טכנולוגיה זו יכולה להיות מנוצלת על ידי אנשים פרטיים לביצוע מעשים בלתי חוקיים.

לדוגמה, מתמונתו של אדם, גורמים זדוניים יכולים לנצל את טכנולוגיית Veo 3 כדי לחלץ באופן אוטומטי מידע חשוב כגון: תווי פניו של האדם; המיקומים הגיאוגרפיים בהם הוא מבקר לעתים קרובות; המוצרים והשירותים בהם הוא משתמש לעתים קרובות; הרגלי היומיום שלו וכו', ובכך לשחזר את פניו וקולו באמצעות תמונות וצלילים שנלקחו מהאינטרנט בלבד; ובכך ליצור "שיבוט דיגיטלי" מציאותי.

טקטיקה נפוצה בה משתמשים נוכלים המשתמשים בטכנולוגיית בינה מלאכותית היא ליצור "שיבוט דיגיטלי" ולגרום למתחזה להתחזות לקרוב משפחה או פקיד (משטרה, בית משפט, משרד תובע, משרד מס, בית חולים וכו') כדי לבצע שיחות וידאו, לדרוש פעולות ספציפיות או להעמיד פנים של פאניקה ומצוקה דחופה כדי לנצל את חרדת הקורבן; ברגע שהקורבן מעביר כסף, הנוכל נעלם מיד.

בנוסף, פושעים יכולים להשתמש בכלי זה גם למטרות בלתי חוקיות אחרות כגון: הפצת תוכן פורנוגרפי, הפצת מידע שגוי וכו', כדי לסחוט כסף.

על פי PA05, בעתיד, פושעים ימשיכו לנצל את ההתקדמות במדע ובטכנולוגיה כדי לבצע פעילויות בלתי חוקיות. בינתיים, הידע והמודעות של הציבור לזיהוי, מניעה וערנות מפני פעילויות כאלה נותרו מוגבלים.

על מנת לשפר את יעילות המאבק בהונאות מקוונות וגניבת רכוש בתקופה הקרובה, משטרת העיר תמשיך לדווח למשרד לביטחון פנים כדי לייעץ למפלגה ולמדינה בנוגע לשכלול המסגרת המשפטית וניהול המדינה של ביטחון וסדר, ולגייס את הציבור להשתתף בתנועה הארצית להגנה על הביטחון הלאומי ברמה העממית, ובכך להעלות את המודעות ולהגביר את היעילות במניעה וגילוי של הונאות מקוונות וגניבת רכוש.

בנוסף, משטרת הו צ'י מין סיטי מייעצת לאזרחים בנוגע לנקודות הבאות:

היזהרו מהודעות ושיחות ממספרים לא ידועים המכילים מידע בלתי צפוי; בדקו, אימות ואישור קפדניים של דיוק המידע; אין להקשיב, לפעול לפי הוראות או להעביר כסף כפי שנדרש על ידי נוכלים, ואל תיגשו לקישורים ממקורות לא ידועים שנשלחו בהודעות או בדוא"ל.

הגבל פרסום תוכן המכיל מידע אישי בפלטפורמות מדיה חברתית ציבוריות כדי למנוע אפשרות של גורמים זדוניים לגנוב מידע כגון תמונות, סרטונים והקלטות קול; במקביל, הגדר את חשבונות המדיה החברתית האישיים שלך למצב פרטי כדי להגן על המידע שלך; והתקן אפליקציות מקוונות רק מהמקורות הרשמיים של מערכת ההפעלה של הטלפון שלך (CH Play, AppStore).

במקרה שגיליתם או חושדים כי הונאתם באמצעות השיטות הנ"ל, עליכם לדווח על כך מיד לתחנת המשטרה הקרובה ביותר לקבלת סיוע ופתרון מהירים.

דן טואן - צ'או טואן

מקור: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm