הדואליות של הבינה המלאכותית

בינה מלאכותית (AI) פותחת הזדמנויות רבות, אך היא גם הופכת לכלי מסוכן כאשר היא מנוצלת ליצירת סרטוני דיפפייק מזויפים, מעוותים את תדמית המשטרה והממשלה ומעוררים את דעת הקהל. קליפים ערוכים ומתוחכמים אלה לא רק פוגעים באמון ברשויות, אלא גם מהווים צורה מתוחכמת של לוחמה פסיכולוגית במרחב הקיברנטי.

הגיע הזמן שכל משתמש יהפוך ל"מגן דיגיטלי", יהיה ערני, ערני ואחראי לכל קליק ושיתוף.

יתרונות וקו דק מבינה מלאכותית

בינה מלאכותית מעולם לא הייתה קרובה יותר לחיים מאשר היום. בכמה לחיצות בלבד, פקודה קצרה יכולה ליצור קולות, תמונות, אפילו סרטונים עם ריאליזם מדהים. בינה מלאכותית מסייעת לחסוך זמן, להפחית עלויות ייצור תוכן ולפתוח את עידן המדיה הדיגיטלית הגמישה.

עם זאת, היכולת "לדמות באופן ריאליסטי" הפכה לחרב פיפיות. לאחרונה, ברשתות החברתיות מופיעים באופן שוטף סרטונים שנוצרו מטכנולוגיית דיפ-פייק, בהם פניהם של ראשי משטרה, תמונות של כוחות פעילים במקרים רגישים... נחתכות ומודבקות, מדובבות בקולות מעוותים כדי לגרום לאי הבנה ולפלג אנשים.

תמונות מבוימות כאלה מופיעות יותר ויותר ברשתות החברתיות.

בקליפ שהופץ בטיקטוק, תמונה של שוטר תנועה בתפקיד שולבה עם דיאלוג פוגעני, יחד עם ההאשטאג "קנס למען האמת" כדי לרמוז שהשוטר מנצל לרעה את כוחו למטרות רווח אישי. משתמשים רבים, במיוחד צעירים, האמינו בקלות לתוכן הזה מכיוון שהתמונה הייתה כל כך ריאליסטית, הקול היה כל כך קרוב לצורת הפה עד שקשה מאוד להבחין בין אמיתי למזויף.

רק משום שרצה "להשוויץ" ביכולתו ליישם טכנולוגיית בינה מלאכותית, יוטיובר צעיר מדיין ביין נאלץ לשלם את המחיר בקנס מנהלי ונאלץ להתנצל בפומבי. אחר הצהריים של ה-24 בינואר, הודיעה משטרת מחוז דיין ביין כי מחלקת אבטחת הסייבר ומניעת פשיעה בתחום ההיי-טק הוציאה החלטה לקנוס מנהלי את טונג ואן ט. (יליד 2001, תושב מחוז מונג אנג) בסכום של 7.5 מיליון דונג וינדי על שימוש בבינה מלאכותית ליצירת סרטון מזויף עם תוכן מעוות והעלבת כוח משטרת התנועה.

באופן ספציפי, ב-7 בינואר, העלה טי. לחשבון היוטיוב "Tuyền Vlog" סרטון באורך של יותר מ-3 דקות עם הכותרת המזעזעת: "בזמן שביליתי, רדפו אחריי משטרת התנועה". בקליפ, תמונות וסיטואציות בוימו באמצעות טכנולוגיית בינה מלאכותית, המדמים משטרת תנועה רודפת אחרי אנשים, בשילוב עם אפקטים והערות פוגעניות ומשמיצות את הרשויות.

בשיתוף פעולה עם המשטרה, הודה ט. שכל תוכן הסרטון היה מוצר מזויף שמטרתו "בידור" והדגמת יכולת שימוש בטכנולוגיית בינה מלאכותית. בנוסף לקנס, ביקשו הרשויות מט. להסיר את הסרטון השקרי הנ"ל ולהתנצל בפומבי בפני משטרת התנועה בערוץ היוטיוב האישי שלו.

בעידן של פיצוץ הטכנולוגיה הדיגיטלית , ובמיוחד ההתפתחות המהירה של הבינה המלאכותית, כוחות עוינים וריאקציונריים לא היססו לנצל את הכלי הזה כדי ליצור תמונות וסיפורים מפוברקים במטרה לעוות ולהשמיץ את תדמיתם של כוחות הביטחון הציבוריים של העם הוייטנאמי. התמונה שהופצה לאחרונה ברשתות החברתיות, שבה אישה בהריון במדי משטרה מאוימת על ידי שני גברים בעלי מבטים "גנגסטרים", היא הדגמה ברורה של הטריק הזה.

התמונה שנוצרה על ידי בינה מלאכותית הפכה ויראלית ברשתות החברתיות לאחרונה.

במבט ראשון, צופים יכולים בקלות לטעות ולחשוב שמדובר בסצנה אמיתית, מלווה בכותרת סנסציונית כמו: "ילד מסכן מציל שוטרת בהריון ממכות גנגסטרים, פותח באופן בלתי צפוי תיק שמזעזע את כל המדינה...". עם זאת, למעשה מדובר בסצנה מבוימת, אולי מסרט או ממוצר בידור, או גרוע מכך, תמונה שנוצרה על ידי בינה מלאכותית כדי להערים על רגשות הקוראים, מה שמוביל אותם לרחמים ולפקפק באותנטיות של פעולות אכיפת החוק.

מדאיג עוד יותר, הפצת תוכן כזה לא רק פוגעת במוניטין ובתדמית של כוחות הביטחון הציבוריים של העם, המגנים על הביטחון והסדר בחברה יומם ולילה, אלא גם מהווה צורה מתוחכמת של לוחמה פסיכולוגית. כאשר אמון העם ברשויות נשחק על ידי דימויים כוזבים, המטרה העמוקה של כוחות עוינים לפלג את גוש האחדות הלאומי הגדול תתממש בהדרגה.

לכן, כל אזרח צריך להגביר את ערנותו, לגלות חשיבה ביקורתית ומיומנויות לזיהוי מידע כוזב, ולגנות ולהפריך בנחישות תוכן כוזב, ובכך לתרום להגנה על היסודות האידיאולוגיים ולשמירה על יציבות חברתית כנגד גל המידע הרעיל הנוכחי במרחב הקיברנטי.

בהו צ'י מין סיטי, סרטון בן כמעט דקה הפך לפתע ויראלי ברשתות החברתיות, ובו תיעד סצנה של אדם במדי משטרה "סוחט הודאה" ממפגע במשרד. בסרטון, האדם הנחשב לשוטר נוקט בגישה קשה, צועק וגער ללא הרף, ואף משתמש במילים גסות, מה שגרם לזעם בקרב הציבור.

עם זאת, מיד לאחר שהסרטון הפך ויראלי, משטרת הו צ'י מין סיטי חקרה במהירות ואישרה שמדובר במוצר דיפפייק מתוחכם. על פי המסקנה, הפנים בסרטון נלקחו מהקלטה של ​​ועידה פנימית של המשטרה, ולאחר מכן השתמשו בטכנולוגיית בינה מלאכותית על ידי רשעים כדי להכניס אותן לסצנה מבוימת, מה שגרם לצופים להאמין בטעות שמדובר בפעולה אמיתית.
בפרט, האודיו הנלווה כולל קול מאיים ומעליב שאינו למעשה דבריו האמיתיים של אף פקיד, אלא קול סינתטי של בינה מלאכותית, שתוכנת וערוך כדי להטעות את רגשות הצופה.

התקרית היא דוגמה אופיינית לשימוש בטכנולוגיית דיפפייקים כדי לעוות ולהשמיץ את כוחות הביטחון הציבוריים של העם, טריק שמנוצל יותר ויותר על ידי כוחות ריאקציונריים ואנטי-ממשלתיים במרחב הקיברנטי. ראוי לציין שאם מוצרים מזויפים כאלה לא נחשפים במהירות, הם עלולים להוביל לתוצאות חמורות: ערעור אמון הציבור בכוחות אכיפת החוק, הסתה להתנגדות בקהילה ויצירת תנאים להפצת טיעונים כוזבים. זוהי אזהרה ברורה לגבי הדחיפות בשיפור יכולת התקשורת להפריך, לזהות ולהילחם בחדשות כוזבות, ובמקביל קריאה לכל אזרח להיות ערני ולא למהר לשתף או להגיב על תוכן לא מאומת ממקורות רשמיים.

במקרה נוסף שנערך לאחרונה, הקשור לטיפול בהפרות במרכז בדיקת רכב בדרום, נושאים עוינים הפיצו סרטון מזויף של מפקד משטרה מחוזי מדבר להגנתם של שוטרים שגויים. סרטון זה הופץ בטלגרם וברשתות החברתיות תחת הכותרת "מגובה בכוחות חזקים", אך למעשה, הוא היה תוצר של בינה מלאכותית, ולא הופיע כלל באף מסיבת עיתונאים או מסמך רשמי.

מגמה מסוכנת מתפשטת בשקט במרחב הקיברנטי, והיא שאנשים רעים משתמשים בטכנולוגיית בינה מלאכותית כדי ליצור סרטונים מזויפים למטרות הונאה וסחיטה. לאחרונה, אנשים רבים הפכו לקורבנות כאשר תמונותיהם, במיוחד אלו של אנשים יוקרתיים כמו עורכי דין, רופאים ואנשי עסקים, נערכות לסרטוני פרסום "המחזירים כסף שהוטעה באינטרנט".

בקטעים אלה, בינה מלאכותית משמשת לזיוף קולו ופניו של עורך הדין, ובכך גורמת לאמון הצופים, ובכך מספקת בקלות מידע אישי או מעבירת כסף לנוכל. באופן מסוכן יותר, חלק מהנבדקים משתמשים גם בטכנולוגיית דיפ-זיוף כדי להכניס את פני הקורבן לסרטוני מין, ואז לשלוח אותם לנשותיהם, לבעליהם או לעמיתיהם במטרה לאיים עליהם ולאלץ אותם להעביר כסף כדי "לשמור על העניין בסוד".

אירוע מזעזע התרחש במרץ 2025, כאשר קורבן בהאנוי התבקש להעביר עשרות מיליוני דונג לאחר שקיבל סרטון סקס מזויף עם תמונה שלו. בינתיים, בהו צ'י מין סיטי, אדם נוסף נסחט בסכום של עד 2 מיליארד דונג אם לא רצה שהסרטון הרגיש יתפשט. משרד הביטחון הציבורי התערב, וזיהה קבוצות פשע בינלאומיות רבות, בעיקר מסין ומדרום מזרח אסיה, מאחורי הקווים הללו ומשתמשות בכרטיסי סים גרועים, ארנקים אלקטרוניים ופלטפורמות רשתות חברתיות כדי להסתיר את זהותן.

זה כבר לא הונאה בקנה מידה קטן, אלא סוג של "לוחמה פסיכולוגית מתקדמת", המנצלת לעומק את הפחד מכבוד ומיחסים חברתיים כדי להפעיל לחץ על הקורבן. אם לא תגבירו את הערנות, את כישורי הזיהוי שלכם ואת ההתנהגות יוצאת הדופן, כל אחד יכול להפוך ל"טרף" בידי פושעים המשתמשים בטכנולוגיה מתקדמת. לנוכח גל זיופים מתוחכם זה, כל אזרח צריך להיות ערני, בהחלט לא לשתף מידע אישי ללא הבחנה ולהיות מוכן להשמיע את קולו כדי לגנות מעשים בלתי חוקיים, ולתרום להגנה על בטיחותו ובטיחותו של הקהילה.

נדרש "מגן דיגיטלי" מהקהילה כדי להילחם באיום של דיפ-פייק.

על פי נתוני משרד הרדיו, הטלוויזיה והמידע האלקטרוני (משרד התרבות, הספורט והתיירות), בשנת 2024, פלטפורמות דיגיטליות בווייטנאם נאלצו להסיר יותר מ-4,000 סרטונים המכילים מידע כוזב ומעוות, שרובם היו מוצרים שנוצרו מטכנולוגיית בינה מלאכותית כמו דיפפייק, שיבוט קולי... טיקטוק לבדה - פלטפורמה פופולרית בקרב צעירים - התבקשה להסיר יותר מ-1,300 סרטוני דיפפייק, הקשורים בעיקר למשטרה, לממשלה ולמדיניות חברתית.

בעידן של פיצוץ טכנולוגי, בינה מלאכותית פותחת פוטנציאל פורץ דרך, אך טומנת בחובה גם סכנות חסרות תקדים, במיוחד מוצרים מזויפים בעלי תוכן מעוות, הפוגעים במוניטין של גופים ציבוריים. סקר של מכון המחקר MICRI למדיה מראה כי: 62% ממשתמשי המדיה החברתית בווייטנאם אינם יכולים להבחין בין אמיתי למזויף ללא אזהרות מצד התקשורת המרכזית או הרשויות. זהו "פער קוגניטיבי" שכוחות רעים מנצלים באופן יסודי כדי להפיץ מידע כוזב, מה שגורם להפרעה חברתית-פסיכולוגית.

טונג ואן ט. בתחנת המשטרה.

לדברי האלוף דו קאן טין, פרופסור חבר, מומחה לקרימינולוגיה, שימוש בבינה מלאכותית כדי ליצור סרטונים מזויפים של מנהיגים, לערוך הצהרות כוזבות או לעוות את הפעולות המקצועיות של כוחות המשטרה הוא טריק חדש אך מסוכן במיוחד. "דיפפייק אינו רק מוצר בידורי, אלא סוג של לוחמת מידע מודרנית, המסוגלת להרוס אמון, לגרום לחוסר יציבות חברתית וקשה מאוד לשליטה", העיר האלוף דו קאן טין.

למעשה, סרטונים שעברו מניפולציות על ידי בינה מלאכותית אינם מזיקים, אך לעתים קרובות נוגעים בנושאים רגישים כמו טיפול בהפרות, חקירת פשעים, מאבק בשחיתות וכו', מה שגורם לבלבול וחשדנות בקרב אנשים כלפי אכיפת החוק. מדאיג עוד יותר, סרטונים רבים משותפים בפלטפורמות מרכזיות כמו יוטיוב וטיקטוק עם מאות אלפי צפיות לפני שהם מוסרים, מה שיוצר אפקט ויראלי שלילי.

מומחה המדיה הדיגיטלית הואנג מין מזהיר: "עם שיתוף אחד או לייק אחד מבלי להיזהר, אתה יכול להפוך למקדם חדשות מזויפות. כל משתמש אינטרנט צריך להבין שלהתנהגות במרחב הדיגיטלי יש גם השלכות של ממש."

בהקשר זה, מה שנדרש יותר מתמיד הוא לבנות "מגן דיגיטלי" מפני הקהילה עצמה: כלומר, ערנות, חסינות מפני מידע ואחריות על סביבת הרשת. טכנולוגיה אולי ניטרלית, אך האופן שבו אנשים משתמשים בה יקבע האם בינה מלאכותית תהפוך לכוח מניע לפיתוח או לכוח שהורס את האמון החברתי. שמירה על החזית האידיאולוגית, הגנה על תדמיתו של חייל ביטחון הציבור של העם, היא הגנה על יסודות הביטחון הלאומי, משימה לא רק של המגזר הפונקציונלי, אלא גם של כל אזרח בעידן הדיגיטלי.

מקור: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html