הדואליות של הבינה המלאכותית

הגיע הזמן שכל משתמש יהפוך ל"מגן דיגיטלי", שיהיה ערני, ערני ואחראי בכל קליק ושיתוף.

היתרונות והקו הדק של בינה מלאכותית

מעולם לא הייתה בינה מלאכותית קרובה כל כך לחיי היומיום. בעזרת מספר לחיצות ופקודה קצרה, אנו יכולים ליצור קולות, תמונות ואפילו סרטונים בריאליזם מדהים. בינה מלאכותית חוסכת זמן, מפחיתה את עלויות הפקת התוכן ומבשרת עידן של מדיה דיגיטלית גמישה.

עם זאת, עצם היכולת הזו "לדמות את המציאות בצורה ריאליסטית" הפכה לחרב פיפיות. לאחרונה, הרשתות החברתיות הוצפו בסרטונים שנוצרו באמצעות טכנולוגיית דיפ-פייק, שבהם פניהם של ראשי משטרה ותמונות של שוטרים בתיקים רגישים עוברות מניפולציה ומעוותות באמצעות קריינות כדי להטעות ולפלג את הציבור.

תמונות מבוימות כמו אלה הופכות נפוצות יותר ויותר ברשתות החברתיות.

בקליפ ויראלי בטיקטוק, תמונות של שוטר תנועה בתפקיד הוצגו לצד דיאלוג פוגעני, בליווי ההאשטאג "קנסות רק למען הצגה", שרמז כי השוטר ניצל לרעה את כוחו למטרות רווח אישי. משתמשים רבים, במיוחד צעירים, האמינו בקלות לתוכן הזה משום שהוויזואליה הייתה כל כך ריאליסטית, והקול תאם מקרוב את תנועות השפתיים, מה שהקשה מאוד על ההבחנה בין אמיתי למזויף.

יוטיובר צעיר מדיין ביין שילם את המחיר רק בגלל שרצה "להשוויץ" בכישורי טכנולוגיית הבינה המלאכותית שלו, בקנס מנהלי והתנצלות פומבית כפויה. אחר הצהריים של ה-24 בינואר, הודיעה משטרת מחוז דיין ביין כי מחלקת אבטחת הסייבר ומניעת פשיעה בתחום ההיי-טק הטילה קנס מנהלי בסך 7.5 מיליון דונג וינדי על טונג ואן ט. (יליד 2001, תושב מחוז מואנג אנג) בגין שימוש בבינה מלאכותית ליצירת סרטון מפוברק המכיל תוכן מעוות ומעליב על שוטרי תנועה.

באופן ספציפי, ב-7 בינואר, טי. העלתה סרטון באורך של יותר מ-3 דקות לחשבון היוטיוב שלה "Tuyen Vlog" עם הכותרת המזעזעת: "בזמן שהייתי בחוץ, רדפו אחריי משטרת תנועה". בקליפ, התמונות והסיטואציות בויימו באמצעות טכנולוגיית בינה מלאכותית, תוך דימוי משטרת תנועה רודפת אחרי אזרחים, ושולבו עם אפקטים ופרשנות שהיו פוגעניות ומשמיצות את רשויות אכיפת החוק.

בשיתוף פעולה עם המשטרה, הודה ט. שכל תוכן הסרטון היה מוצר מפוברק שנוצר למטרות "בידור" ולהדגמת יכולתו להשתמש בטכנולוגיית בינה מלאכותית. בנוסף לקנס, הורו הרשויות לט. להסיר את הסרטון השקרי ולהתנצל בפומבי בפני משטרת התנועה בערוץ היוטיוב האישי שלו.

בעידן המהפכה הדיגיטלית , ובמיוחד ההתפתחות המהירה של הבינה המלאכותית, כוחות עוינים וריאקציונריים לא היססו לנצל כלי זה כדי ליצור תמונות וסיפורים מפוברקים שמטרתם לעוות ולהכתים את תדמיתה של משטרת העם הווייטנאמית. תמונה שהופצה לאחרונה ברשתות החברתיות, ובה נראית אישה בהריון במדי משטרה מאוימת על ידי שני גברים בעלי מראה "גנגסטר", היא עדות ברורה לטקטיקה זו.

התמונה, שנוצרה באמצעות בינה מלאכותית, הפכה לאחרונה ויראלית ברשתות החברתיות.

במבט ראשון, צופים עלולים בקלות לטעות ולחשוב שמדובר בסצנה אמיתית, מלווה בכותרות סנסציוניות כמו: "ילד מסכן מציל שוטרת בהריון שהותקפה על ידי גנגסטרים, וחושף מבלי דעת מקרה שמזעזע את כל האומה...". עם זאת, למעשה מדובר בסצנה מבוימת, אולי מסרט או מוצר בידור, או גרוע מכך, תמונה שנוצרה על ידי בינה מלאכותית כדי להטעות את רגשות הקורא, מה שגורם לו לחוש רחמים ולפקפק באותנטיות של רשויות אכיפת החוק.

מדאיג עוד יותר, התפשטות תוכן כזה לא רק פוגעת במוניטין ובתדמית של משטרת העם, הפועלת יומם ולילה כדי להגן על ביטחון וסדר החברה, אלא גם מהווה צורה מתוחכמת של לוחמה פסיכולוגית. כאשר אמון העם ברשויות נשחק על ידי דימויים מטעים, יתממשו בהדרגה המניעים הנסתרים של כוחות עוינים לפלג את האחדות הלאומית.

לכן, כל אזרח צריך להגביר את ערנותו, לפתח מיומנויות חשיבה ביקורתית ויכולת לזהות מידע כוזב, ולגנות ולהפריך בנחישות תוכן כוזב, ובכך לתרום להגנה על הבסיס האידיאולוגי ולשמירה על יציבות חברתית נוכח גל המידע המזיק הנוכחי באינטרנט.

בהו צ'י מין סיטי, סרטון וידאו באורך של כמעט דקה הפך באופן בלתי צפוי ויראלי ברשתות החברתיות, ובו נראה אדם במדי משטרה "כופה" חשוד להודות בעבירת תנועה במשרד. בסרטון, האדם הנחשב לשוטר מפגין גישה תוקפנית, צועק ללא הרף ואף משתמש בשפה גסה, מה שגרם לזעם ציבורי.

עם זאת, זמן קצר לאחר שהסרטון הפך ויראלי, משטרת הו צ'י מין סיטי חקרה במהירות ואישרה שמדובר בזיוף עמוק מתוחכם. על פי ממצאיהם, הפרצופים בסרטון חולצו מהקלטה של ועידת משטרה פנימית, ולאחר מכן עברו מניפולציה על ידי אנשים זדוניים באמצעות טכנולוגיית בינה מלאכותית כדי להציב אותם על סצנה מבוימת, מה שהוביל את הצופים להאמין שמדובר באירוע אמיתי.
בפרט, האודיו הנלווה כולל קולות מאיימים ומעליבים שאינם למעשה דבריו האמיתיים של אף פקיד, אלא קולות סינתטיים של בינה מלאכותית, שתוכנתו וערכו כדי להטעות את רגשות הצופה.

תקרית זו היא דוגמה מובהקת לשימוש בטכנולוגיית דיפפייקים כדי לעוות ולהשמיץ את משטרת העם, טקטיקה שמנוצלת יותר ויותר על ידי כוחות ריאקציונריים וחתרניים במרחב הקיברנטי. חשוב לציין שאם מוצרים מזויפים כאלה לא נחשפים במהירות, הם עלולים להוביל לתוצאות חמורות: פגיעה באמון הציבור באכיפת החוק, הסתה להתנגדות בתוך הקהילה והקלה על הפצת נרטיבים כוזבים. אירוע זה משמש כאזהרה ברורה לגבי הצורך הדחוף לשפר את יכולות התקשורת כדי להפריך, לזהות ולהילחם בחדשות כוזבות, וקורא לכל אזרח להיות ערני ולהימנע משיתוף או תגובה חפוזים על תוכן לא מאומת ממקורות רשמיים.

במקרה נוסף שנעשה לאחרונה, בנוגע לטיפול באי סדרים במרכז בדיקת רכב בדרום, גורמים עוינים הפיצו סרטון מזויף של מנהיג משטרת המחוז מדבר להגנתם של הפקידים המושחתים. סרטון זה, שהופץ בטלגרם וברשתות החברתיות תחת הכותרת "מגובה בכוחות רבי עוצמה", היה למעשה תוצר של בינה מלאכותית ולא הופיע באף מסיבה עיתונאים או מסמכים רשמיים.

מגמה מסוכנת מתפשטת בשקט ברשת: גורמים זדוניים משתמשים בטכנולוגיית בינה מלאכותית כדי ליצור סרטונים מזויפים למטרות הונאה וסחיטה. לאחרונה, אנשים רבים הפכו לקורבנות כאשר תמונותיהם, במיוחד אלו של אנשים מכובדים חברתית כמו עורכי דין, רופאים ואנשי עסקים, מועלות על סרטונים המפרסמים "השבת כסף שאבד בהונאות מקוונות".

בקטעים אלה, בינה מלאכותית משמשת לחיקוי קולם ופניהם של עורכי דין, מה שגורם לצופים להאמין לנוכלים ולספק להם בקלות מידע אישי או להעביר להם כסף. באופן מסוכן אף יותר, חלק מהעבריינים משתמשים בטכנולוגיית דיפ-פייק כדי להטמיע את פניהם של הקורבנות על סרטוני מין, ולאחר מכן לשלוח אותם לבני זוג או עמיתים בכוונה לאיים או לאלץ אותם להעביר כסף כדי "לשמור על שקט".

אירוע מזעזע התרחש במרץ 2025, כאשר קורבן בהאנוי התבקשה להעביר עשרות מיליוני דונג לאחר שקיבלה סרטון סקס מזויף בו היא מופיעה. בינתיים, בהו צ'י מין סיטי, אדם נוסף נסחט בסכום של 2 מיליארד דונג אם לא רצה שהסרטון הרגיש יתפשט. משרד הביטחון הציבורי פתח בחקירה, וזיהה מספר קבוצות פשע בינלאומיות, בעיקר מסין ומדרום מזרח אסיה, העומדות מאחורי רשתות אלו, תוך שימוש בכרטיסי סים חד פעמיים, ארנקים אלקטרוניים ופלטפורמות מדיה חברתית כדי להסתיר את זהותן.

זה כבר לא הונאה קטנונית, אלא סוג של "לוחמה פסיכולוגית היי-טק", המנצלת לעומק פחדים מכבוד ויחסים חברתיים כדי להפעיל לחץ על קורבנות. ללא ערנות מוגברת ומיומנויות בזיהוי מידע והתנהגות יוצאי דופן, כל אחד יכול להפוך קורבן לפושעי היי-טק אלה. לנוכח גל התחזות המתוחכם הזה, כל אזרח צריך להיות ערני, להימנע לחלוטין משיתוף מידע אישי ללא הבחנה, ולהיות מוכן לדבר נגד פעילויות בלתי חוקיות, ולתרום להגנה על ביטחונו שלו ובטחונם של הקהילה.

נדרש "מגן דיגיטלי" מהקהילה כדי להילחם באיום של דיפפייקס.

על פי נתוני משרד השידור, הטלוויזיה והמידע האלקטרוני (משרד התרבות, הספורט והתיירות), בשנת 2024, פלטפורמות דיגיטליות בווייטנאם נאלצו להסיר יותר מ-4,000 סרטונים המכילים מידע כוזב ומעוות, שרובם היו מוצרים שנוצרו באמצעות טכנולוגיית בינה מלאכותית כמו דיפפייקס ושיבוטים קוליים. טיקטוק לבדה - פלטפורמה פופולרית בקרב צעירים - התבקשה למחוק יותר מ-1,300 סרטוני דיפפייקס, הקשורים בעיקר למשטרה, לממשלה ולמדיניות חברתית.

בעידן של פריחה טכנולוגית, בינה מלאכותית פותחת פוטנציאל פורץ דרך, אך היא גם מביאה עמה סכנות חסרות תקדים, במיוחד מוצרים מזויפים המכילים תוכן מעוות שפוגע במוניטין של סוכנויות ממשלתיות. סקר של מכון המחקר MICRI למדיה מראה כי 62% ממשתמשי המדיה החברתית בווייטנאם אינם יכולים להבחין בין מידע אמיתי למזויף ללא אזהרות מצד התקשורת המרכזית או הרשויות. זהו "פער קוגניטיבי" שכוחות זדוניים מנצלים ביסודיות כדי להפיץ מידע שגוי ולשבש את הפסיכולוגיה החברתית.

טונג ואן ט. בתחנת המשטרה.

לדברי האלוף דו קאן טין, פרופסור חבר וד"ר דו קאן טין, מומחה לקרימינולוגיה, שימוש בבינה מלאכותית ליצירת סרטונים מזויפים המתחזים למנהיגים, עריכת הצהרות כוזבות או עיוות הפעולות המקצועיות של כוחות המשטרה הוא טקטיקה חדשה אך מסוכנת במיוחד. "דיפפייק אינו רק מוצר בידורי, אלא סוג של לוחמת מידע מודרנית, המסוגלת לערער אמון, לגרום לחוסר יציבות חברתית, וקשה מאוד לשלוט בה", הצהיר האלוף דו קאן טין.

במציאות, סרטונים שעברו מניפולציות על ידי בינה מלאכותית רחוקים מלהיות בלתי מזיקים; הם מתמקדים לעתים קרובות בנושאים רגישים כמו טיפול בהפרות חוק, חקירת פשעים ומאבק בשחיתות, וגורמים לבלבול ציבורי וחוסר אמון ברשויות אכיפת החוק. מדאיג עוד יותר, סרטונים רבים משותפים בפלטפורמות מרכזיות כמו יוטיוב וטיקטוק, צוברים מאות אלפי צפיות לפני שהם מוסרים, ויוצרים אפקט אדווה שלילי.

מומחה המדיה הדיגיטלית הואנג מין מזהיר: "רק שיתוף או לייק אחד חסר זהירות יכולים להפוך אותך לשותף פעולה עם חדשות מזויפות. כל משתמש אינטרנט צריך להבין שלפעולות במרחב הדיגיטלי יש גם השלכות של ממש".

בהקשר זה, מה שנדרש יותר מתמיד הוא לבנות "מגן דיגיטלי" מתוך הקהילה עצמה: כלומר, ערנות, חסינות מפני מידע ותחושת אחריות כלפי הסביבה המקוונת. טכנולוגיה אולי ניטרלית, אך האופן שבו אנשים משתמשים בה יקבע האם בינה מלאכותית תהפוך לכוח מניע לפיתוח או לכוח הרסני כנגד אמון חברתי. שמירה על איתנות אידיאולוגית והגנה על תדמיתו של שוטר הן הגנה על יסודות הביטחון הלאומי - משימה לא רק עבור הרשויות הרלוונטיות אלא עבור כל אזרח בעידן הדיגיטלי.

מקור: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html