מתמונות, סרטונים ועד שירי בינה מלאכותית: היזהרו מ"טורנדו" של תוכן בינה מלאכותית ברשתות החברתיות

בינה מלאכותית (AI) מנוצלת בפעילויות מסחריות מקוונות, החל ממכירות ועד הונאות צדקה, מה שמאלץ רגולטורים ועסקים למצוא במהירות פתרונות לזיהוי ובקרה של סיכונים בעידן התוכן המלאכותי.

עוד ועוד תמונות וסרטונים שנערכו ונוספו על ידי בינה מלאכותית מתפרסמים ברשתות החברתיות כדי למשוך צפיות - צילום: DUC THIEN

אם בעבר, כדי ליצור תמונה מזויפת, משתמשים רגילים היו צריכים לשכור מומחי פוטושופ, עם בינה מלאכותית כיום, בפחות מ-5 דקות ועם כמה מיומנויות בסיסיות, קבוצה של תמונות מזויפות יכולה להופיע בכל מקום.

כשבינה מלאכותית יוצרת תמונות, סרטונים, שירים... כל כך אמיתיים שקשה להאמין

גב' הואן מיי (HCMC) - עובדת תקשורת - גולשת בפייסבוק באופן קבוע מדי יום, וציינה כי משתמשים מפרסמים יותר ויותר תוכן באמצעות כלי בינה מלאכותית.

"יש הרבה תמונות שפורסמו על ידי חברים או חברי קבוצה שהן כל כך אמיתיות, שלא הייתי יכולה לדעת אם נעשה בהן שימוש בבינה מלאכותית אם הם לא היו אומרים זאת. אפילו יותר ויותר סרטונים, החל מאנימציות, דמיונות ועד סרטונים קצרים או סרטונים הקשורים לאירוע שקורה בחיים האמיתיים, נוצרים על ידי כלי בינה מלאכותית, אבל אני לא יכולה לדעת", שיתפה גב' מיי.

לא רק תמונות וסרטונים, אפילו ברשת החברתית יוטיוב, ישנם שירים רבים שבוצעו או הולחנו על ידי "זמרי בינה מלאכותית". משתמשים רבים מתרגשים מהחוויה החדשה ומתחרים לשתף אותה ברשתות החברתיות עם חבריהם.

"אני לא יכול לדעת אם זה זמר בינה מלאכותית אם זה לא יוכרז. תוכן של בינה מלאכותית נפוץ יותר ויותר במרחב הקיברנטי של וייטנאם. משתמשים רגילים כמוני כנראה בקרוב כבר לא ידעו איזה תוכן הוא מאנשים אמיתיים, איזה תוכן הוא מבינה מלאכותית או שיש בו התערבות של בינה מלאכותית", אמר חאן הא (HCMC).

לאחרונה, פלטפורמות רשתות חברתיות רבות בווייטנאם הציגו סרטונים ושידורים חיים המוכרים מוצרים של אנשים עם מוגבלויות, מה שהופך את הקהילה המקוונת לאהדה ולשיתוף יותר.

עם זאת, מאוחר יותר נחשפו על ידי הקהילה המקוונת מקרים רבים בהם נעשה שימוש בבינה מלאכותית כדי להפוך אנשים רגילים לאנשים עם מוגבלויות. מטרת הטריק הזה היא לנצל את חמלתם של הצופים למכירת סחורות או ביצוע מעשי הונאה.

מומחי טכנולוגיה רבים אומרים כי לאחרונה, רשתות חברתיות רואות מספר גדל והולך של חשבונות המפרסמים סרטוני מכירה עם תמונות של אנשים עם מוגבלויות, חולים או מוחלשים כדי לבקש אמפתיה. עם זאת, המציאות מראה שחלק ניכר מהתוכן הזה נוצר או נערך באמצעות כלי בינה מלאכותית, מה שהופך אנשים רגילים לאנשים עם מוגבלויות למטרות רווח או הונאה.

מר מילקו רדוטיץ', סגן נשיא iProov - ספקית טכנולוגיית האימות הביומטרי המובילה בעולם, האחראי על אזור אסיה- פסיפיק , הזהיר בפני טואי טרה: "המחקר שלנו מראה ש-99.9% מהמשתתפים אינם יכולים לזהות זיופים עמוקים. אפילו כלי הזיהוי המתקדמים של ימינו מתמודדים עם קשיים רבים."

הגברת ההתנגדות עבור משתמשים דיגיטליים

מר דאנג הוו סון - סגן מנהל המכון למחקר יישומי ופיתוח משאבי אנוש AIOV, מייסד ומנכ"ל חברת LovinBot AI - אמר כי מאז שגוגל השיקה את טכנולוגיית הבינה המלאכותית Nano Banana ו-Veo 3; ByteDance השיקה את Seedream 4, ולפני כן OpenAI השיקה את GPT Image, שוק הבינה המלאכותית היה סואן ביותר והביא גם הוא לתוצאות רבות.

"טכנולוגיה מעולם לא הייתה נגישה כמו שהיא היום. כל אלה מודלים של בינה מלאכותית חזקים ביותר שיכולים 'להעתיק פנים' כמעט 90%, אפילו 99% בהשוואה לתמונה המקורית", העיר מר סון.

אם בעבר, כדי ליצור תמונה מזויפת, משתמשים רגילים היו צריכים לשכור מומחי פוטושופ, אז עם בינה מלאכותית כיום, בפחות מ-5 דקות ועם כמה מיומנויות בסיסיות, סט של תמונות מזויפות, סרטון מזויף שנגזר ומודבק, עם אפקטים דמויי חדשות, יכול להתפשט במהירות מסחררת.

"חדשות מזויפות חוזרות על עצמן פעמים רבות, בצפיפות גבוהה ובגישה נוחה, כך שמספר רב של אנשים שבאים איתן במגע מדי יום יאמינו שהן נכונות. לכן, יש צורך בפתרונות כדי להגביל את הבעיות הנ"ל", ציין מר סון.

לדברי מר טרין נגוין ת'יאן פואוק - מנהל טכנולוגיה של חברת Gianty Vietnam, כדי להיות מסוגלים להבחין בין תוכן שנוצר על ידי בינה מלאכותית, נדרשות שלוש שכבות: (1) מיומנויות אימות משתמש (יחד עם כללי זהב); (2) כלים טכניים כגון אישורי תוכן (C2PA), סימני זיהוי סימני מים (SynthID, AudioSeal) וגלאי זיופים עמוקים; (3) תהליך תיאום בין צדדים קשורים כגון: פלטפורמות, מפעילי רשת, בנקים...

בפרט, יש לבצע את כלל הזהב במהירות רבה תוך 30-60 שניות, כולל: אל תלחצו על קישורים מוזרים, וכנסו לאפליקציה/אתר הרשמי כדי לאמת; עצרו מיד כשנתקלים במילות מפתח שכופות פעולה (OTP/העברת כספים/דחוף).

במקביל, על המשתמשים לאמת עם שני מקורות בלתי תלויים לפני שהם מאמינים; לבדוק את התאריך, השעה וההקשר (חדשות ישנות במסווה של חדשות); להתקשר בחזרה למספר הרשמי שמצאתם בעצמכם, אל תשתמשו במספר שניתן על ידי אחרים; עם תמונות וסרטונים, משתמשים יכולים לחפש בחזרה תוצאות קשורות...

מומחים רבים מאמינים שהפתרון הבסיסי ביותר להתמודדות עם גל התוכן המזויף שנוצר על ידי בינה מלאכותית הוא העלאת המודעות הציבורית. במקום להתמקד רק באמצעים טכניים, יש צורך לבנות תוכניות הכשרה, תחרויות או לדמות מצבים אמיתיים כדי לעזור לאנשים לשנות את הרגלי צריכת המידע שלהם.

עבור צעירים, ובמיוחד סטודנטים, שילוב של תחרויות מקוונות, קמפיינים תקשורתיים עם ידוענים או תלמידי כישרון יכול ליצור משיכה טבעית, ולעזור להם ללמוד ולחוות תוך כדי שליטה במיומנויות לזיהוי חדשות מזויפות וסרטונים מזויפים. בינתיים, קשישים, במיוחד באזורים כפריים, זקוקים לצורות מוכרות ואינטואיטיביות יותר כגון עלונים מאוירים, סרטוני הדרכה או הקרנות בבתי תרבות ובפעילויות קהילתיות.

"גישה המתאימה לכל קבוצת אנשים תסייע ביצירת בסיס מודעות איתן לטווח ארוך, במקום להיעצר רק בפעילויות לטווח קצר. לדוגמה, חלק מהיחידות פיתחו תוספים שניתן להתקין בדפדפן כרום כדי לתמוך במשתמשים באימות חדשות בעת גלישה באינטרנט או ברשתות חברתיות...", שיתף מר דאנג הוא סון.

שימוש בבינה מלאכותית לזיהוי בינה מלאכותית מזויפת

לאחרונה, חברת הטלפונים Honor שילבה את תכונת זיהוי Deepfakes מבוססת בינה מלאכותית בקו הטלפון החדש שלה. תכונה זו יכולה לנתח תמונות וקולות תוך 3 שניות כדי להתריע מפני זיופים ישירות באפליקציות כמו Messenger, Zalo, Viber או Google Meet, ולהפוך ל"מגן דיגיטלי" המגן על משתמשים מפני הונאות היי-טק.

בעבר, בספטמבר 2025, MoMo הכריזה על שיתוף הפעולה שלה עם iProov לפריסת טכנולוגיית Dynamic Liveness שתסייע לאמת שמשתמשים אמיתיים, בעלי זהות נכונה ונוכחים בזמן העסקה, ובכך למנוע הונאה באמצעות דיפפייק, סרטונים או תמונות מזויפים.

במגזרים בסיכון גבוה כמו פיננסים, רמת אבטחה זו חיונית למניעת הונאות, מניעת גישה בלתי מורשית ושמירה על אמון המשתמשים בפלטפורמה.

חזרה לנושא

מַעֲלָה

מקור: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm