זיופים עמוקים נפוצים - אף אחד לא בטוח מפני טריקים של התחזות לבינה מלאכותית

חיקוי קולי, חיקוי פנים, סנכרון שפתיים... בינה מלאכותית אינה משמשת כיום רק לעבודה ובידור, אלא הופכת לכלי הונאה מסחרי מסוכן. תמונות של ידוענים, רופאים ואפילו נזירים מתחזות על ידי בינה מלאכותית כדי למכור מוצרים בכל רחבי הרשתות החברתיות. אנשים אמיתיים לא יודעים, וקונים מאבדים אמון.

להיות "פנים שאולות" כדי למכור סחורות

"לא משנה מה מצב הברך המקורי, פשוט יישמו את השיטה שלנו, אנו מבטיחים שתוך 7 ימים המצב ישתפר משמעותית, אם הוא לא יעיל לחלוטין, אני מוכן לפצות מיליארד וונד כהתנצלות כנה. אם אתם באמת לא רואים שום השפעה, אנו מתחייבים להחזר של 100% ואני עצמי מוכן לפצות מיליארד וונד, לא כולם מעזים להתחייב ככה", זהו שיתוף של זמרת מפורסמת שמפרסמת מוצר קרם עיסוי להקלה על כאבי מפרקים, אך ראוי לציין שהפרסומת הזו נוצרה כולה על ידי בינה מלאכותית.

סרטון הפרסום שלמעלה שימש חשבון טיקטוק בשם LShop, המשתמש בתמונתו, קולו ושפת הגוף של הזמר בצורה ריאליסטית שלא ניתן לזהות ללא תצפית מדוקדקת. לחשבון זה יש כמעט 9,000 עוקבים, 67,000 לייקים וכל קליפ צבר אלפי צפיות. סרטון ה"פרסום" לבדו המשתמש בתמונתו של הזמר משך יותר מ-1,000 לייקים וכמעט 100 תגובות לרכישה.

עם אותו מוצר קרם עיסוי, ערוצי המכירות גם "ייצרו" גרסה נוספת של דיפפייק, הפעם של רופא. בקליפ, הדמות הבטיחה בתוקף: "אני הרופא האורתופדי היוקרתי ביותר בהאנוי ואני מבטיח שאפילו קרע חמור במניסקוס יכול להירפא לחלוטין תוך 3 ימים בלבד. ג'ל זה אושר על ידי האיגוד האורתופדי היוקרתי ביותר בווייטנאם". קו זה נוצר מחדש על ידי בינה מלאכותית עבור סדרה של "רופאים" אחרים, מה שמקל על הצופים לטעות ולחשוב שהוא אמיתי.

הסרטון משך כמעט 4,000 לייקים ויותר מ-120 תגובות, אך כששלחנו הודעת טקסט כדי לנסות לקנות, החשבון לא הגיב, וגם לא יצר אינטראקציה עם הצופים בקטע התגובות, והשאיר את המוצר בעגלה לרכישה ישירה. ראוי לציין שהמוצר למכירה הוא מסין ומידע המוצר מעורפל מאוד.

מזמרים, סלבריטאים ועד רופאים, כולם התחזו על ידי ערוצי מכירות שיוצרים קליפים של בינה מלאכותית למכירת מוצרים הקשורים לבריאות.

לא שם, הטריק של דיפ-פייק התפשט גם לעניינים רוחניים. חשבון טיקטוק בשם Phat Phap NM לא רק מפרסם מחדש את הרצאותיו של המאסטר TPH אלא גם משתמש בטכנולוגיית בינה מלאכותית כדי ליצור תמונות של ה"מאסטר" שמוכר מוצרים כמו עלי בודהי וצמידי עץ אגר.

כאשר צופים השאירו תגובות וביקשו לקנות, הערוץ הגיב: "אם הדברים לא הולכים כמתוכנן, גשו לאזור התצוגה בחשבון שלי ובחרו מה שאתם צריכים, אל תהיו קמצנים עם העודף הקטן ותתעלמו מהגדול יותר." מיד לאחר מכן, הנזיר עצמו נאלץ לדבר ולהבהיר שמעולם לא פרסם או היה מעורב במוצרים כאלה.

הגבול בין יצירתיות להפרה

מומחה אבטחת הסייבר נגו מין הייאו (Hieu PC) מהמרכז הלאומי לניטור אבטחת סייבר (NCSC) אמר כי סרטוני פרסום מזויפים המופצים ברשתות החברתיות נוצרים בעיקר באמצעות תוכנת Deepfake. תוכנה זו אינה נדירה, ושירותים רבים אף מספקים חבילות בעלויות נמוכות ופעולות פשוטות מאוד. למרות שישנם יישומים חיוביים בתחום יצירת התוכן הדיגיטלי והפקת המדיה, לדברי מר הייאו, הבעיה טמונה בעובדה שחלק מהאנשים ניצלו את הטכנולוגיה הזו למטרות שליליות כמו הונאה, זיוף זהות, הפצת חדשות כוזבות או השמצת אחרים באמצעות סרטונים שנראים אמיתיים.

מר הייאו גם נתן כמה סימנים שיסייעו בזיהוי קליפים של דיפפייק, כגון הבעות פנים בסרטון נוקשות במקצת, צורות ותנועות פה שאינן תואמות את הדיאלוג... מר הייאו הזהיר כי היו מצבים חמורים יותר שבהם בינה מלאכותית שימשה להכנסת פניהם של קורבנות לסרטונים רגישים למטרות הפחדה, כפייה וניצול לרעה.

לדברי עורך הדין טראן דוק פואנג, מלשכת עורכי הדין של הו צ'י מין סיטי, שימוש בבינה מלאכותית ליצירת תמונות של ידוענים (או אנשים ספציפיים) ללא הסכמתם מהווה הפרה של זכויות אישיות, ובפרט הזכות לתמונה, כפי שנקבע בסעיף 32 לחוק האזרחי משנת 2015. החוק קובע: "לאנשים יש זכות לתמונה משלהם. השימוש בתמונה של אדם חייב את הסכמתו. השימוש בתמונה למטרות מסחריות מחייב תשלום שכר לאדם שתמונתו משמשת, אלא אם כן בין הצדדים יש הסכם אחר."

לפיכך, אם בעל חשבון ברשת חברתית משתמש בתמונות ששוחזרו באמצעות בינה מלאכותית מתמונות אמיתיות, סרטונים ישנים וכו' למטרות פרסום או מכירה ללא רשות, הוא או היא הפר את החוק. אם השימוש בתמונה מפר את הוראות סעיף זה, לאדם המחזיק בתמונה יש את הזכות לבקש מבית המשפט להוציא החלטה המאלצת את המפר, סוכנויות, ארגונים ואנשים רלוונטיים להפסיק, להשמיד ולהפסיק את השימוש בתמונה, לפצות על נזקים ולנקוט אמצעים אחרים בהתאם להוראות החוק.

קאם נואונג

מקור: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html