דיפפייק משתולל - אף אחד לא בטוח מפני טריקים של התחזות לבינה מלאכותית

חיקוי קולי, חיקוי פנים, סנכרון שפתיים... בינה מלאכותית אינה משמשת כיום רק לעבודה ובידור, אלא הופכת לכלי הונאה מסחרי מסוכן. תמונות של ידוענים, רופאים ואפילו נזירים מתחזות על ידי בינה מלאכותית כדי למכור מוצרים בכל רחבי הרשתות החברתיות. אנשים אמיתיים לא יודעים, וקונים מאבדים אמון.

להיות "פנים שאולות" כדי למכור סחורות

"לא משנה מה מצב הברך המקורית, פשוט יישמו את השיטה שלנו, אנו מבטיחים שתוך 7 ימים היא תשתפר משמעותית, אם היא לא יעילה לחלוטין, אני מוכן לפצות מיליארד וונד כהתנצלות כנה. אם אתם באמת לא רואים שום השפעה, אנו מתחייבים להחזר של 100% ואני עצמי מוכן לפצות מיליארד וונד, לא כולם מעזים להתחייב ככה", זהו שיתוף של זמרת מפורסמת שמפרסמת מוצר קרם עיסוי להקלה על כאבי מפרקים, אך ראוי לציין שהפרסומת הזו נוצרה כולה על ידי בינה מלאכותית.

סרטון הפרסום שלמעלה שימש חשבון טיקטוק בשם LShop, תוך שימוש בתמונה, בקול ובשפת הגוף של הזמרת בצורה ריאליסטית שלא ניתן לזהות ללא תצפית מדוקדקת. לחשבון זה יש כמעט 9,000 עוקבים, 67,000 לייקים ולכל קליפ אלפי צפיות. סרטון ה"פרסומת" לבדו, ששאל את תמונת הזמרת שלמעלה, משך יותר מ-1,000 לייקים וכמעט 100 תגובות לרכישה.

עם אותו מוצר קרם עיסוי, ערוצי המכירות גם "ייצרו" גרסה נוספת של דיפפייק, הפעם של רופא. בקליפ, הדמות נשבעה בתוקף: "אני הרופא האורתופדי היוקרתי ביותר בהאנוי ואני מבטיח שאפילו קרע חמור במניסקוס יכול להירפא לחלוטין תוך 3 ימים בלבד. ג'ל זה אושר על ידי האיגוד האורתופדי היוקרתי ביותר בווייטנאם". קו זה נוצר מחדש על ידי בינה מלאכותית עבור סדרה של "רופאים", מה שמקל על הצופים לטעות ולחשוב שהוא אמיתי.

הסרטון משך כמעט 4,000 לייקים ויותר מ-120 תגובות, אך כששלחנו הודעת טקסט כדי לנסות להזמין, החשבון לא הגיב, וגם לא יצר אינטראקציה עם הצופים בקטע התגובות, והשאיר את המוצר בעגלה לרכישה ישירה. ראוי לציין כי המוצר למכירה מקורו בסין ומידע המוצר היה מעורפל מאוד.

מזמרים, סלבריטאים ועד רופאים, כולם התחזו על ידי ערוצי מכירות שיוצרים קליפים של בינה מלאכותית למכירת מוצרים הקשורים לבריאות.

הטריק של דיפ-פייק לא עוצר שם, אלא גם התפשט לעניינים רוחניים. חשבון טיקטוק בשם Phat Phap NM לא רק פרסם מחדש את הרצאותיו של המאסטר TPH, אלא גם השתמש בטכנולוגיית בינה מלאכותית כדי ליצור תמונות של ה"מאסטר" שמוכר מוצרים כמו עלי בודהי וצמידי עץ אגר.

כאשר צופים השאירו תגובות וביקשו לקנות, הערוץ הגיב: "אם הדברים אינם כמצופה, גשו לאזור התצוגה בחשבון שלי ובחרו את מה שאתם צריכים, אל תהיו קמצנים עם העודף הקטן ותתעלמו מהגדול יותר." מיד לאחר מכן, הנזיר עצמו נאלץ לדבר ולהבהיר שמעולם לא פרסם או היה מעורב במוצרים כאלה.

הגבול בין יצירתיות להפרה

מומחה אבטחת הסייבר נגו מין הייאו (Hieu PC) מהמרכז הלאומי לניטור אבטחת הסייבר (NCSC) אמר כי סרטוני פרסום מזויפים המופצים ברשתות החברתיות נוצרים בעיקר באמצעות תוכנות Deepfake. תוכנות אלו אינן נדירות, שירותים רבים אף מספקים חבילות בעלות נמוכה ותפעול פשוט מאוד. למרות שישנם יישומים חיוביים בתחום יצירת התוכן הדיגיטלי והפקת המדיה, לדברי מר הייאו, הבעיה טמונה בעובדה שחלק מהאנשים ניצלו את הטכנולוגיה הזו למטרות שליליות כמו הונאה, זיוף זהות, הפצת חדשות כזב או השמצת אחרים באמצעות סרטונים שנראים אמיתיים.

מר הייאו גם נתן כמה סימנים שיסייעו בזיהוי קליפים של דיפפייק, כגון הבעות פנים בסרטון נוקשות במקצת, צורות ותנועות של הפה שאינן תואמות את הדיאלוג... מר הייאו הזהיר כי היו מצבים חמורים יותר שבהם בינה מלאכותית שימשה להכנסת פני קורבנות לסרטונים רגישים למטרות הפחדה, כפייה וניצול לרעה.

לדברי עורך הדין טראן דוק פואנג, מלשכת עורכי הדין של הו צ'י מין סיטי, שימוש בבינה מלאכותית ליצירת תמונות של ידוענים (או אנשים ספציפיים) ללא הסכמתם מהווה הפרה של זכויות אישיות, ובפרט הזכות לתמונה, כפי שנקבע בסעיף 32 לחוק האזרחי משנת 2015. החוק קובע: "לאנשים יש זכות לתמונה משלהם. השימוש בתמונה של אדם חייב להיות מוסכם על ידי אותו אדם. השימוש בתמונה למטרות מסחריות חייב להיות מפצה לאדם שתמונתו משמשת, אלא אם כן לצדדים יש הסכם שונה."

לפיכך, אם בעל חשבון רשת חברתית משתמש בתמונות ששוחזרו באמצעות בינה מלאכותית מתמונות אמיתיות, סרטונים ישנים וכו' למטרות פרסום או מכירה ללא רשות, הוא או היא הפר את החוק. אם השימוש בתמונה מפר את הוראות סעיף זה, לאדם בעל התמונה יש את הזכות לבקש מבית המשפט להוציא החלטה המאלצת את המפר, סוכנויות, ארגונים ואנשים רלוונטיים להפסיק, להשמיד ולהפסיק את השימוש בתמונה, לפצות על נזקים ולנקוט אמצעים אחרים בהתאם להוראות החוק.

קאם נואונג

מקור: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html