זיופים עמוקים (Deepfakes) נפוצים - אף אחד לא בטוח מפני טריקים של התחזות המופעלים על ידי בינה מלאכותית.

חיקוי קולי, חיקוי פנים, סנכרון שפתיים... בינה מלאכותית כבר לא רק לעבודה או לבידור; היא הופכת לכלי מסוכן להונאה מסחרית. תמונות של ידוענים, רופאים ואפילו נזירים בודהיסטים מתחזות על ידי בינה מלאכותית כדי למכור מוצרים באופן נרחב ברשתות החברתיות. האנשים האמיתיים אינם מודעים לכך, והקונים מאבדים אמון.

"משמשים" למכירת מוצרים.

"לא משנה מה מצב הברך שלכם בהתחלה, פשוט יישמו את השיטה שלנו, ואנחנו מבטיחים שיפור משמעותי תוך 7 ימים. אם אין שום השפעה, אני מוכן לשלם מיליארד וונד כהתנצלות כנה. אם אתם באמת לא רואים השפעה, אנחנו מבטיחים החזר של 100%, ואני עצמי מוכן לפצות מיליארד וונד. לא כולם מעזים להתחייב כזו", זו הצהרה של זמרת מפורסמת שמפרסמת קרם עיסוי להקלה על כאבים למפרקים, אבל מה שראוי לציון הוא שהפרסומת הזו נוצרה כולה באמצעות בינה מלאכותית.

סרטון הפרסום הנ"ל, שנוצר על ידי חשבון טיקטוק בשם LShop, משתמש בתדמית, בקולה ובשפת הגוף של הזמר באופן שאינו ניתן לגילוי ללא צפייה מדוקדקת. לחשבון זה יש כמעט 9,000 עוקבים, 67,000 לייקים, וכל קליפ זוכה לאלפי צפיות. הסרטון בו תיאר את הזמר באופן ספציפי צבר למעלה מ-1,000 לייקים וכמעט 100 תגובות המבקשות רכישה.

יחד עם מוצר קרם העיסוי הזה, ערוצי המכירות גם "ייצרו" גרסה נוספת של דיפפייק, הפעם בהשתתפות רופא. בקליפ, הדמות מבטיחה בביטחון: "אני הרופא האורתופדי בעל המוניטין הגבוה ביותר בהאנוי , ואני מתחייב שאפילו קרעי המניסקוס החמורים ביותר ניתנים לריפוי מוחלט תוך 3 ימים בלבד. ג'ל זה הוסמך על ידי האיגוד האורתופדי היוקרתי ביותר בווייטנאם." דיאלוג זה משוחזר על ידי בינה מלאכותית עבור סדרה של "רופאים", מה שגורם בקלות לצופים להאמין שהוא אמיתי.

הסרטון משך כמעט 4,000 לייקים ומעל 120 תגובות, אך כאשר שלחנו הודעה למוכר כדי לבצע הזמנה, החשבון לא הגיב או יצר אינטראקציה עם הצופים בקטע התגובות; הם רק השאירו את המוצר בעגלת הקניות לרכישה ישירה. ראוי לציין כי המוצר המפורסם מקורו בסין, ומידע המוצר היה מעורפל מאוד.

מזמרים וסלבריטאים ועד רופאים, כולם נמצאים במטרה של ערוצי מכירות שיוצרים סרטונים מזויפים שנוצרו על ידי בינה מלאכותית ומתחזים להם כדי למכור מוצרים הקשורים לבריאות.

הונאת העיפ-פייק לא נעצרה שם; היא אפילו התפשטה לעניינים רוחניים. חשבון טיקטוק בשם Phật Pháp NM לא רק פרסם מחדש הרצאות של Venerable TPH, אלא גם השתמש בטכנולוגיית בינה מלאכותית כדי ליצור תמונות של "המקודש" כדי למכור מוצרים כמו עלי בודהי וצמידי אגרווד.

כאשר צופים השאירו תגובות וביקשו לקנות, הערוץ הגיב: "אם הדברים לא לטעמכם, אנא גשו לאזור התצוגה בחשבון שלי ובחרו את מה שאתם צריכים. אל תהיו קמצנים עם כמות קטנה ותפספסו משהו גדול יותר." זמן קצר לאחר מכן, הנזיר עצמו נאלץ להבהיר שמעולם לא פרסם או היה מעורב במוצרים כאלה.

הגבול בין יצירתיות לפגיעה בזכויות הפרט.

לדברי מומחה הסייבר נגו מין הייאו (Hieu PC) מהמרכז הלאומי לניטור סייבר (NCSC), סרטוני הפרסום המזויפים שמופצים ברשתות החברתיות נוצרים בעיקר באמצעות תוכנת Deepfake. תוכנה זו אינה נדירה; שירותים רבים אף מציעים חבילות בעלויות נמוכות ובתפעול פשוט מאוד. בעוד שיש לה יישומים חיוביים ביצירת תוכן דיגיטלי והפקת מדיה, מר הייאו מאמין שהבעיה טמונה בעובדה שאנשים מסוימים ניצלו את הטכנולוגיה הזו למטרות שליליות כמו הונאה, התחזות לזהות, הפצת חדשות כוזבות או השמצת אחרים באמצעות סרטונים שנראים אותנטיים.

מר הייאו גם הצביע על כמה סימנים המסייעים בזיהוי קליפים של דיפפייק, כגון הבעות פנים בסרטון שנראות נוקשות, תנועות פה ושפתיים שאינן תואמות את הדיאלוג... מר הייאו הזהיר כי היו מצבים חמורים יותר שבהם נעשה שימוש בבינה מלאכותית כדי להטמיע את פניהם של קורבנות על סרטונים רגישים למטרות הפחדה, כפייה ורווח.

לדברי עורך הדין טראן דוק פואנג מלשכת עורכי הדין של הו צ'י מין סיטי, שימוש בבינה מלאכותית ליצירת תמונות של ידוענים (או אנשים ספציפיים) ללא הסכמתם מהווה הפרה של זכויות אישיות, ובפרט הזכות לתדמית של אדם, כפי שנקבע בסעיף 32 לחוק האזרחי משנת 2015. החוק קובע: "לאנשים יש זכות לתדמית משלהם. השימוש בתדמית של אדם חייב להיות בהסכמתו. השימוש בתמונה למטרות מסחריות מחייב פיצוי לאדם שתמונתו משמשת, אלא אם כן סוכם אחרת על ידי הצדדים."

לכן, אם בעל חשבון מדיה חברתית משתמש בתמונות שנוצרו על ידי בינה מלאכותית מתמונות אמיתיות, סרטונים ישנים וכו', למטרות פרסום או מכירה ללא אישור, הוא מפר את החוק. אם השימוש בתמונות מפר סעיף זה, לאדם שתמונתו משמשת יש את הזכות לבקש צו בית משפט המחייב את המפר, את הסוכנות, הארגון או האדם הרלוונטיים להסיר, להשמיד ולהפסיק את השימוש בתמונה, לפצות על נזקים ולהחיל סנקציות משפטיות אחרות.

קאם נואונג

מקור: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html