פורנו דיפפייק, בעיה במרוץ הבינה המלאכותית

[מודעה_1]

זיופים עמוקים (Deepfakes) הם סרטונים ותמונות שנוצרו או שונו דיגיטלית באמצעות בינה מלאכותית (AI) או למידת מכונה (ML). פורנוגרפיה שנוצרה באמצעות הטכנולוגיה החלה להסתובב באינטרנט לפני מספר שנים, כאשר משתמש רדיט שיתף סרטוני פורנו מזויפים עם פניהם של ידוענים.

דיפפייק עדיין קשה בתמונה 1 של התחרות — צילום: GI

כל אחד יכול להיות קורבן.

מאז, יוצרי דיפפייק המשיכו לפרסם סרטונים ותמונות דומים המכוונים למשפיענים מקוונים, עיתונאים ואחרים בעלי פרופילים ציבוריים. אלפי סרטונים כאלה קיימים באתרי אינטרנט רבים.

עם הזמינות הגוברת של טכנולוגיות בינה מלאכותית, הדבר מאפשר למשתמשים להפוך כל מי שהם רוצים ל"כוכבי פורנו" ללא הסכמתם, או באופן מסוכן יותר, להשתמש בטכנולוגיה כדי להשמיץ או לסחוט אחרים.

מומחים אומרים שהבעיה עלולה להחמיר עם פיתוח כלי בינה מלאכותית גנרטיבית המאומנים על מיליארדי תמונות מהאינטרנט ומייצרים תוכן חדש באמצעות נתונים קיימים.

"המציאות היא שהטכנולוגיה תמשיך להתפשט, היא תמשיך להתפתח, והיא תמשיך להיות זמינה ונגישה יותר", אמר אדם דודג', מייסד EndTAB, קבוצה המספקת הדרכה בנושא ניצול לרעה של טכנולוגיה. "וכל עוד זה יימשך, אנשים ללא ספק... ימשיכו לנצל לרעה את הטכנולוגיה הזו כדי לפגוע באחרים, בעיקר באמצעות אלימות מינית מקוונת, פורנוגרפיה מזויפת ותמונות עירום מזויפות."

נואל מרטין מפרת', אוסטרליה, חוותה את המציאות הזו. בת ה-28 גילתה פורנו דיפפייק שלה לפני 10 שנים, כאשר מתוך סקרנות חיפשה בגוגל את התמונה שלה יום אחד. עד היום, מרטין אומרת שאין לה מושג מי יצר את תמונות או סרטוני הפורנו המזויפים. היא חושדת שמישהו השתמש בתמונות שלה ברשתות החברתיות כדי ליצור סרטוני פורנו.

מרטין ניסתה ליצור קשר עם האתרים כדי להסיר את הסרטונים, אך מאמציה היו לשווא. חלקם לא הגיבו. אחרים הסירו אותם אך פרסמו אותם מחדש במהירות. "אי אפשר לנצח", אמרה גב' מרטין. "זה יהיה באינטרנט לנצח וזה יכול להרוס לך את החיים".

מאמצי חברות הטכנולוגיה לפתור את הבעיה

חלק ממודלי הבינה המלאכותית אומרים שיש להם גישה מוגבלת לתמונות פורנוגרפיות.

חברת OpenAI מסרה כי הסירה תוכן פורנוגרפי מהנתונים ששימשו לאימון מחולל התמונות DALL-E שלה, מה שאמור להגביל את הסבירות לשימוש לרעה בו. החברה גם מסננת בקשות ואומרת שהיא חוסמת משתמשים מיצירת תמונות בינה מלאכותית של ידוענים ופוליטיקאים בולטים. מודל נוסף, Midjourney, חוסם גם את השימוש במילות מפתח מסוימות ומעודד משתמשים לסמן תמונות בעייתיות למנהלים.

בינתיים, Stability AI גם הוציאה עדכון שמונע ממשתמשים ליצור תמונות בוטות. שינויים אלה מגיעים לאחר דיווחים לפיהם חלק מהמשתמשים השתמשו בטכנולוגיה כדי ליצור תמונות עירום בהשראת ידוענים.

דובר מחלקת הבינה המלאכותית של יציבות, מוטז בשארה, אמר כי המסנן משתמש בשילוב של מילות מפתח וטכניקות אחרות כמו זיהוי תמונות כדי לזהות עירום. אך משתמשים יכולים להתאים את התוכנה וליצור כל מה שהם רוצים, שכן החברה פרסמה את קוד הקוד הפתוח של האפליקציה.

חלק מחברות המדיה החברתית החמירו גם את הכללים כדי להגן טוב יותר על הפלטפורמות שלהן מפני חומרים מזיקים.

בחודש שעבר, טיקטוק הודיעה כי כל תוכן מזויף או מניפולטיבי חייב להיות מתויג כדי לציין שהוא מזויף או שעבר שינויים כלשהם.

פלטפורמת הגיימינג טוויץ' גם עדכנה לאחרונה את המדיניות שלה בנוגע לתמונות דיפפייק לאחר שסטרימר פופולרי בשם אטריוק נתפס פותח אתר פורנו דיפפייק בדפדפן שלו במהלך שידור חי בסוף ינואר.

אפל וגוגל הודיעו לאחרונה כי הסירו אפליקציה מחנויות האפליקציות שלהן עקב הפעלת סרטוני דיפפייק בעלי רמיזות מיניות כדי לשווק את מוצריהן.

מזמר מערבי לאילידת קיי-פופ.

מחקר על פורנוגרפיה דיפפייק הוא נדיר, אך דו"ח משנת 2019 של חברת הבינה המלאכותית DeepTrace Labs מצא שהוא כמעט לחלוטין נוצל כנשק נגד נשים, כאשר שחקניות מערביות היו המטרה העיקרית, ואחריהן זמרות קיי-פופ.

דוברת מטא, דני ליבר, אמרה בהצהרה כי מדיניות החברה מגבילה תוכן למבוגרים שנוצר על ידי בינה מלאכותית וגם תוכן שאינו נוצר על ידי בינה מלאכותית, והיא מגבילה את הפרסום של דף האפליקציה היוצרת דיפפייק בפלטפורמה שלה.

בפברואר, Meta, כמו גם אתרים למבוגרים כמו Only**** ו-Porn***, החלו להשתתף בכלי מקוון בשם Take It Down, המאפשר לבני נוער לדווח על תמונות וסרטונים מיניים מפורשים של עצמם מהאינטרנט. האתר תומך הן בסרטונים שצולמו בסתר והן בסרטונים שנוצרו על ידי בינה מלאכותית.

הואנג טון (לפי AP)

[מודעה_2]
מָקוֹר