פורנו דיפפייק, בעיה במרוץ הבינה המלאכותית

[מודעה_1]

זיופים עמוקים (Deepfakes) הם סרטונים ותמונות שנוצרו או שונו דיגיטלית באמצעות בינה מלאכותית (AI) או למידת מכונה (ML). תוכן פורנוגרפי שנוצר באמצעות טכנולוגיה זו החל להסתובב באינטרנט לפני מספר שנים, כאשר משתמש רדיט שיתף סרטוני פורנו מזויפים המציגים את פניהם של ידוענים.

פורנוגרפיה עמוקה גורמת לבעיות במרוץ הבינה המלאכותית (תמונה 1) — צילום: GI

כל אחד יכול להפוך לקורבן.

מאז, יוצרי דיפפייק פרסמו באופן רציף סרטונים ותמונות דומים המכוונים למשפיענים מקוונים, עיתונאים ואחרים בעלי פרופילים ציבוריים. אלפי סרטונים כאלה קיימים באתרי אינטרנט רבים.

עם הזמינות הגוברת של טכנולוגיות בינה מלאכותית, הדבר מאפשר למשתמשים להפוך כל מי שהם רוצים ל"כוכבי קולנוע פורנוגרפיים" ללא הסכמתם, או, באופן מסוכן אף יותר, להשתמש בטכנולוגיה זו כדי להשמיץ או לסחוט אחרים.

מומחים אומרים שהבעיה עלולה להחמיר עם פיתוח כלי בינה מלאכותית כלליים המאומנים על מיליארדי תמונות מהאינטרנט ויוצרים תוכן חדש באמצעות נתונים קיימים.

"המציאות היא שהטכנולוגיה תמשיך להתפשט, תמשיך להתפתח ותמשיך להיות קלה ונגישה יותר", אמר אדם דודג', מייסד EndTAB, קבוצה המספקת הדרכה בנושא ניצול לרעה של טכנולוגיה. "וכל עוד זה יימשך, אנשים... ימשיכו לנצל לרעה את הטכנולוגיה הזו כדי לפגוע באחרים, בעיקר באמצעות אלימות מינית מקוונת, פורנוגרפיה מזויפת ועירום מזויף."

נואל מרטין מפרת', אוסטרליה, חוותה זאת ממקור ראשון. בת ה-28 גילתה תמונות פורנוגרפיות מזויפות משלה לפני 10 שנים, כאשר מתוך סקרנות, השתמשה בגוגל כדי לחפש תמונות של עצמה. עד היום, מרטין אומרת שהיא לא יודעת מי יצר את התמונות או הסרטונים הפורנוגרפיים המזויפים הללו. היא חושדת שמישהו השתמש בתמונות מהרשתות החברתיות שלה כדי ליצור את הסרטונים הפורנוגרפיים.

למרות ניסיונותיה של מרטין ליצור קשר עם האתרים כדי להסיר את הסרטונים, מאמציה היו לשווא. חלקם לא הגיבו. אחרים הסירו אותם אך העלו אותם מחדש במהירות. "אי אפשר לנצח", אמר מרטין. "זה יישאר באינטרנט לנצח ויכול להרוס לך את החיים".

מאמצי חברות הטכנולוגיה לתקן את המצב.

חלק ממודלי הבינה המלאכותית ציינו כי יש להם גישה מוגבלת לתמונות פורנוגרפיות.

OpenAI טוענת שהסירה תוכן פורנוגרפי מהנתונים ששימשו לאימון כלי יצירת התמונות DALL-E שלה, מה שיגביל את הפוטנציאל לשימוש לרעה. החברה גם מסננת בקשות ואומרת שהיא חוסמת משתמשים מליצור תמונות בינה מלאכותית של ידוענים ופוליטיקאים בולטים. Midjourney, מודל נוסף, חוסם גם את השימוש במילות מפתח מסוימות ומעודד משתמשים לסמן תמונות בעייתיות עבור מנהלים.

בינתיים, Stability AI גם פרסמה עדכון כדי למנוע ממשתמשים ליצור תמונות רגישות. שינויים אלה מגיעים לאחר דיווחים לפיהם חלק מהמשתמשים יצרו תמונות עירום בהשראת ידוענים באמצעות הטכנולוגיה.

דובר מטעם חברת הבינה המלאכותית של יציבות, מוטז בשארה, אמר כי המסנן משתמש בשילוב של מילות מפתח וטכניקות אחרות כמו זיהוי תמונות כדי לזהות עירום. אך משתמשים יכולים לתפעל את התוכנה וליצור כל מה שהם רוצים מכיוון שהחברה פרסמה את קוד הקוד הפתוח עבור האפליקציה.

חלק מחברות המדיה החברתית החמירו גם את הכללים שלהן כדי להגן טוב יותר על הפלטפורמות שלהן מפני חומרים מזיקים.

בחודש שעבר, טיקטוק הודיעה כי כל תוכן מזויף או מניפולטיבי חייב להיות מתויג כדי לציין שהוא מזויף או שעבר שינויים כלשהם.

פלטפורמת הגיימינג טוויץ' עדכנה לאחרונה את המדיניות שלה בנוגע לתמונות דיפפייק לאחר שסטרימר פופולרי בשם אטריוק התגלה כמי שניגש לאתר פורנו דיפפייק בדפדפן שלו במהלך שידור חי בסוף ינואר.

אפל וגוגל הודיעו לאחרונה כי הסירו אפליקציה מחנויות האפליקציות שלהן עקב הפעלת סרטוני דיפפייק בעלי רמיזות מיניות לשיווק מוצרים.

מזמרים מערביים ועד לאילי קיי-פופ.

מחקר על פורנוגרפיה דיפפייק הוא נדיר, אך דו"ח משנת 2019 של חברת הבינה המלאכותית DeepTrace Labs מצא שהוא כמעט לחלוטין נוצל כנשק נגד נשים, כאשר שחקניות מערביות היו המטרה העיקרית, ואחריהן זמרות קיי-פופ.

דוברת מטא, דני ליבר, אמרה בהצהרה כי מדיניות החברה מגבילה תוכן למבוגרים שנוצר על ידי בינה מלאכותית וגם תוכן שאינו נוצר על ידי בינה מלאכותית, וכן מגבילה את הפרסום של דף אפליקציית יצירת העיפפייק בפלטפורמה שלה.

בפברואר, Meta, יחד עם אתרי אינטרנט למבוגרים כמו Only**** ו-Porn***, החלו להשתתף בכלי מקוון בשם Take It Down, המאפשר לבני נוער לדווח על תמונות וסרטונים פורנוגרפיים משלהם מהאינטרנט. האתר תומך בעיבוד הן של סרטונים שצולמו בסתר והן של סרטונים שנוצרו על ידי בינה מלאכותית.

הואנג טון (לפי AP)

[מודעה_2]
מָקוֹר