הרשת החברתית X נאלצה לחסום חיפושים אחר טיילור סוויפט לאחר שתמונות פורנוגרפיות מזויפות של הזמרת הפכו ויראליות. בעת חיפוש אחר טיילור סוויפט בפלטפורמת X, משתמשים יראו הודעת שגיאה ובקשה לטעון מחדש את הדף. ג'ו בנרוך - מנהל הפעילות העסקית של X - אמר שמדובר בפעולה ראשונית ונעשית בזהירות.

ofdhxx6v.png
תמונות עירום של טיילור סוויפט שנוצרו על ידי בינה מלאכותית הציפו את X ואת פייסבוק לפני שהוסרו. (צילום: רויטרס)

תמונות פורנוגרפיות של טיילור סוויפט שנוצרו על ידי בינה מלאכותית החלו להסתובב בפלטפורמה X ב-24 בינואר, מה שגרם למעריצים של הזמרת לפרסם סדרה של תמונות אמיתיות של הכוכבת כדי "לטבוע" את העיפפייק. הם גם ביקשו מ-X לנקוט בפעולה נחרצת יותר למחיקת התמונות הללו ולדווח על חשבונות שחולקים תמונות מזויפות. הסיסמה "להגן על טיילור סוויפט" הפכה גם היא למגמה מובילה בפלטפורמה.

יום לאחר מכן, החשבונות המדווחים הושעו או הוגבלו, אך עדיין היה קל למצוא פורנו מבוסס בינה מלאכותית ב-X.

בהצהרה שפרסמה בסוף השבוע, X מסרה כי היא אוסרת על שיתוף תמונות גרפיות ללא אישור הכותב וכי יש לה מדיניות של אפס סובלנות כלפי תוכן כזה. בהצהרה לא צוין שמה של סוויפט.

"הצוות שלנו מסיר באופן פעיל את כל התמונות שזוהו ונוקט בפעולה מתאימה נגד החשבונות שפרסמו אותן. נעקוב מקרוב אחר המצב כדי להבטיח שכל הפרה נוספת תטופל באופן מיידי והתוכן יוסר", אמר X.

ההתקדמות בבינה מלאכותית גנרטיבית הקלה על זיוף תמונות פורנוגרפיות של אנשים אחרים. עם X, לאחר שעבר לשליטתו של אילון מאסק בשנת 2022, תקנות צנזורה רבות הוקלו, בעוד שהוא פיטר אלפי עובדים כדי לייצב את מצבו הכלכלי.

לפי NBC News, לא ברור מהיכן הגיעו תמונות הדיפ-זיוף של טיילור סוויפט, אך הן סומנו בסימן מים כדי לציין שהן הגיעו מאתר אינטרנט הידוע בהפצת תמונות פורנוגרפיות מזויפות של ידוענים. באתר יש גם מדור המוקדש לדיפ-זיוף מבוססי בינה מלאכותית. התמונות המזויפות של סוויפט נצפו יותר מ-27 מיליון פעמים וזכו ליותר מ-260,000 לייקים לאחר 19 שעות מפרסומן.

בעקבות התקרית, קרא מנכ"ל מיקרוסופט, סאטיה נאדלה, להציב מעקות בטיחות נוספים כדי לווסת את הבינה המלאכותית. בראיון ל-NBC News, הוא טען כי יש לנו אחריות לנטר את הטכנולוגיה המתפתחת הזו כדי שניתן יהיה לייצר תוכן בטוח יותר.

בתגובה לשאלה בנוגע לטכנולוגיית העיפפייקים של סוויפט, אמר מנכ"ל מיקרוסופט: "כן, אנחנו חייבים לפעול. אני חושב שכולנו מרוויחים מעולם מקוון בטוח. אני לא חושב שמישהו רוצה עולם מקוון שאינו בטוח לחלוטין עבור יוצרי תוכן וצרכני תוכן כאחד. לכן אני חושב שאנחנו צריכים לפעול במהירות בנושא הזה."

לפי 404 Media, קבוצת צ'אט בטלגרם טענה כי השתמשה בכלי ה-Designer של מיקרוסופט, שנוצר על ידי בינה מלאכותית, כדי לזייף את תמונתה של טיילור. מר נאדלה לא הגיב ישירות למידע של 404 Media, אך בהצהרה שנשלחה לאתר החדשות, מיקרוסופט שיתפה כי היא חוקרת את הדיווח ותנקוט בפעולה מתאימה.

ממשל נשיא ארה"ב ג'ו ביידן כינה את התפשטות התמונה הפורנוגרפית של טיילור סוויפט "מדאיגה" וקרא לחברות המדיה החברתית לבחון את "תפקידן החיוני" באכיפת תקנות למניעת הפצת מידע כוזב ותמונות רגישות ללא הסכמה.

באוקטובר 2023, חתם הנשיא ביידן על צו נשיאותי בנושא בינה מלאכותית שהתמקד ברגולציה של טכנולוגיות מתפתחות והסיכונים שלה.

(על פי The Hill, WSJ)