شبکه اجتماعی X پس از انتشار گسترده تصاویر مستهجن جعلی تیلور سویفت، مجبور به مسدود کردن جستجوهای مربوط به این خواننده شد. هنگام جستجوی تیلور سویفت در پلتفرم X، کاربران پیام خطایی را مشاهده می‌کنند و درخواست بارگذاری مجدد صفحه را دارند. جو بناروچ - مدیر عملیات تجاری X - گفت که این یک اقدام اولیه است و با احتیاط انجام می‌شود.

ofdhxx6v.png
عکس‌های برهنه تیلور سویفت که توسط هوش مصنوعی ایجاد شده بود، قبل از حذف شدن، X و فیس‌بوک را پر کرد. (عکس: رویترز)

تصاویر مستهجن تولید شده توسط هوش مصنوعی از تیلور سویفت از ۲۴ ژانویه در X شروع به پخش شدن کردند و طرفداران این خواننده را بر آن داشتند تا مجموعه‌ای از عکس‌های واقعی این ستاره را منتشر کنند تا این تصاویر جعلی عمیق را "غرق" کنند. آنها همچنین از X خواستند که اقدامات جدی‌تری برای حذف این عکس‌ها و گزارش حساب‌های کاربری که عکس‌های جعلی به اشتراک می‌گذارند، انجام دهد. شعار "از تیلور سویفت محافظت کنید" نیز به یک ترند برتر در این پلتفرم تبدیل شد.

یک روز بعد، حساب‌های کاربری گزارش‌شده به حالت تعلیق درآمدند یا محدود شدند، اما هنوز هم پیدا کردن محتوای مستهجن با هوش مصنوعی در X آسان بود.

شرکت X در بیانیه‌ای که آخر هفته منتشر کرد، اعلام کرد که به اشتراک‌گذاری تصاویر گرافیکی بدون اجازه‌ی صاحب اثر را ممنوع کرده و سیاست عدم تحمل چنین محتوایی را دارد. در این بیانیه نامی از سوئیفت برده نشده است.

ایکس گفت: «تیم ما به‌طور فعال تمام تصاویر شناسایی‌شده را حذف می‌کند و اقدامات لازم را علیه حساب‌هایی که آنها را منتشر کرده‌اند، انجام می‌دهد. ما از نزدیک وضعیت را زیر نظر خواهیم داشت تا اطمینان حاصل کنیم که هرگونه تخلف بیشتر فوراً رسیدگی و محتوا حذف می‌شود.»

پیشرفت‌ها در هوش مصنوعی مولد، جعل تصاویر مستهجن از افراد دیگر را آسان‌تر کرده است. با X، پس از اینکه در سال ۲۰۲۲ تحت کنترل ایلان ماسک قرار گرفت، بسیاری از مقررات سانسور کاهش یافت، در حالی که او هزاران کارمند را برای تثبیت امور مالی خود اخراج کرد.

طبق گزارش NBC News، مشخص نیست که تصاویر دیپ‌فیک تیلور سویفت از کجا سرچشمه گرفته‌اند، اما این تصاویر دارای واترمارک بودند تا نشان دهند که از وب‌سایتی که به توزیع تصاویر مستهجن جعلی از افراد مشهور معروف است، تهیه شده‌اند. این وب‌سایت همچنین بخشی را به دیپ‌فیک‌های هوش مصنوعی اختصاص داده است. عکس‌های جعلی تیلور سویفت پس از ۱۹ ساعت انتشار، بیش از ۲۷ میلیون بار مشاهده و بیش از ۲۶۰ هزار بار لایک شده‌اند.

پس از این حادثه، ساتیا نادلا، مدیرعامل مایکروسافت، خواستار وضع قوانین بیشتر برای تنظیم هوش مصنوعی شد. او در مصاحبه‌ای با NBC News استدلال کرد که ما مسئولیت داریم این فناوری نوظهور را رصد کنیم تا محتوای ایمن‌تری تولید شود.

رئیس مایکروسافت در پاسخ به سوالی در مورد جعل عمیق سوئیفت گفت: «بله، ما باید اقدام کنیم. فکر می‌کنم همه ما از یک دنیای آنلاین امن بهره‌مند می‌شویم. فکر نمی‌کنم کسی دنیای آنلاینی را بخواهد که هم برای تولیدکنندگان محتوا و هم برای مصرف‌کنندگان محتوا کاملاً ناامن باشد. بنابراین فکر می‌کنم باید سریعاً در مورد این موضوع اقدام کنیم.»

طبق گزارش ۴۰۴ مدیا، یک گروه چت تلگرامی اعلام کرد که از ابزار Designer تولید شده توسط هوش مصنوعی مایکروسافت برای جعل عکس تیلور استفاده کرده است. آقای نادلا مستقیماً در مورد اطلاعات ۴۰۴ مدیا اظهار نظر نکرد، اما در بیانیه‌ای که به این سایت خبری ارسال شد، مایکروسافت اعلام کرد که در حال بررسی این گزارش است و اقدامات لازم را انجام خواهد داد.

دولت جو بایدن، رئیس جمهور آمریکا، گسترش دیپ‌فیک پورنوگرافی تیلور سویفت را «نگران‌کننده» خواند و از شرکت‌های رسانه‌های اجتماعی خواست تا «نقش حیاتی» خود را در اجرای مقررات برای جلوگیری از انتشار اطلاعات نادرست و تصاویر حساس بدون رضایت بررسی کنند.

در اکتبر ۲۰۲۳، رئیس جمهور بایدن یک فرمان اجرایی در مورد هوش مصنوعی امضا کرد که بر تنظیم فناوری‌های نوظهور و خطرات آن متمرکز بود.

(به نقل از The Hill، WSJ)