پورنوگرافی دیپ‌فیک، مشکلی در رقابت هوش مصنوعی

دیپ‌فیک ویدیوها و تصاویری هستند که به صورت دیجیتالی با استفاده از هوش مصنوعی (AI) یا یادگیری ماشین (ML) ایجاد یا تغییر داده می‌شوند. پورنوگرافی ایجاد شده با استفاده از این فناوری، اولین بار چند سال پیش در اینترنت پخش شد، زمانی که یک کاربر ردیت کلیپ‌های پورن جعلی با چهره افراد مشهور را به اشتراک گذاشت.

دیپ فیک هنوز در رقابت دشوار است تصویر ۱ — عکس: جی آی

هر کسی می‌تواند قربانی باشد.

از آن زمان، سازندگان دیپ‌فیک به انتشار ویدیوها و تصاویر مشابهی ادامه داده‌اند که اینفلوئنسرهای آنلاین، روزنامه‌نگاران و سایر افراد با پروفایل‌های عمومی را هدف قرار می‌دهند. هزاران ویدیو از این دست در وب‌سایت‌های متعدد وجود دارد.

با افزایش دسترسی به فناوری‌های هوش مصنوعی، این امر به کاربران اجازه می‌دهد هر کسی را که می‌خواهند بدون رضایت او به «ستاره‌های پورن» تبدیل کنند، یا خطرناک‌تر از آن، از این فناوری برای بدنام کردن یا اخاذی از دیگران استفاده کنند.

کارشناسان می‌گویند این مشکل می‌تواند با توسعه ابزارهای هوش مصنوعی مولد که بر روی میلیاردها تصویر از اینترنت آموزش دیده‌اند و با استفاده از داده‌های موجود محتوای جدید تولید می‌کنند، بدتر شود.

آدام داج، بنیانگذار EndTAB، گروهی که آموزش‌هایی در مورد سوءاستفاده از فناوری ارائه می‌دهد، گفت: «واقعیت این است که فناوری همچنان در حال گسترش، تکامل و دسترسی آسان‌تر خواهد بود. و تا زمانی که این روند ادامه داشته باشد، بدون شک مردم ... به سوءاستفاده از این فناوری برای آسیب رساندن به دیگران، عمدتاً از طریق خشونت جنسی آنلاین، پورنوگرافی دیپ‌فیک و تصاویر برهنه جعلی، ادامه خواهند داد.»

نوئل مارتین اهل پرت، استرالیا، این واقعیت را تجربه کرده است. این زن ۲۸ ساله، ۱۰ سال پیش، زمانی که از روی کنجکاوی، تصویر خودش را در گوگل جستجو کرد، متوجه پورنوگرافی دیپ‌فیک خودش شد. مارتین می‌گوید تا به امروز نمی‌داند چه کسی این تصاویر یا ویدیوهای پورن جعلی را ساخته است. او گمان می‌کند که کسی از تصاویر شبکه‌های اجتماعی او برای ساخت ویدیوهای پورن استفاده کرده است.

مارتین سعی کرد با سایت‌ها تماس بگیرد تا ویدیوها را حذف کنند، اما تلاش‌هایش بی‌فایده بود. برخی پاسخی ندادند. برخی دیگر آنها را حذف کردند اما به سرعت دوباره منتشر کردند. خانم مارتین گفت: «شما نمی‌توانید برنده شوید. این ویدیوها برای همیشه در اینترنت خواهند ماند و می‌توانند زندگی شما را خراب کنند.»

تلاش‌های شرکت‌های فناوری برای رفع مشکل

برخی از مدل‌های هوش مصنوعی می‌گویند که دسترسی به تصاویر مستهجن را محدود کرده‌اند.

OpenAI اعلام کرد که محتوای مستهجن را از داده‌های مورد استفاده برای آموزش مولد تصویر DALL-E خود حذف کرده است، که این امر احتمال سوءاستفاده از آن را محدود می‌کند. این شرکت همچنین درخواست‌ها را فیلتر می‌کند و می‌گوید که کاربران را از ایجاد تصاویر هوش مصنوعی از افراد مشهور و سیاستمداران برجسته منع می‌کند. مدل دیگری به نام Midjourney نیز استفاده از کلمات کلیدی خاص را مسدود می‌کند و کاربران را تشویق می‌کند تا تصاویر مشکل‌ساز را به مدیران گزارش دهند.

در همین حال، Stability AI به‌روزرسانی‌ای را منتشر کرده است که کاربران را از ایجاد تصاویر صریح منع می‌کند. این تغییرات پس از گزارش‌هایی مبنی بر استفاده برخی از کاربران از این فناوری برای ایجاد تصاویر برهنه با الهام از افراد مشهور منتشر شده است.

سخنگوی هوش مصنوعی Stability، موتز بیشارا، گفت که این فیلتر از ترکیبی از کلمات کلیدی و تکنیک‌های دیگری مانند تشخیص تصویر برای تشخیص برهنگی استفاده می‌کند. اما کاربران می‌توانند نرم‌افزار را تغییر داده و هر آنچه را که می‌خواهند ایجاد کنند، زیرا این شرکت کد منبع باز برنامه را منتشر کرده است.

برخی از شرکت‌های رسانه‌های اجتماعی نیز قوانین را برای محافظت بهتر از پلتفرم‌های خود در برابر مطالب مضر، سخت‌تر کرده‌اند.

ماه گذشته، تیک‌تاک اعلام کرد که تمام محتوای دیپ‌فیک یا دستکاری‌شده باید برچسب‌گذاری شوند تا مشخص شود که جعلی است یا به نوعی تغییر یافته است.

پلتفرم بازی Twitch نیز اخیراً سیاست‌های خود را در مورد تصاویر دیپ‌فیک به‌روزرسانی کرده است، پس از آنکه یک استریمر محبوب به نام Atrioc در اواخر ژانویه در حین پخش زنده، در حال باز کردن یک سایت پورن دیپ‌فیک در مرورگر خود گرفتار شد.

اپل و گوگل اعلام کردند که اخیراً یک برنامه را به دلیل پخش ویدیوهای دیپ‌فیک جنسی برای بازاریابی محصولاتشان، از فروشگاه‌های اپلیکیشن خود حذف کرده‌اند.

از خواننده غربی تا آیدل کی-پاپ.

تحقیقات در مورد پورنوگرافی دیپ‌فیک نادر است، اما گزارشی در سال ۲۰۱۹ توسط شرکت هوش مصنوعی DeepTrace Labs نشان داد که این نوع پورنوگرافی تقریباً به طور کامل علیه زنان به کار گرفته شده است و بازیگران زن غربی بیشترین هدف قرار گرفته‌اند و پس از آنها خوانندگان کی‌پاپ قرار دارند.

دنی لور، سخنگوی متا، در بیانیه‌ای گفت که سیاست‌های این شرکت، محتوای بزرگسالانه تولید شده توسط هوش مصنوعی و غیر هوش مصنوعی را محدود می‌کند و صفحه برنامه تولید دیپ‌فیک را از تبلیغات در پلتفرم خود منع می‌کند.

در ماه فوریه، متا، و همچنین سایت‌های بزرگسالان مانند Only**** و Porn***، شروع به مشارکت در ابزاری آنلاین به نام Take It Down کردند که به نوجوانان اجازه می‌دهد تصاویر و ویدیوهای صریح جنسی خود را از اینترنت گزارش دهند. این سایت هم از ویدیوهای مخفیانه فیلمبرداری شده و هم از ویدیوهای تولید شده توسط هوش مصنوعی پشتیبانی می‌کند.

هوانگ تون (طبق گزارش آسوشیتدپرس)

منبع