پورنوگرافی دیپ‌فیک، مشکلی در رقابت هوش مصنوعی

دیپ‌فیک ویدیوها و تصاویری هستند که با استفاده از هوش مصنوعی (AI) یا یادگیری ماشینی (ML) ایجاد یا به صورت دیجیتالی تغییر داده می‌شوند. محتوای پورنوگرافی ایجاد شده با استفاده از این فناوری اولین بار چند سال پیش در اینترنت منتشر شد، زمانی که یک کاربر ردیت کلیپ‌های پورنو جعلی با چهره افراد مشهور را به اشتراک گذاشت.

پورنوگرافی دیپ‌فیک باعث ایجاد مشکلاتی در رقابت هوش مصنوعی می‌شود (تصویر ۱) — عکس: جی آی

هر کسی می‌تواند قربانی شود.

از آن زمان، سازندگان دیپ‌فیک به‌طور مداوم ویدیوها و تصاویر مشابهی را منتشر کرده‌اند که اینفلوئنسرهای آنلاین، روزنامه‌نگاران و سایر افراد با پروفایل‌های عمومی را هدف قرار می‌دهند. هزاران ویدیو از این دست در وب‌سایت‌های متعدد وجود دارد.

با افزایش دسترسی به فناوری‌های هوش مصنوعی، این امر به کاربران اجازه می‌دهد هر کسی را که می‌خواهند بدون رضایت او به «ستاره‌های فیلم‌های مستهجن» تبدیل کنند، یا خطرناک‌تر از آن، از این فناوری برای بدنام کردن یا اخاذی از دیگران استفاده کنند.

کارشناسان می‌گویند این مشکل می‌تواند با توسعه ابزارهای هوش مصنوعی عمومی که بر روی میلیاردها تصویر از اینترنت آموزش دیده‌اند و با استفاده از داده‌های موجود، محتوای جدید تولید می‌کنند، بدتر شود.

آدام داج، بنیانگذار EndTAB، گروهی که آموزش‌هایی در مورد سوءاستفاده از فناوری ارائه می‌دهد، گفت: «واقعیت این است که فناوری همچنان در حال گسترش، تکامل و دسترسی آسان‌تر و آسان‌تر خواهد بود. و تا زمانی که این روند ادامه داشته باشد، مردم... به سوءاستفاده از این فناوری برای آسیب رساندن به دیگران، عمدتاً از طریق خشونت جنسی آنلاین، پورنوگرافی دیپ‌فیک و برهنگی ساختگی، ادامه خواهند داد.»

نوئل مارتین اهل پرت، استرالیا، این را از نزدیک تجربه کرد. این زن ۲۸ ساله، ۱۰ سال پیش، زمانی که از روی کنجکاوی از گوگل برای جستجوی عکس‌های خودش استفاده کرد، تصاویر مستهجن دیپ‌فیک خودش را کشف کرد. مارتین می‌گوید تا به امروز نمی‌داند چه کسی این تصاویر یا ویدیوهای مستهجن جعلی را ایجاد کرده است. او گمان می‌کند که کسی از تصاویر شبکه‌های اجتماعی او برای ایجاد ویدیوهای مستهجن استفاده کرده است.

با وجود تلاش‌های مارتین برای تماس با وب‌سایت‌ها جهت حذف ویدیوها، تلاش‌های او بی‌فایده بود. برخی پاسخی ندادند. برخی دیگر آنها را حذف کردند اما به سرعت دوباره آپلود کردند. مارتین گفت: «شما نمی‌توانید برنده شوید. این ویدیوها برای همیشه در اینترنت باقی می‌مانند و می‌توانند زندگی شما را خراب کنند.»

تلاش‌های شرکت‌های فناوری برای اصلاح وضعیت.

برخی از مدل‌های هوش مصنوعی اعلام کرده‌اند که دسترسی به تصاویر مستهجن را محدود کرده‌اند.

OpenAI می‌گوید محتوای مستهجن را از داده‌های مورد استفاده برای آموزش ابزار تولید تصویر DALL-E خود حذف کرده است که این امر احتمال سوءاستفاده را محدود می‌کند. این شرکت همچنین درخواست‌ها را فیلتر می‌کند و می‌گوید که کاربران را از ایجاد تصاویر هوش مصنوعی از افراد مشهور و سیاستمداران برجسته منع می‌کند. Midjourney، مدل دیگری است که استفاده از کلمات کلیدی خاص را نیز مسدود می‌کند و کاربران را تشویق می‌کند تا تصاویر مشکل‌ساز را برای مدیران علامت‌گذاری کنند.

در همین حال، Stability AI همچنین به‌روزرسانی‌ای را برای جلوگیری از ایجاد تصاویر حساس توسط کاربران منتشر کرده است. این تغییرات پس از گزارش‌هایی مبنی بر ایجاد عکس‌های برهنه با الهام از افراد مشهور توسط برخی از کاربران با استفاده از این فناوری منتشر شده است.

سخنگوی هوش مصنوعی Stability، موتز بیشارا، گفت که این فیلتر از ترکیبی از کلمات کلیدی و تکنیک‌های دیگر مانند تشخیص تصویر برای تشخیص برهنگی استفاده می‌کند. اما کاربران می‌توانند نرم‌افزار را دستکاری کرده و هر چیزی را که می‌خواهند ایجاد کنند، زیرا این شرکت کد منبع باز این برنامه را منتشر کرده است.

برخی از شرکت‌های رسانه‌های اجتماعی نیز قوانین خود را برای محافظت بهتر از پلتفرم‌های خود در برابر مطالب مضر، سختگیرانه‌تر کرده‌اند.

ماه گذشته، تیک‌تاک اعلام کرد که تمام محتوای دیپ‌فیک یا دستکاری‌شده باید برچسب‌گذاری شوند تا مشخص شود که جعلی است یا به نحوی تغییر داده شده است.

پلتفرم بازی توییچ اخیراً سیاست‌های خود را در مورد تصاویر دیپ‌فیک به‌روزرسانی کرده است، پس از آنکه مشخص شد یک استریمر محبوب به نام آتریوک در اواخر ژانویه در جریان یک پخش زنده، در مرورگر خود به یک وب‌سایت پورن دیپ‌فیک دسترسی داشته است.

اپل و گوگل اخیراً اعلام کردند که یک برنامه را به دلیل پخش ویدیوهای دیپ‌فیک جنسی برای بازاریابی محصولات، از فروشگاه‌های اپلیکیشن خود حذف کرده‌اند.

از خوانندگان غربی گرفته تا آیدل‌های کی‌پاپ.

تحقیقات در مورد پورنوگرافی دیپ‌فیک نادر است، اما گزارشی در سال ۲۰۱۹ توسط شرکت هوش مصنوعی DeepTrace Labs نشان داد که این نوع پورنوگرافی تقریباً به طور کامل علیه زنان به کار گرفته شده است و بازیگران زن غربی بیشترین هدف قرار گرفته‌اند و پس از آنها خوانندگان کی‌پاپ قرار دارند.

دنی لور، سخنگوی متا، در بیانیه‌ای اعلام کرد که سیاست‌های این شرکت، محتوای بزرگسالانه تولید شده توسط هوش مصنوعی و غیر هوش مصنوعی را محدود می‌کند و همچنین صفحه برنامه ساخت دیپ‌فیک را از تبلیغات در پلتفرم خود منع می‌کند.

در ماه فوریه، متا، به همراه وب‌سایت‌های بزرگسالانی مانند Only**** و Porn***، شروع به مشارکت در ابزاری آنلاین به نام Take It Down کردند که به نوجوانان اجازه می‌دهد تصاویر و ویدیوهای مستهجن خود را از اینترنت گزارش دهند. این سایت از پردازش ویدیوهای مخفیانه فیلمبرداری شده و ویدیوهای تولید شده توسط هوش مصنوعی پشتیبانی می‌کند.

هوانگ تون (طبق گزارش آسوشیتدپرس)

منبع