ڈیپ فیک پورن، اے آئی کی دوڑ میں ایک مسئلہ

ڈیپ فیکس ایسی ویڈیوز اور تصاویر ہیں جو مصنوعی ذہانت (AI) یا مشین لرننگ (ML) کا استعمال کرتے ہوئے ڈیجیٹل طور پر بنائی یا تبدیل کی جاتی ہیں۔ ٹیکنالوجی کا استعمال کرتے ہوئے بنائی گئی فحش نگاری چند سال پہلے انٹرنیٹ پر گردش کرنے لگی تھی جب ایک Reddit صارف نے مشہور شخصیات کے چہروں کے ساتھ جعلی فحش کلپس شیئر کی تھیں۔

مقابلے کی تصویر 1 میں ڈیپ فیک اب بھی مشکل ہے۔ — تصویر: جی آئی

کوئی بھی شکار ہو سکتا ہے۔

اس کے بعد سے، ڈیپ فیک تخلیق کاروں نے اسی طرح کی ویڈیوز اور تصاویر پوسٹ کرنا جاری رکھا ہے جو آن لائن اثر انداز کرنے والوں، صحافیوں اور عوامی پروفائلز کے ساتھ دوسروں کو نشانہ بناتے ہیں۔ ایسی ہزاروں ویڈیوز متعدد ویب سائٹس پر موجود ہیں۔

AI ٹیکنالوجیز کے تیزی سے قابل رسائی ہونے کے ساتھ، یہ صارفین کو اجازت دیتا ہے کہ وہ کسی کو بھی اپنی مرضی کے بغیر "فحش ستاروں" میں تبدیل کر سکیں، یا زیادہ خطرناک طور پر، دوسروں کو بدنام کرنے یا بلیک میل کرنے کے لیے ٹیکنالوجی کا استعمال کریں۔

ماہرین کا کہنا ہے کہ یہ مسئلہ پیدا کرنے والے AI ٹولز کی ترقی کے ساتھ مزید بڑھ سکتا ہے جو انٹرنیٹ سے اربوں تصاویر پر تربیت یافتہ ہیں اور موجودہ ڈیٹا کا استعمال کرتے ہوئے نیا مواد تیار کرتے ہیں۔

"حقیقت یہ ہے کہ ٹیکنالوجی پھیلتی رہے گی، یہ ترقی کرتی رہے گی، اور یہ مزید آسانی سے دستیاب اور قابل رسائی ہوتی رہے گی،" EndTAB کے بانی ایڈم ڈوج نے کہا، ایک گروپ جو ٹیکنالوجی کے غلط استعمال پر تربیت فراہم کرتا ہے۔ "اور جب تک یہ جاری رہے گا، لوگ بلاشبہ … دوسروں کو نقصان پہنچانے کے لیے اس ٹیکنالوجی کا غلط استعمال کرتے رہیں گے، بنیادی طور پر آن لائن جنسی تشدد، گہری جعلی فحش نگاری، اور جعلی عریاں۔"

پرتھ، آسٹریلیا کی نوئل مارٹن نے اس حقیقت کا تجربہ کیا ہے۔ 28 سالہ نوجوان نے 10 سال پہلے اپنے آپ سے ڈیپ فیک پورن دریافت کیا جب تجسس کی وجہ سے اس نے ایک دن اپنی تصویر گوگل کی۔ آج تک، مارٹن کا کہنا ہے کہ انہیں یہ معلوم نہیں ہے کہ جعلی فحش تصاویر یا ویڈیوز کس نے بنائی ہیں۔ اسے شبہ ہے کہ کسی نے اس کی سوشل میڈیا تصاویر کو فحش ویڈیوز بنانے کے لیے استعمال کیا۔

مارٹن نے ویڈیوز ہٹانے کے لیے سائٹس سے رابطہ کرنے کی کوشش کی، لیکن اس کی کوششیں بے سود رہیں۔ کچھ نے جواب نہیں دیا۔ دوسروں نے انہیں نیچے اتارا لیکن جلدی سے دوبارہ پوسٹ کر دیا۔ "آپ جیت نہیں سکتے،" محترمہ مارٹن نے کہا۔ "یہ ہمیشہ کے لیے انٹرنیٹ پر رہے گا اور یہ آپ کی زندگی کو تباہ کر سکتا ہے۔"

مسئلہ کو حل کرنے کے لیے ٹیک کمپنیوں کی کوششیں۔

کچھ AI ماڈلز کا کہنا ہے کہ انہوں نے فحش تصاویر تک رسائی کو محدود کر دیا ہے۔

OpenAI نے کہا کہ اس نے اپنے DALL-E امیج جنریٹر کو تربیت دینے کے لیے استعمال ہونے والے ڈیٹا سے فحش مواد ہٹا دیا، جس سے اس کے غلط استعمال ہونے کے امکانات کو محدود کرنا چاہیے۔ کمپنی درخواستوں کو بھی فلٹر کرتی ہے اور کہتی ہے کہ وہ صارفین کو مشہور شخصیات اور ممتاز سیاستدانوں کی AI تصاویر بنانے سے روکتی ہے۔ ایک اور ماڈل، Midjourney، بعض مطلوبہ الفاظ کے استعمال کو بھی روکتا ہے اور صارفین کی حوصلہ افزائی کرتا ہے کہ وہ ماڈریٹرز کو پریشانی والی تصاویر کو جھنڈا دیں۔

دریں اثنا، Stability AI نے ایک اپ ڈیٹ بھی متعارف کرایا ہے جو صارفین کو واضح تصاویر بنانے سے روکتا ہے۔ یہ تبدیلیاں ان رپورٹس کے بعد آئی ہیں کہ کچھ صارفین مشہور شخصیت سے متاثر عریاں بنانے کے لیے ٹیکنالوجی کا استعمال کر رہے ہیں۔

سٹیبلٹی اے آئی کے ترجمان موتیز بشارا نے کہا کہ فلٹر عریانیت کا پتہ لگانے کے لیے کلیدی الفاظ اور تصویر کی شناخت جیسی دیگر تکنیکوں کے امتزاج کا استعمال کرتا ہے۔ لیکن صارفین سافٹ ویئر کو موافق بنا سکتے ہیں اور جو چاہیں بنا سکتے ہیں، کیونکہ کمپنی نے ایپ کا اوپن سورس کوڈ جاری کر دیا ہے۔

کچھ سوشل میڈیا کمپنیوں نے اپنے پلیٹ فارمز کو نقصان دہ مواد سے بہتر طریقے سے بچانے کے لیے قوانین کو بھی سخت کیا ہے۔

پچھلے مہینے، ٹِک ٹِک نے کہا کہ تمام ڈیپ فیک یا ہیرا پھیری والے مواد پر لیبل لگانا چاہیے تاکہ یہ ظاہر کیا جا سکے کہ یہ جعلی ہے یا کسی طرح تبدیل کیا گیا ہے۔

گیمنگ پلیٹ فارم ٹویچ نے بھی حال ہی میں ڈیپ فیک امیجز پر اپنی پالیسیوں کو اپ ڈیٹ کیا جب Atrioc نامی ایک مشہور اسٹریمر جنوری کے آخر میں لائیو اسٹریم کے دوران اپنے براؤزر پر ڈیپ فیک پورن سائٹ کھولتے ہوئے پکڑا گیا۔

ایپل اور گوگل نے کہا کہ انہوں نے حال ہی میں اپنی مصنوعات کی مارکیٹنگ کے لیے جنسی طور پر تجویز کرنے والے ڈیپ فیک ویڈیوز چلانے کے لیے اپنے ایپ اسٹورز سے ایک ایپ کو ہٹا دیا ہے۔

مغربی گلوکار سے K-pop کے آئیڈیل تک۔

ڈیپ فیک پورن پر تحقیق نایاب ہے، لیکن اے آئی کمپنی ڈیپ ٹریس لیبز کی 2019 کی رپورٹ میں پتا چلا کہ یہ تقریباً مکمل طور پر خواتین کے خلاف ہتھیاروں سے لیس تھی، جس میں مغربی اداکاراؤں کو سب سے زیادہ نشانہ بنایا گیا، اس کے بعد K-pop گلوکاروں کا نمبر آتا ہے۔

میٹا کے ترجمان ڈینی لیور نے ایک بیان میں کہا کہ کمپنی کی پالیسیاں AI- اور غیر AI سے تیار کردہ بالغ مواد دونوں کو محدود کرتی ہیں، اور یہ ڈیپ فیک بنانے والی ایپ کے صفحہ کو اپنے پلیٹ فارم پر اشتہار دینے سے روکتی ہے۔

فروری میں، Meta، نیز بالغوں کی سائٹس جیسے Only**** اور Porn**، نے ٹیک اٹ ڈاؤن نامی ایک آن لائن ٹول میں حصہ لینا شروع کیا، جو نوجوانوں کو انٹرنیٹ سے اپنی جنسی طور پر واضح تصاویر اور ویڈیوز کی اطلاع دینے کی اجازت دیتا ہے۔ یہ سائٹ خفیہ طور پر فلمائی گئی ویڈیوز اور AI سے تیار کردہ ویڈیوز دونوں کو سپورٹ کرتی ہے۔

ہوانگ ٹن (اے پی کے مطابق)

ماخذ