ڈیپ فیک پورن، اے آئی کی دوڑ میں ایک مسئلہ

ڈیپ فیکس مصنوعی ذہانت (AI) یا مشین لرننگ (ML) کا استعمال کرتے ہوئے تخلیق کردہ یا ڈیجیٹل طور پر تبدیل کی گئی ویڈیوز اور تصاویر ہیں۔ اس ٹیکنالوجی کا استعمال کرتے ہوئے تخلیق کیا گیا فحش مواد چند سال پہلے انٹرنیٹ پر اس وقت گردش کرنا شروع ہوا جب ایک Reddit صارف نے مشہور شخصیات کے چہروں پر مشتمل جعلی فحش کلپس شیئر کیں۔

ڈیپ فیک فحش نگاری AI کی دوڑ میں مسائل کا باعث بنتی ہے (تصویر 1) — تصویر: جی آئی

کوئی بھی شکار بن سکتا ہے۔

اس کے بعد سے، ڈیپ فیک تخلیق کاروں نے مسلسل اسی طرح کی ویڈیوز اور تصاویر شائع کی ہیں جو آن لائن اثر انداز کرنے والوں، صحافیوں، اور عوامی پروفائلز کے ساتھ دوسروں کو نشانہ بناتے ہیں۔ ایسی ہزاروں ویڈیوز متعدد ویب سائٹس پر موجود ہیں۔

AI ٹیکنالوجیز کے تیزی سے قابل رسائی ہونے کے ساتھ، یہ صارفین کو اجازت دیتا ہے کہ وہ کسی کو بھی ان کی رضامندی کے بغیر "فحش فلمی ستاروں" میں تبدیل کر سکیں، یا زیادہ خطرناک طور پر، دوسروں کو بدنام کرنے یا بلیک میل کرنے کے لیے اس ٹیکنالوجی کا استعمال کریں۔

ماہرین کا کہنا ہے کہ انٹرنیٹ سے اربوں امیجز پر تربیت یافتہ جنرلائزڈ AI ٹولز کی ترقی اور موجودہ ڈیٹا کا استعمال کرتے ہوئے نیا مواد تیار کرنے سے مسئلہ مزید بڑھ سکتا ہے۔

"حقیقت یہ ہے کہ ٹیکنالوجی پھیلتی رہے گی، ترقی کرتی رہے گی، اور آسان اور زیادہ قابل رسائی ہوتی رہے گی،" EndTAB کے بانی ایڈم ڈوج نے کہا، ایک گروپ جو ٹیکنالوجی کے غلط استعمال پر تربیت فراہم کرتا ہے۔ "اور جب تک یہ جاری رہے گا، لوگ... دوسروں کو نقصان پہنچانے کے لیے اس ٹیکنالوجی کا غلط استعمال کرتے رہیں گے، بنیادی طور پر آن لائن جنسی تشدد، گہری جعلی فحش نگاری، اور جعلی عریانیت کے ذریعے۔"

پرتھ، آسٹریلیا سے تعلق رکھنے والے نویل مارٹن نے خود اس کا تجربہ کیا۔ 28 سالہ لڑکی نے 10 سال قبل اپنی ہی ڈیپ فیک فحش تصاویر دریافت کیں جب تجسس کے باعث اس نے اپنی تصاویر تلاش کرنے کے لیے گوگل کا استعمال کیا۔ مارٹن کا کہنا ہے کہ آج تک وہ نہیں جانتی کہ یہ جعلی فحش تصاویر یا ویڈیوز کس نے بنائی ہیں۔ اسے شبہ ہے کہ کسی نے فحش ویڈیوز بنانے کے لیے اس کے سوشل میڈیا سے تصاویر کا استعمال کیا۔

ویڈیوز ہٹانے کے لیے ویب سائٹس سے رابطہ کرنے کی مارٹن کی کوششوں کے باوجود، اس کی کوششیں بے سود تھیں۔ کچھ نے جواب نہیں دیا۔ دوسروں نے انہیں نیچے اتار دیا لیکن جلدی سے دوبارہ اپ لوڈ کر دیا۔ "آپ جیت نہیں سکتے،" مارٹن نے کہا۔ "یہ ہمیشہ انٹرنیٹ پر رہے گا اور آپ کی زندگی برباد کر سکتا ہے۔"

صورتحال کو ٹھیک کرنے کے لیے ٹیک کمپنیوں کی کوششیں۔

کچھ AI ماڈلز نے اشارہ کیا ہے کہ انہوں نے فحش تصاویر تک رسائی کو محدود کر دیا ہے۔

OpenAI کا کہنا ہے کہ اس نے اپنے DALL-E امیج جنریشن ٹول کو تربیت دینے کے لیے استعمال ہونے والے ڈیٹا سے فحش مواد ہٹا دیا ہے، جو غلط استعمال کے امکانات کو محدود کر دے گا۔ کمپنی درخواستوں کو بھی فلٹر کرتی ہے اور کہتی ہے کہ وہ صارفین کو مشہور شخصیات اور ممتاز سیاستدانوں کی AI تصاویر بنانے سے روکتی ہے۔ Midjourney، ایک اور ماڈل، کچھ مطلوبہ الفاظ کے استعمال کو بھی روکتا ہے اور صارفین کو حوصلہ افزائی کرتا ہے کہ وہ ماڈریٹرز کے لیے پریشانی والی تصاویر کو جھنڈا لگائیں۔

دریں اثنا، Stability AI نے صارفین کو حساس تصاویر بنانے سے روکنے کے لیے ایک اپ ڈیٹ بھی جاری کیا ہے۔ یہ تبدیلیاں ان رپورٹس کے بعد آئی ہیں کہ کچھ صارفین ٹیکنالوجی کا استعمال کرتے ہوئے مشہور شخصیت سے متاثر عریاں تصاویر بنا رہے ہیں۔

اسٹیبلٹی اے آئی کے ترجمان موتیز بشارا نے کہا کہ فلٹر عریانیت کا پتہ لگانے کے لیے کلیدی الفاظ اور دیگر تکنیکوں جیسے تصویر کی شناخت کا مجموعہ استعمال کرتا ہے۔ لیکن صارف سافٹ ویئر میں ہیرا پھیری کر سکتے ہیں اور جو چاہیں بنا سکتے ہیں کیونکہ کمپنی نے ایپلیکیشن کے لیے اوپن سورس کوڈ جاری کر دیا ہے۔

کچھ سوشل میڈیا کمپنیوں نے اپنے پلیٹ فارمز کو نقصان دہ مواد سے بہتر طریقے سے بچانے کے لیے اپنے قوانین کو بھی سخت کیا ہے۔

پچھلے مہینے، TikTok نے کہا کہ تمام ڈیپ فیک یا ہیرا پھیری والے مواد پر لیبل لگانا چاہیے تاکہ یہ ظاہر کیا جا سکے کہ یہ جعلی ہے یا اسے کسی طرح سے تبدیل کیا گیا ہے۔

گیمنگ پلیٹ فارم ٹویچ نے حال ہی میں ڈیپ فیک امیجز پر اپنی پالیسیوں کو اپ ڈیٹ کیا جب Atrioc نامی ایک مشہور اسٹریمر جنوری کے آخر میں لائیو سٹریم کے دوران اپنے براؤزر پر ایک ڈیپ فیک فحش ویب سائٹ تک رسائی حاصل کر رہا تھا۔

ایپل اور گوگل نے حال ہی میں اعلان کیا ہے کہ انہوں نے اپنے ایپ اسٹورز سے ایک ایپ کو ہٹا دیا ہے جو کہ جنسی طور پر تجویز کرنے والے ڈیپ فیک ویڈیوز کو مارکیٹ پروڈکٹس میں چلاتے ہیں۔

مغربی گلوکاروں سے لے کر K-pop کے بتوں تک۔

ڈیپ فیک پورن پر تحقیق نایاب ہے، لیکن اے آئی کمپنی ڈیپ ٹریس لیبز کی 2019 کی رپورٹ میں پتا چلا کہ یہ تقریباً مکمل طور پر خواتین کے خلاف ہتھیاروں سے لیس تھی، جس میں مغربی اداکاراؤں کو سب سے زیادہ نشانہ بنایا گیا، اس کے بعد K-pop گلوکاروں کا نمبر آتا ہے۔

میٹا کے ترجمان ڈینی لیور نے ایک بیان میں کہا کہ کمپنی کی پالیسی AI- اور غیر AI سے تیار کردہ بالغ مواد دونوں کو محدود کرتی ہے، اور ڈیپ فیک تخلیق ایپ کے صفحہ کو اس کے پلیٹ فارم پر اشتہارات سے بھی محدود کرتی ہے۔

فروری میں، Meta نے بالغ ویب سائٹس جیسے Only**** اور Porn** کے ساتھ، ٹیک اٹ ڈاؤن نامی ایک آن لائن ٹول میں حصہ لینا شروع کیا، جو نوجوانوں کو انٹرنیٹ سے اپنی فحش تصاویر اور ویڈیوز کی اطلاع دینے کی اجازت دیتا ہے۔ یہ سائٹ خفیہ طور پر فلمائی گئی ویڈیوز اور AI سے تیار کردہ ویڈیوز دونوں پر کارروائی کی حمایت کرتی ہے۔

ہوانگ ٹن (اے پی کے مطابق)

ماخذ