گلوکار کی ڈیپ فیک فحش تصاویر وائرل ہونے کے بعد سوشل نیٹ ورک ایکس کو ٹیلر سوئفٹ کی تلاش کو روکنا پڑا۔ ایکس پلیٹ فارم پر ٹیلر سوئفٹ کو تلاش کرتے وقت، صارفین کو ایک ایرر میسج نظر آئے گا اور پیج کو دوبارہ لوڈ کرنے کی درخواست ہوگی۔ X کے بزنس آپریشنز کے ڈائریکٹر Joe Benarroch نے کہا کہ یہ ایک ابتدائی کارروائی ہے اور احتیاط سے کی جا رہی ہے۔

ofdhxx6v.png
ٹیلر سوئفٹ کی عریاں تصاویر کو ہٹانے سے پہلے AI نے X اور Facebook کو فلڈ کر دیا۔ (تصویر: رائٹرز)

ٹیلر سوئفٹ کی AI سے تیار کردہ فحش تصاویر X پر 24 جنوری کو گردش کرنے لگیں، جس نے گلوکار کے مداحوں کو ستارے کی حقیقی تصاویر کی ایک سیریز کو ڈیپ فیک کو "ڈوبنے" کے لیے پوسٹ کرنے پر آمادہ کیا۔ انہوں نے X سے ان تصاویر کو حذف کرنے اور جعلی تصاویر شیئر کرنے والے اکاؤنٹس کی رپورٹ کرنے کے لیے سخت کارروائی کرنے کو بھی کہا۔ نعرہ "ٹیلر سوئفٹ کی حفاظت کریں" بھی پلیٹ فارم پر ایک ٹاپ ٹرینڈ بن گیا۔

ایک دن بعد، رپورٹ کردہ اکاؤنٹس کو معطل یا محدود کر دیا گیا، لیکن پھر بھی X پر AI پورن تلاش کرنا آسان تھا۔

ہفتے کے آخر میں ایک بیان میں، X نے کہا کہ یہ موضوع کی اجازت کے بغیر گرافک تصاویر کے اشتراک پر پابندی لگاتا ہے اور اس طرح کے مواد کے لیے صفر رواداری کی پالیسی ہے۔ بیان میں سوئفٹ کا نام نہیں لیا گیا۔

"ہماری ٹیم فعال طور پر ان تمام تصاویر کو ہٹا رہی ہے جن کی شناخت کی گئی ہے اور ان اکاؤنٹس کے خلاف مناسب کارروائی کر رہی ہے جنہوں نے انہیں پوسٹ کیا ہے۔ ہم اس بات کو یقینی بنانے کے لیے صورت حال پر گہری نظر رکھیں گے کہ کسی بھی مزید خلاف ورزی پر فوری طور پر توجہ دی جائے اور مواد کو ہٹا دیا جائے،" X نے کہا۔

تخلیقی AI میں پیشرفت نے دوسرے لوگوں کی جعلی فحش تصاویر کو آسان بنا دیا ہے۔ ایکس کے ساتھ، 2022 میں ایلون مسک کے کنٹرول میں آنے کے بعد، سنسرشپ کے بہت سے ضابطوں میں نرمی کی گئی ہے، جبکہ اس نے اپنے مالیات کو مستحکم کرنے کے لیے ہزاروں ملازمین کو فارغ کر دیا ہے۔

این بی سی نیوز کے مطابق، یہ واضح نہیں ہے کہ ٹیلر سوئفٹ کی ڈیپ فیک تصاویر کی ابتدا کہاں سے ہوئی، لیکن ان پر واٹر مارک کیا گیا تاکہ یہ ظاہر کیا جا سکے کہ وہ مشہور شخصیات کی جعلی فحش تصاویر تقسیم کرنے والی ویب سائٹ سے آئی ہیں۔ ویب سائٹ میں AI ڈیپ فیکس کے لیے وقف ایک سیکشن بھی ہے۔ سوئفٹ کی جعلی تصاویر کو پوسٹ کیے جانے کے 19 گھنٹے بعد 27 ملین سے زیادہ بار دیکھا گیا اور 260,000 سے زیادہ بار لائیک کیا گیا۔

اس واقعے کے بعد، مائیکروسافٹ کے سی ای او ستیہ ناڈیلا نے AI کو ریگولیٹ کرنے کے لیے مزید گارڈریلز لگانے کا مطالبہ کیا۔ این بی سی نیوز کے ساتھ ایک انٹرویو میں، انہوں نے دلیل دی کہ ہماری ذمہ داری ہے کہ ہم اس ابھرتی ہوئی ٹیکنالوجی کی نگرانی کریں تاکہ زیادہ محفوظ مواد تیار کیا جا سکے۔

سوئفٹ کے ڈیپ فیک کے بارے میں ایک سوال کے جواب میں، مائیکروسافٹ کے سربراہ نے کہا: "ہاں، ہمیں کام کرنا ہے۔ میرے خیال میں ہم سب کو ایک محفوظ آن لائن دنیا سے فائدہ ہوتا ہے۔ مجھے نہیں لگتا کہ کوئی بھی ایسی آن لائن دنیا چاہتا ہے جو مواد بنانے والوں اور مواد کے صارفین دونوں کے لیے مکمل طور پر غیر محفوظ ہو۔ اس لیے میں سمجھتا ہوں کہ ہمیں اس مسئلے پر فوری کارروائی کرنے کی ضرورت ہے۔"

404 میڈیا کے مطابق، ایک ٹیلی گرام چیٹ گروپ نے کہا کہ اس نے ٹیلر کی تصویر کو جعلی بنانے کے لیے مائیکروسافٹ کے AI سے تیار کردہ ڈیزائنر ٹول کا استعمال کیا۔ مسٹر نڈیلا نے 404 میڈیا کی معلومات پر براہ راست تبصرہ نہیں کیا، لیکن نیوز سائٹ کو بھیجے گئے ایک بیان میں، مائیکروسافٹ نے شیئر کیا کہ وہ اس رپورٹ کی تحقیقات کر رہا ہے اور مناسب کارروائی کرے گا۔

امریکی صدر جو بائیڈن کی انتظامیہ نے ٹیلر سوئفٹ کی فحش ڈیپ فیک کے پھیلاؤ کو "خطرناک" قرار دیا اور سوشل میڈیا کمپنیوں سے مطالبہ کیا کہ وہ بغیر رضامندی کے غلط معلومات اور حساس تصاویر کے پھیلاؤ کو روکنے کے لیے ضوابط کے نفاذ میں اپنے "اہم کردار" کا جائزہ لیں۔

اکتوبر 2023 میں، صدر بائیڈن نے AI پر ایک ایگزیکٹو آرڈر پر دستخط کیے جو ابھرتی ہوئی ٹیکنالوجی اور اس کے خطرات کو کنٹرول کرنے پر مرکوز ہے۔

(دی ہل، ڈبلیو ایس جے کے مطابق)