سوشل نیٹ ورک ایکس نے فحش تصویر کے واقعے کے بعد کلیدی لفظ ٹیلر سوئفٹ کو بلاک کر دیا۔

اتوار کی سہ پہر سے، سوشل نیٹ ورک X (سابقہ ٹویٹر) کے سرچ باکس میں کلیدی لفظ "ٹیلر سوئفٹ" ٹائپ کرتے وقت صارفین کو "معذرت، ایک غلطی ہو گئی" کا پیغام موصول ہوتا ہے۔

ایکس میں بزنس آپریشنز کے سربراہ جو بیناروچ نے کہا، "یہ ایک عارضی اقدام ہے جو احتیاط کی کثرت سے اٹھایا گیا ہے کیونکہ ہم اس معاملے میں حفاظت کو ترجیح دیتے ہیں۔"

سوشل نیٹ ورک ایکس کلیدی لفظ ٹیلر سوئفٹ ماو ہن 1 کی اسکینڈل تصویر کے بعد — ٹیلر سوئفٹ 7 جنوری 2024 کو بیورلی ہلز، کیلیفورنیا، امریکہ میں 81ویں سالانہ گولڈن گلوب ایوارڈز میں شرکت کر رہی ہیں۔ تصویر: اے ایف پی

اس سے قبل 25 جنوری کو، سوشل نیٹ ورک ایکس پر ٹیلر سوئفٹ کی ڈیپ فیک AI فحش تصاویر سامنے آئی تھیں۔ نیویارک ٹائمز کی ایک رپورٹ کے مطابق، مصنوعی ذہانت (AI) کے ذریعے بنائی گئی تصاویر کو اگلے دن اکاؤنٹ لاک ہونے سے پہلے 47 ملین تک دیکھا گیا تھا۔

X نے جعلی تصاویر کا اشتراک کرنے والے کئی دوسرے اکاؤنٹس کو غیر فعال کر دیا، لیکن جلد ہی یہ تصاویر دوسرے سوشل میڈیا پلیٹ فارمز پر پھیل گئیں۔ "پروٹیکٹ ٹیلر سوئفٹ" تیزی سے ایکس پر ایک ٹرینڈنگ جملہ بن گیا۔

اس اسکینڈل نے وائٹ ہاؤس کو تشویش کا اظہار کرنے پر بھی اکسایا ہے، جس میں آن لائن ہراساں کیے جانے والے متاثرین کے تحفظ کے لیے قانون سازی کا مطالبہ کیا گیا ہے۔ وائٹ ہاؤس کی پریس سکریٹری کرائن جین پیئر نے جمعہ (26 جنوری) کو جعلی تصاویر کو "خطرناک" قرار دیا اور کہا کہ سوشل میڈیا کمپنیوں کی ذمہ داری ہے کہ وہ ایسی غلط معلومات کے پھیلاؤ کو روکیں۔

اسکرین ایکٹرز گلڈ آف امریکہ (SAG-AFTRA) نے بھی اس معاملے پر ایک بیان جاری کیا، جس میں لکھا: "کسی کی رضامندی کے بغیر جعلی تصاویر، خاص طور پر فحش نوعیت کی تصاویر بنانا اور تقسیم کرنا غیر قانونی ہونا چاہیے۔ بحیثیت معاشرے، ہمیں ان ٹیکنالوجیز کو کنٹرول کرنے کا حق ہے، لیکن ہمیں ابھی عمل کرنا چاہیے اس سے پہلے کہ بہت دیر ہو جائے۔"

انٹرنیٹ پر جعلی مشہور شخصیات کی فحش تصاویر کا مسئلہ فوٹو شاپ کی آمد کے بعد سے ہی موجود ہے۔ لیکن یہ AI کا عروج تھا جس نے یقین دلانے والی حقیقت پسندانہ جعلی تصاویر بنانے کی اس ٹیکنالوجی کی ناقابل یقین صلاحیت کی وجہ سے واقعی خدشات کو جنم دیا۔

امریکہ میں، اس وقت صرف نو ریاستوں میں ڈیپ فیکس کی غیر مجاز تخلیق یا اشتراک کے خلاف قوانین موجود ہیں، جو کہ کسی شخص کی مشابہت کی نقل کرنے کے لیے بنائی گئی مصنوعی تصاویر ہیں، زیادہ تر فحش مواد اور انتخابات سے متعلق ہیں۔ لیکن AI کے اثرات پر کوئی واضح ضابطہ نہیں ہے۔

ہوائی فوونگ (سی این این، رائٹرز، بل بورڈ کے مطابق)

ماخذ