سوشل نیٹ ورک ایکس نے فحش تصویر کے واقعے کے بعد کلیدی لفظ ٹیلر سوئفٹ کو بلاک کر دیا۔

اتوار کی سہ پہر سے، سوشل نیٹ ورک X (سابقہ ٹویٹر) کے سرچ باکس میں کلیدی لفظ "ٹیلر سوئفٹ" ٹائپ کرتے وقت صارفین کو "معذرت، ایک غلطی ہو گئی" کا پیغام موصول ہوتا ہے۔

ایکس میں کاروباری آپریشنز کے سربراہ جو بیناروچ نے کہا، "یہ ایک عارضی اقدام ہے جو احتیاط کی کثرت سے اٹھایا گیا ہے کیونکہ ہم اس علاقے میں حفاظت کو ترجیح دیتے ہیں۔"

سوشل نیٹ ورک ایکس فٹ کی ورڈ ٹیلر سوئفٹ آف دی سکینڈل فوٹو شوٹ ماو ہنہ 1 — ٹیلر سوئفٹ 7 جنوری 2024 کو بیورلی ہلز، کیلیفورنیا، امریکہ میں 81ویں سالانہ گولڈن گلوب ایوارڈز میں شرکت کر رہی ہیں۔ تصویر: اے ایف پی

اس سے قبل 25 جنوری کو، سوشل نیٹ ورک ایکس پر ٹیلر سوئفٹ کی ڈیپ فیک AI فحش تصاویر سامنے آئی تھیں۔ نیویارک ٹائمز کی ایک رپورٹ کے مطابق، مصنوعی ذہانت (AI) کے ذریعے بنائی گئی تصاویر کو اگلے دن اکاؤنٹ لاک ہونے سے پہلے 47 ملین تک دیکھا جا چکا تھا۔

X نے جعلی تصاویر کا اشتراک کرنے والے کئی دوسرے اکاؤنٹس کو غیر فعال کر دیا، لیکن جلد ہی یہ تصاویر دوسرے سوشل میڈیا پلیٹ فارمز پر پھیل گئیں۔ "پروٹیکٹ ٹیلر سوئفٹ" تیزی سے ایکس پر ایک ٹرینڈنگ جملہ بن گیا۔

اس اسکینڈل نے وائٹ ہاؤس کو تشویش کا اظہار کرنے پر بھی اکسایا ہے، جس میں آن لائن ہراساں کیے جانے والے متاثرین کے تحفظ کے لیے قانون سازی کا مطالبہ کیا گیا ہے۔ وائٹ ہاؤس کی پریس سکریٹری کرائن جین پیئر نے جمعہ (26 جنوری) کو جعلی تصاویر کو "خطرناک" قرار دیا اور کہا کہ سوشل میڈیا کمپنیوں کی ذمہ داری ہے کہ وہ ایسی غلط معلومات کے پھیلاؤ کو روکیں۔

اسکرین ایکٹرز گلڈ آف امریکہ (SAG-AFTRA) نے بھی اس معاملے پر ایک بیان جاری کرتے ہوئے لکھا: "کسی کی رضامندی کے بغیر جعلی تصاویر، خاص طور پر جنسی نوعیت کی تصاویر بنانا اور تقسیم کرنا غیر قانونی ہونا چاہیے۔ بحیثیت معاشرہ، ہمیں ان ٹیکنالوجیز کو کنٹرول کرنے کا حق ہے، لیکن ہمیں ابھی عمل کرنا چاہیے اس سے پہلے کہ بہت دیر ہو جائے۔"

انٹرنیٹ پر جعلی مشہور شخصیات کی فحش تصاویر کا مسئلہ فوٹو شاپ کی آمد کے بعد سے ہی موجود ہے۔ لیکن یہ AI بوم تھا جس نے یقین دلانے والی حقیقت پسندانہ جعلی تصاویر بنانے کی اس ٹیکنالوجی کی ناقابل یقین صلاحیت کی وجہ سے واقعی تشویش پیدا کردی۔

امریکہ میں، اس وقت صرف نو ریاستوں میں ڈیپ فیکس کی غیر مجاز تخلیق یا اشتراک کے خلاف قوانین موجود ہیں، جو کہ کسی شخص کی مشابہت کی نقل کرنے کے لیے بنائی گئی مصنوعی تصاویر ہیں، زیادہ تر فحش نگاری اور انتخابات میں استعمال کے لیے۔ لیکن AI کے اثرات کا کوئی واضح ضابطہ نہیں ہے۔

ہوائی فوونگ (سی این این، رائٹرز، بل بورڈ کے مطابق)

ماخذ