X نے متعدد AI ڈیپ فیک امیجز کی موجودگی کی وجہ سے ٹیلر سوئفٹ کی تلاش کو روک دیا۔

نیووین کے مطابق، ایکس نے 27 جنوری سے شروع ہونے والی ٹیلر سوئفٹ کی تمام تلاشوں کو روکنے کا بے مثال قدم اٹھایا ہے۔ اس معلومات کی تصدیق X کے بزنس آپریشنز کے سربراہ جو بیناروچ نے وال اسٹریٹ جرنل کو دیے گئے ایک بیان میں کی۔ بیناروچ کے مطابق، یہ صرف ایک عارضی اقدام ہے اور اسے انتہائی احتیاط کے ساتھ اٹھایا جا رہا ہے کیونکہ کمپنی اس معاملے میں حفاظت کو ترجیح دیتی ہے۔

X chặn tìm kiếm Taylor Swift do có nhiều hình ảnh AI deepfake- Ảnh 1. — ٹیلر سوئفٹ کی جعلی ڈیپ فیک تصاویر انٹرنیٹ پر دھوم مچا رہی ہیں۔

بیناروچ نے مزید کہا کہ سوشل میڈیا پلیٹ فارم پر جعلی تصاویر آنے کے بعد سوئفٹ کے مداحوں نے گلوکار کی حقیقی تصاویر X پر شیئر کیں۔ انہوں نے ان اکاؤنٹس کی اطلاع دینے کی بھی کوشش کی جو گہری جعلی تصاویر پھیلا رہے تھے۔

ٹیلر سوئفٹ کی تمام تلاشوں کو بلاک کرنے کے X کے فیصلے کے بعد، مائیکروسافٹ کے سی ای او ستیہ نڈیلا نے این بی سی کے ساتھ ایک انٹرویو میں گلوکار کی AI سے تیار کردہ تصاویر کے سیلاب پر وزن کیا۔ انہوں نے دلیل دی کہ لوگوں کو ایک محفوظ آن لائن دنیا بنانے کے لیے کارروائی کرنے کی ضرورت ہے، لہذا کمپنیوں کو اس طرح کے اقدامات کو تیز کرنے کی ضرورت ہے۔

خاص طور پر، 404Media کی ایک رپورٹ میں دعویٰ کیا گیا ہے کہ X پر گردش کرنے والی ٹیلر سوئفٹ کی ڈیپ فیک تصاویر کو ایک گروپ نے مائیکروسافٹ ڈیزائنر یعنی AI پر مبنی تصویر بنانے کا ٹول استعمال کرتے ہوئے بنایا تھا۔ مائیکروسافٹ نے این بی سی کو بتایا کہ اس صورت حال کے بارے میں اس کی اپنی تحقیقات جاری ہیں اور مزید کہا کہ اس نے ٹیکسٹ فلٹرنگ پرامپٹس کو بڑھانے اور اس واقعے میں کمپنی کی خدمات کے غلط استعمال سے نمٹنے کے لیے اقدامات کیے ہیں۔

ماخذ لنک