YouTube نے تصاویر اور آوازوں کو ڈیپ فیکس سے بچانے کے لیے 'Likeness detection' ٹول لانچ کیا۔

ڈیپ فیک ویڈیوز کا پھیلاؤ اصلی اور جعلی کے درمیان لائن کو دھندلا کر رہا ہے۔ مشہور شخصیات سے لے کر مواد تخلیق کرنے والوں تک، ہر کوئی اس ٹیکنالوجی کا شکار ہو سکتا ہے۔

اس حقیقت کا سامنا کرتے ہوئے، YouTube اور بہت سے دوسرے آن لائن پلیٹ فارم تخلیقی آزادی اور ڈیجیٹل شناخت کے کنٹرول کے درمیان توازن تلاش کرنے کی کوشش کر رہے ہیں۔

YouTube ایک AI سے چلنے والے نقالی کا پتہ لگانے والے ٹول کی جانچ کر رہا ہے۔

یوٹیوب نے ایک نیا فیچر متعارف کرایا ہے جس کا نام 'Likeness Detection' ہے، جس کا ترجمہ چہرے کی خصوصیات اور آواز میں مماثلت کی شناخت کے طور پر کیا جاسکتا ہے۔ جب تخلیق کاروں کو ایسی ویڈیوز دریافت ہوتی ہیں جو ان کی تصویر یا آواز کی نقالی کے آثار دکھاتی ہیں، تو وہ اس ٹول کے ذریعے براہ راست تصدیق کی درخواست جمع کرا سکتے ہیں۔

درخواست گزار کے اصل پروفائل کے ساتھ چہرے اور آواز کے ڈیٹا کا موازنہ کرنے کے لیے سسٹم مصنوعی ذہانت کے ماڈل کا استعمال کرے گا۔ اگر نتائج اعلیٰ درجے کی مماثلت دکھاتے ہیں، تو ویڈیو کو مزید جائزہ کے لیے YouTube کے ماڈریشن ڈیپارٹمنٹ کو بھیجا جائے گا۔

اس سے جائز مواد کے حادثاتی طور پر حذف ہونے کو کم کرنے میں مدد ملتی ہے اور ڈیپ فیک کا پتہ لگانے کی درستگی میں اضافہ ہوتا ہے۔

کاپی رائٹ کی خلاف ورزی یا خلاف ورزی کرنے والے مواد کی اطلاع دینے کے پچھلے ٹولز کے برعکس، نئی شناخت کی خصوصیت ذاتی شناخت پر مرکوز ہے۔ جن کی نقالی کی جا رہی ہے انہیں تصاویر یا مواد کی ملکیت ثابت کرنے کی ضرورت نہیں ہے۔ انہیں صرف اپنے چہرے یا آواز کے غیر مجاز استعمال کی تصدیق کرنے کی ضرورت ہے۔

یوٹیوب کے مطابق، اس ٹول کا مقصد تخلیق کاروں کو دوبارہ کنٹرول دینا ہے، تصویر اور آواز کی ترکیب کی ٹیکنالوجی کا استعمال کرتے ہوئے ویڈیوز کی بڑھتی ہوئی تعداد کے تناظر میں جو ناظرین کے لیے اصلی اور نقلی میں فرق کرنا مشکل بنا دیتا ہے۔ توقع ہے کہ اگلے سال دوسرے خطوں میں توسیع کرنے سے پہلے اس ٹول کو آہستہ آہستہ امریکہ میں متعارف کرایا جائے گا۔

ڈیپ فیک لہر سے نمٹنے کے لیے اقدامات

ڈیپ فیکس اب تفریحی ویڈیوز یا طنزیہ تک محدود نہیں رہے ہیں۔ صرف چند سالوں میں، ٹیکنالوجی کو دھوکہ دہی، سیاسی مقاصد اور معلومات میں ہیرا پھیری کے لیے استعمال کیا گیا ہے۔ مشہور شخصیات کے اشتہارات یا حساس مواد میں ان کے چہرے کٹے ہوئے، یا حتیٰ کہ ان کی آوازوں کو جعلی بنانے کے بہت سے واقعات نے جو کچھ وہ آن لائن دیکھتے ہیں اس کی وشوسنییتا کے بارے میں خدشات کو جنم دیا ہے۔

اس لہر کے جواب میں، سوشل میڈیا پلیٹ فارمز اجتماعی طور پر ردعمل ظاہر کرنے کے طریقے تلاش کر رہے ہیں۔ میٹا نے مصنوعی ذہانت سے تیار کردہ ویڈیوز کو "AI-generated" کے طور پر لیبل کرنے کے منصوبوں کا اعلان کیا ہے، جبکہ TikTok نے اپنے خلاف ورزی کی رپورٹنگ سیکشن میں "AI-generated" آپشن شامل کیا ہے، جس سے صارفین کو جعلی ویڈیوز کی رپورٹ کرنا آسان ہو گیا ہے۔ YouTube کے لیے، یہ ڈیپ فیکس کی وسیع اور مشکل سے قابو پانے والی لہر سے نمٹنے کے لیے ایک فعال قدم ہے۔

اس فیچر کا رول آؤٹ AI کی عمر میں مواد کے اعتدال کے معیارات کو نئے سرے سے متعین کرنے کی YouTube کی کوشش کو بھی ظاہر کرتا ہے۔ یہ پلیٹ فارم نہ صرف خلاف ورزی کرنے والی ویڈیوز کو ہینڈل کرتا ہے بلکہ تخلیق کاروں کو ان کی ڈیجیٹل شناخت کے تحفظ میں آواز دینے کے لیے میکانزم بھی بناتا ہے۔

میڈیا کے کچھ ماہرین اسے اس علامت کے طور پر دیکھتے ہیں کہ ٹیک کمپنیوں نے "AI کو اپنانے" سے "AI کے اثرات کو کنٹرول کرنے" کی طرف جانا شروع کر دیا ہے۔

تاہم، عالمی سطح پر ڈیپ فیک کا پتہ لگانے والے ٹولز کو لاگو کرنا آسان نہیں ہے۔ ممالک کے درمیان ڈیٹا کے تحفظ کے قوانین میں فرق اور نقصان دہ جعلی مواد کی تشکیل کی پیچیدگی YouTube کے لیے عمل درآمد کے عمل میں چیلنجز ہوں گی۔

تخلیقی صلاحیتوں اور سنسرشپ کے درمیان لائن

ڈیپ فیکس کے خلاف لڑائی مواد کی تخلیق کی حدود کے بارے میں سوالات اٹھاتی ہے۔ بہت سے ویڈیو پروڈیوسرز کو خدشہ ہے کہ خود کار طریقے سے پتہ لگانے والے ٹولز AI سے چلنے والی جائز مصنوعات کو متاثر کر سکتے ہیں، جیسے مختصر فلمیں یا تصویری ویڈیوز۔ تخلیقی صلاحیتوں اور جعلسازی کے درمیان لائن کے طور پر، پلیٹ فارمز کو تخلیقی آزادی کو نقصان پہنچائے بغیر صارفین کی حفاظت کے طریقے تلاش کرنے چاہئیں۔

YouTube کا اصرار ہے کہ شناختی ٹول کا مقصد تخلیقی صلاحیتوں کو محدود کرنا نہیں ہے بلکہ ذاتی تصویر کو کنٹرول کرنے کے حق کا تحفظ کرنا ہے۔ تاہم ماہرین کا کہنا ہے کہ اس بات کا تعین کرنا کہ کیا نقصان دہ ہے اور کیا جائز تخلیق ایک بڑا چیلنج رہے گا۔

جعلی بنانے کی ٹیکنالوجی اور ان کا پتہ لگانے کے لیے ٹیکنالوجی کے درمیان دوڑ جاری رہنے کا امکان ہے، اور یوٹیوب کا نیا ٹول بڑھتے ہوئے ورچوئل دور میں صداقت کو برقرار رکھنے کی کوشش میں صرف ایک چھوٹا سا قدم ہے۔

تھانہ تھو

ماخذ: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm