ڈیپ فیکس بہت زیادہ ہیں - کوئی بھی AI کی نقالی کی چالوں سے محفوظ نہیں ہے۔

آواز کی نقل، چہرے کی نقل، ہونٹوں کی مطابقت پذیری... AI اب نہ صرف کام اور تفریح ​​کے لیے ہے بلکہ ایک خطرناک تجارتی دھوکہ دہی کا آلہ بنتا جا رہا ہے۔ مشہور شخصیات، ڈاکٹروں، اور یہاں تک کہ راہبوں کی تصاویر بھی AI کی طرف سے سوشل نیٹ ورکس پر مصنوعات فروخت کرنے کے لیے بنائی جا رہی ہیں۔ حقیقی لوگ نہیں جانتے، اور خریدار اعتماد کھو دیتے ہیں۔

سامان بیچنے کے لیے "ادھار چہرہ" ہونا

"اس بات سے کوئی فرق نہیں پڑتا ہے کہ گھٹنے کی اصل حالت کیا ہے، صرف ہمارے طریقہ کار کو لاگو کریں، ہم اس بات کی ضمانت دیتے ہیں کہ 7 دنوں کے اندر اس میں نمایاں بہتری آئے گی، اگر یہ مکمل طور پر غیر موثر ہے، تو میں مخلصانہ معافی کے طور پر 1 بلین VND کی تلافی کرنے کو تیار ہوں، اگر آپ واقعی کوئی اثر نہیں دیکھتے ہیں، تو ہم 100% رقم کی واپسی کا عہد کرتے ہیں اور میں خود بھی 1 بلین VND کی تلافی کرنے کو تیار ہوں، جو مشہور نہیں ہے کہ ہر کسی کے لیے 1 بلین VND کا ارتکاب کیا جائے" خاتون گلوکارہ جوڑوں کے درد سے نجات کے لیے مساج کریم پروڈکٹ کا اشتہار دے رہی ہیں لیکن یہ بات قابل ذکر ہے کہ یہ اشتہار مکمل طور پر AI نے بنایا تھا۔

مندرجہ بالا اشتہاری کلپ کو LShop نامی ایک TikTok اکاؤنٹ نے گلوکار کی تصویر، آواز اور باڈی لینگویج کو حقیقت پسندانہ انداز میں استعمال کیا جس کا بغور مشاہدہ کیے بغیر پتہ نہیں چل سکتا۔ اس اکاؤنٹ کے تقریباً 9,000 فالورز ہیں، 67,000 لائکس ہیں اور ہر کلپ کو ہزاروں ویوز ہیں۔ گلوکار کی تصویر کا استعمال کرتے ہوئے اکیلے "اشتہار" ویڈیو نے خریداری کے لیے 1,000 سے زیادہ لائکس اور تقریباً 100 تبصرے حاصل کیے ہیں۔

اسی مساج کریم پروڈکٹ کے ساتھ، سیلز چینلز نے ایک اور ڈیپ فیک ورژن بھی "پیدا" کیا، اس بار ایک ڈاکٹر۔ کلپ میں، کردار نے مضبوطی سے وعدہ کیا: "میں ہنوئی کا سب سے باوقار آرتھوپیڈک ڈاکٹر ہوں اور میں اس بات کی ضمانت دیتا ہوں کہ سب سے زیادہ سنگین آنسو بھی صرف 3 دنوں میں مکمل طور پر ٹھیک ہو سکتے ہیں۔ یہ جیل ویتنام کی سب سے باوقار آرتھوپیڈک ایسوسی ایشن کی طرف سے تصدیق شدہ ہے"۔ اس لائن کو AI نے دوسرے "ڈاکٹروں" کی ایک سیریز کے لیے دوبارہ بنایا، جس سے ناظرین کے لیے اسے حقیقی سمجھنا آسان ہو گیا۔

کلپ نے تقریباً 4,000 لائکس اور 120 سے زیادہ تبصرے حاصل کیے، لیکن جب ہم نے خریدنے کی کوشش کرنے کے لیے ٹیکسٹ کیا، تو اکاؤنٹ نے جواب نہیں دیا، اور نہ ہی اس نے تبصرے کے سیکشن میں ناظرین کے ساتھ بات چیت کی، صرف پروڈکٹ کو براہ راست خریداری کے لیے کارٹ میں چھوڑ دیا۔ قابل ذکر بات یہ ہے کہ پروڈکٹ برائے فروخت چین سے ہے اور پروڈکٹ کی معلومات بہت مبہم ہیں۔

گلوکاروں، مشہور شخصیات سے لے کر ڈاکٹروں تک، سبھی کو سیلز چینلز کے ذریعے نقل کیا گیا ہے جو صحت سے متعلق مصنوعات فروخت کرنے کے لیے AI کلپس بناتے ہیں۔

یہیں نہیں رکے، ڈیپ فیک چال روحانی معاملات تک بھی پھیل گئی ہے۔ Phat Phap NM نام کا ایک TikTok اکاؤنٹ نہ صرف ماسٹر TPH کے لیکچرز کو دوبارہ پوسٹ کرتا ہے بلکہ بودھی کے پتے اور اگرووڈ بریسلیٹ جیسی "ماسٹر" فروخت کرنے والی مصنوعات کی تصاویر بنانے کے لیے AI ٹیکنالوجی کا استعمال بھی کرتا ہے۔

جب ناظرین نے خریدنے کا کہہ کر تبصرے چھوڑے تو چینل نے جواب دیا: "اگر چیزیں منصوبہ بندی کے مطابق نہیں ہوتی ہیں، تو میرے اکاؤنٹ پر ڈسپلے سیکشن میں جائیں اور اپنی ضرورت کا انتخاب کریں، چھوٹی تبدیلی کے ساتھ بخل نہ کریں اور بڑی کو نظر انداز کریں۔" اس کے فوراً بعد، اس راہب کو خود ہی یہ واضح کرنے کے لیے بولنا پڑا کہ اس نے کبھی بھی ایسی مصنوعات کی تشہیر نہیں کی اور نہ ہی اس میں ملوث رہا ہے۔

تخلیق اور خلاف ورزی کے درمیان لائن

نیشنل سائبر سیکیورٹی مانیٹرنگ سینٹر (NCSC) کے سائبر سیکیورٹی ماہر Ngo Minh Hieu (Hieu PC) نے کہا کہ سوشل نیٹ ورکس پر پھیلنے والے جعلی اشتہاری کلپس بنیادی طور پر ڈیپ فیک سافٹ ویئر سے بنائے جاتے ہیں۔ یہ سافٹ ویئر نایاب نہیں ہے، اور بہت سی خدمات یہاں تک کہ کم لاگت اور بہت آسان آپریشنز کے ساتھ پیکج فراہم کرتی ہیں۔ اگرچہ ڈیجیٹل مواد کی تخلیق اور میڈیا پروڈکشن کے شعبے میں مثبت ایپلی کیشنز موجود ہیں، مسٹر ہیو کے مطابق، مسئلہ یہ ہے کہ کچھ مضامین نے اس ٹیکنالوجی کا فائدہ منفی مقاصد کے لیے اٹھایا ہے جیسے کہ دھوکہ دہی، شناخت کی جعلسازی، جعلی خبریں پھیلانا یا حقیقی نظر آنے والی ویڈیوز کے ذریعے دوسروں کو بدنام کرنا۔

مسٹر ہیو نے ڈیپ فیک کلپس کی شناخت میں مدد کے لیے کچھ اشارے بھی دیے، جیسے کہ ویڈیو میں چہرے کے تاثرات کچھ سخت ہیں، منہ کی شکلیں اور حرکتیں مکالمے سے میل نہیں کھا رہی ہیں... مسٹر ہیو نے خبردار کیا کہ اس سے زیادہ سنگین حالات پیدا ہوئے ہیں جب AI کو ڈرانے، منافع خوری کے مقصد سے حساس ویڈیوز میں متاثرین کے چہروں کو داخل کرنے کے لیے استعمال کیا گیا تھا۔

وکیل ٹران ڈک فوونگ کے مطابق، ہو چی منہ سٹی بار ایسوسی ایشن، مشہور شخصیات (یا مخصوص افراد) کی تصاویر ان کی رضامندی کے بغیر بنانے کے لیے AI کا استعمال کرنا ذاتی حقوق، خاص طور پر تصویر کے حق کی خلاف ورزی ہے، جیسا کہ 2015 کے سول کوڈ کے آرٹیکل 32 میں بیان کیا گیا ہے۔ قانون میں کہا گیا ہے: "افراد کو اپنی تصویر کا حق حاصل ہے۔ کسی فرد کی تصویر کے استعمال کے لیے اس شخص کی رضامندی ہونی چاہیے۔ تجارتی مقاصد کے لیے کسی تصویر کے استعمال کے لیے اس شخص کو معاوضہ ادا کرنا چاہیے جس کی تصویر استعمال کی گئی ہو، جب تک کہ فریقین کے درمیان کوئی دوسرا معاہدہ نہ ہو۔"

اس طرح، اگر سوشل نیٹ ورک اکاؤنٹ کا مالک بغیر اجازت کے اشتہارات یا فروخت کے مقاصد کے لیے حقیقی تصاویر، پرانی ویڈیوز وغیرہ سے AI سے دوبارہ تیار کردہ تصاویر استعمال کرتا ہے، تو اس نے قانون کی خلاف ورزی کی ہے۔ اگر کسی تصویر کے استعمال سے اس آرٹیکل کی شقوں کی خلاف ورزی ہوتی ہے، تو تصویر والے شخص کو عدالت سے درخواست کرنے کا حق حاصل ہے کہ وہ خلاف ورزی کرنے والے، متعلقہ ایجنسیوں، تنظیموں اور افراد کو تصویر کے استعمال کو واپس لینے، تباہ کرنے اور اسے ختم کرنے، نقصانات کی تلافی کرنے، اور قانون کی دفعات کے مطابق دیگر اقدامات کو لاگو کرنے پر مجبور کرنے کا فیصلہ جاری کرے۔

CAM NUONG

ماخذ: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html