ڈیپ فیک بہت زیادہ ہے - کوئی بھی AI کی نقالی کی چالوں سے محفوظ نہیں ہے۔

آواز کی نقل، چہرے کی نقل، ہونٹوں کی مطابقت پذیری... AI اب نہ صرف کام اور تفریح ​​کے لیے ہے بلکہ ایک خطرناک تجارتی دھوکہ دہی کا آلہ بنتا جا رہا ہے۔ مشہور شخصیات، ڈاکٹروں، اور یہاں تک کہ راہبوں کی تصاویر بھی AI کی طرف سے سوشل نیٹ ورکس پر مصنوعات فروخت کرنے کے لیے بنائی جا رہی ہیں۔ حقیقی لوگ نہیں جانتے، اور خریدار اعتماد کھو دیتے ہیں۔

سامان بیچنے کے لیے "ادھار چہرہ" ہونا

"اس بات سے کوئی فرق نہیں پڑتا ہے کہ اصل گھٹنا کیسا ہے، صرف ہمارے طریقہ کار کو لاگو کریں، ہم ضمانت دیتے ہیں کہ 7 دنوں کے اندر اس میں نمایاں بہتری آئے گی، اگر یہ مکمل طور پر غیر موثر ہے، تو میں مخلصانہ معافی کے طور پر 1 بلین VND کی تلافی کرنے کو تیار ہوں، اگر آپ کو واقعی کوئی اثر نظر نہیں آتا ہے، تو ہم 100% رقم کی واپسی کا عہد کرتے ہیں اور میں خود بھی 1 بلین VND کی تلافی کرنے کو تیار ہوں، جو مشہور نہیں ہے کہ ہر کسی کے لیے 1 بلین VND کا ارتکاب کیا جائے۔" خاتون گلوکارہ جوڑوں کے درد سے نجات کے لیے مساج کریم پروڈکٹ کا اشتہار دے رہی ہیں لیکن یہ بات قابل ذکر ہے کہ یہ اشتہار مکمل طور پر AI نے بنایا تھا۔

مذکورہ اشتہاری کلپ کو LShop نامی TikTok اکاؤنٹ نے خاتون گلوکارہ کی تصویر، آواز اور باڈی لینگویج کو حقیقت پسندانہ انداز میں استعمال کیا جس کا بغور مشاہدہ کیے بغیر پتہ نہیں چل سکتا۔ اس اکاؤنٹ کے تقریباً 9,000 فالورز ہیں، 67,000 لائکس ہیں اور ہر کلپ کو ہزاروں ویوز ہیں۔ صرف "اشتہار" ویڈیو ، اوپر دی گئی خاتون گلوکارہ کی تصویر کو مستعار لے کر، خریداری کے لیے 1,000 سے زیادہ لائکس اور تقریباً 100 تبصرے حاصل کیے۔

اسی مساج کریم پروڈکٹ کے ساتھ، سیلز چینلز نے ایک اور ڈیپ فیک ورژن بھی "پیدا" کیا، اس بار ایک ڈاکٹر۔ کلپ میں، کردار نے مضبوطی سے عہد کیا: "میں ہنوئی کا سب سے باوقار آرتھوپیڈک ڈاکٹر ہوں اور میں اس بات کی گارنٹی دیتا ہوں کہ انتہائی سنگین مینیسکس کا آنسو بھی صرف 3 دنوں میں مکمل طور پر ٹھیک ہو سکتا ہے۔ یہ جیل ویتنام کی سب سے باوقار آرتھوپیڈک ایسوسی ایشن کی طرف سے تصدیق شدہ ہے"۔ اس لائن کو AI نے دوسرے "ڈاکٹروں" کی ایک سیریز کے لیے دوبارہ بنایا، جس سے ناظرین کے لیے اسے حقیقی سمجھنا آسان ہو گیا۔

کلپ نے تقریباً 4,000 لائکس اور 120 سے زیادہ تبصرے حاصل کیے، لیکن جب ہم نے آرڈر کرنے کی کوشش کرنے کے لیے ٹیکسٹ کیا، تو اکاؤنٹ نے جواب نہیں دیا، اور نہ ہی اس نے تبصرے کے سیکشن میں ناظرین کے ساتھ بات چیت کی، صرف پروڈکٹ کو براہ راست خریداری کے لیے کارٹ میں چھوڑ دیا۔ قابل ذکر بات یہ ہے کہ پروڈکٹ برائے فروخت کی ابتدا چین سے ہوئی تھی اور پروڈکٹ کی معلومات بہت مبہم تھیں۔

گلوکاروں، مشہور شخصیات سے لے کر ڈاکٹروں تک، سبھی کو سیلز چینلز کے ذریعے نقل کیا گیا ہے جو صحت سے متعلق مصنوعات فروخت کرنے کے لیے AI کلپس بناتے ہیں۔

یہیں نہیں رکے، ڈیپ فیک چال روحانی معاملات تک بھی پھیل گئی ہے۔ Phat Phap NM نامی ایک TikTok اکاؤنٹ نے نہ صرف ماسٹر TPH کے لیکچرز کو دوبارہ پوسٹ کیا بلکہ "ماسٹر" فروخت کرنے والی مصنوعات جیسے کہ بودھی کے پتوں اور اگرووڈ بریسلٹس کی تصاویر بنانے کے لیے AI ٹیکنالوجی کا استعمال کیا۔

جب ناظرین نے خریدنے کا کہہ کر تبصرے چھوڑے تو چینل نے جواب دیا: "اگر چیزیں توقع کے مطابق نہیں ہیں، تو میرے اکاؤنٹ کے ڈسپلے سیکشن میں جائیں اور اپنی ضرورت کا انتخاب کریں، چھوٹی تبدیلی کے ساتھ بخل نہ کریں اور بڑی کو نظر انداز کریں۔" اس کے فوراً بعد، اس راہب کو خود ہی یہ واضح کرنے کے لیے بولنا پڑا کہ اس نے کبھی بھی ایسی مصنوعات کی تشہیر نہیں کی اور نہ ہی اس میں ملوث رہا ہے۔

تخلیق اور خلاف ورزی کے درمیان لائن

نیشنل سائبر سیکیورٹی مانیٹرنگ سینٹر (NCSC) کے سائبر سیکیورٹی ماہر Ngo Minh Hieu (Hieu PC) نے کہا کہ سوشل نیٹ ورکس پر پھیلنے والے جعلی اشتہاری کلپس بنیادی طور پر ڈیپ فیک سافٹ ویئر سے بنائے جاتے ہیں۔ یہ سافٹ ویئر نایاب نہیں ہیں، بہت سی خدمات یہاں تک کہ کم لاگت اور بہت آسان آپریشنز کے ساتھ پیکج بھی فراہم کرتی ہیں۔ اگرچہ ڈیجیٹل مواد کی تخلیق اور میڈیا پروڈکشن کے شعبے میں مثبت ایپلی کیشنز موجود ہیں، مسٹر ہیو کے مطابق، مسئلہ یہ ہے کہ کچھ مضامین نے اس ٹیکنالوجی کا فائدہ منفی مقاصد کے لیے اٹھایا ہے جیسے کہ دھوکہ دہی، شناخت کی جعلسازی، جعلی خبریں پھیلانا یا حقیقی نظر آنے والی ویڈیوز کے ذریعے دوسروں کو بدنام کرنا۔

مسٹر ہیو نے ڈیپ فیک کلپس کی شناخت میں مدد کے لیے کچھ اشارے بھی دیے، جیسے کہ ویڈیو میں چہرے کے تاثرات کچھ سخت، منہ کی شکلیں اور حرکتیں جو مکالمے سے میل نہیں کھاتیں... مسٹر ہیو نے خبردار کیا کہ اس سے بھی زیادہ سنگین حالات آئے ہیں جہاں AI کو ڈرانے اور منافع خوری کے مقصد کے لیے حساس ویڈیوز میں متاثرین کے چہروں کو داخل کرنے کے لیے استعمال کیا گیا تھا۔

وکیل ٹران ڈک فوونگ کے مطابق، ہو چی منہ سٹی بار ایسوسی ایشن، مشہور شخصیات (یا مخصوص افراد) کی تصاویر ان کی رضامندی کے بغیر بنانے کے لیے AI کا استعمال کرنا ذاتی حقوق، خاص طور پر تصویر کے حق کی خلاف ورزی ہے، جیسا کہ 2015 کے سول کوڈ کے آرٹیکل 32 میں بیان کیا گیا ہے۔ قانون میں کہا گیا ہے: "افراد کو اپنی تصویر کا حق حاصل ہے۔ کسی فرد کی تصویر کے استعمال پر اس شخص کا اتفاق ہونا چاہیے۔ تجارتی مقاصد کے لیے کسی تصویر کے استعمال کا معاوضہ اس شخص کو دیا جانا چاہیے جس کی تصویر استعمال کی گئی ہو، جب تک کہ فریقین کا کوئی مختلف معاہدہ نہ ہو۔"

اس طرح، اگر سوشل نیٹ ورک اکاؤنٹ کا مالک بغیر اجازت کے اشتہارات یا فروخت کے مقاصد کے لیے حقیقی تصاویر، پرانی ویڈیوز وغیرہ سے AI سے دوبارہ تیار کردہ تصاویر استعمال کرتا ہے، تو اس نے قانون کی خلاف ورزی کی ہے۔ اگر کسی تصویر کا استعمال اس آرٹیکل کی دفعات کی خلاف ورزی کرتا ہے، تو تصویر والے شخص کو حق حاصل ہے کہ وہ عدالت سے درخواست کرے کہ وہ خلاف ورزی کرنے والے، متعلقہ ایجنسیوں، تنظیموں اور افراد کو تصویر کے استعمال کو واپس لینے، تباہ کرنے اور ختم کرنے، نقصانات کی تلافی کرنے، اور قانون کی دفعات کے مطابق دیگر اقدامات کو لاگو کرنے پر مجبور کرنے کا فیصلہ جاری کرے۔

CAM NUONG

ماخذ: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html