منافع کے لیے معذور افراد کی نقالی کرنے کے لیے AI کا استعمال: نئے گھوٹالے سے بچو

حال ہی میں، فیس بک اور ٹک ٹاک جیسے سوشل نیٹ ورکنگ پلیٹ فارمز پر، نئے اور بے مثال نفیس گھوٹالے سامنے آئے ہیں۔

یہ برے لوگ ہیں جو مصنوعی ذہانت (AI) ٹیکنالوجی کا استعمال کرتے ہوئے عام لوگوں کے چہروں اور جسموں میں ترمیم کرتے ہیں، انہیں معذور افراد میں تبدیل کرتے ہیں، پھر مصنوعات بیچنے یا مدد کے لیے کال کرنے کے لیے افسوسناک کہانیاں بناتے ہیں۔ واحد مقصد غیر قانونی منافع کے لیے کمیونٹی کی ہمدردی سے فائدہ اٹھانا ہے۔

NL نامی TikTok چینل پر معذور شخص کی طرح نظر آنے کے لیے AI ٹیکنالوجی کے ساتھ ترمیم کی گئی خاتون کی تصویر

نفیس چالیں۔

ایک عام معاملہ جس کی وجہ سے عوامی غم و غصہ پیدا ہوا وہ NL نام کا TikTok چینل تھا، جس نے ایک ایسی عورت کے بارے میں ویڈیوز کی ایک سیریز پوسٹ کی جس میں دونوں بازو کٹے ہوئے تھے، جو اپنے چھوٹے بچوں کی کفالت کے لیے آن لائن مصنوعات فروخت کرنے کی کوشش کر رہی تھی۔ کلپس میں، عورت ایک سادہ کمرے میں، سادہ کپڑے پہنے، مصنوعات متعارف کرانے کے لیے اپنے کٹے ہوئے بازو کا استعمال کرتی نظر آئی، جو دیکھنے والوں کو جذباتی اور ہمدرد بناتی ہے۔ بہت سے لوگوں نے ماں کو مشکلات پر قابو پانے میں مدد کرنے کے لیے پیروی کرنے، بڑے پیمانے پر اشتراک کرنے، اور یہاں تک کہ مصنوعات کا آرڈر دینے کے لیے کلک کرنے میں ہچکچاہٹ محسوس نہیں کی۔ تاہم، جب یہ ویڈیوز وائرل ہوئیں تو آن لائن کمیونٹی نے محسوس کیا کہ یہ دراصل ایک عام سیلز گرل کی تصویر ہے جسے AI ٹیکنالوجی کے ذریعے ایڈٹ کیا گیا تھا تاکہ وہ ایک حقیقی معذور شخص کی طرح دکھائی دے۔

ترس کے جذبات کو اپیل کرنے کی چال ایک ایسا جال بن گئی ہے جو بہت سے لوگوں کو رقم کی منتقلی یا آرڈر دینے کے لیے تیار کرتی ہے کیونکہ وہ سمجھتے ہیں کہ وہ ایک کمزور اور پسماندہ شخص کی مدد کر رہے ہیں۔ مسٹر ڈانگ من کوانگ، نگوک لام اسٹریٹ، بو ڈی وارڈ ( ہانوئی ) نے شیئر کیا: "میری والدہ نے ایک عورت کے کلپ پر یقین کیا جس میں ایک کٹا ہوا بازو سامان فروخت کر رہا تھا، اس لیے انہیں افسوس ہوا اور اس نے اس شخص کے ذریعہ فروخت کردہ کچھ پروڈکٹس کا آرڈر دیا۔ جب اسے حقیقت معلوم ہوئی، کہ معذور شخص صرف AI کی بنائی ہوئی ایک تصویر ہے، تو وہ بہت افسردہ ہوگئیں۔"

کوانگ کی ماں کی کہانی منفرد نہیں ہے۔ اسی طرح سینکڑوں دوسرے لوگوں کو بھی دھوکہ دیا گیا ہے۔ جب مہربانی سے فائدہ اٹھایا جاتا ہے، تو لوگ آہستہ آہستہ ایمان کھو دیتے ہیں اور مدد کے لیے حقیقی کال کرنے سے ہچکچاتے ہیں۔ اور تکلیف دہ نتیجہ یہ ہے کہ کمزوروں کو واقعی شدید تکلیف پہنچتی ہے۔ اپنی ذاتی فیس بک پر، Nguyen Sin نے محترمہ Tran Thi Nga (36 سال کی عمر Phu Tho صوبے میں) کا کیس شیئر کیا - چینل "Nga Tic Cuc" کی مالک جو کہ معذور ہے (2024 کے آخر میں، شدید مایوکارڈائٹس کی وجہ سے، وہ اپنی جان بچانے کے لیے اپنے دونوں بازو اور ٹانگیں کاٹنے پر مجبور ہوگئیں)، بہت سے لوگوں نے اسے باقاعدہ طور پر اس کی مرضی کے مطابق زندگی گزارنے کے لیے جانا جاتا ہے۔ تاہم، AI کا استعمال کرتے ہوئے معذور افراد کی نقالی کرنے کے بہت سے معاملات سامنے آنے کے بعد، محترمہ Nga پر شبہ تھا کہ وہ معذور افراد کی نقالی کرنے کے لیے AI کا استعمال کرتی ہے۔

حالیہ لائیو سٹریمز میں، محترمہ Nga کئی بار اس وقت پریشان ہوئیں جب سوشل میڈیا کے کچھ صارفین نے بار بار ان سے یہ ثابت کرنے کے لیے "ہاتھ اٹھانے" یا "کرال" کرنے کو کہا کہ وہ واقعی معذور ہیں۔ ان غیر معقول اور ظالمانہ درخواستوں نے اسے شدید تکلیف دی۔ "Active Nga" کی کہانی اس بات کا دل دہلا دینے والا ثبوت ہے کہ ٹیکنالوجی کا غلط استعمال کتنا نقصان دہ ہو سکتا ہے۔

AI سے تیار کردہ جعلی مواد کی شناخت کی مہارت

عوامی سلامتی کی وزارت کے مطابق، 2024 میں، ویتنام میں 6,000 سے زیادہ آن لائن فراڈ کے واقعات ریکارڈ کیے گئے، جس سے تقریباً 12,000 بلین VND کا تخمینہ نقصان ہوا۔ 2025 کے صرف 8 مہینوں میں، تقریباً 1500 آن لائن فراڈ کے کیسز بھی دریافت ہوئے۔ یہ تعداد واضح طور پر ہمارے ملک کے تناظر میں ہائی ٹیک جرائم کی خطرناک سطح کی عکاسی کرتی ہے جس میں 78 ملین سے زیادہ انٹرنیٹ صارفین اور 72 ملین سوشل نیٹ ورک صارفین ہیں۔ سائبر اسپیس تیزی سے جدید ترین فراڈ کی چالوں کے لیے ایک زرخیز زمین بنتا جا رہا ہے، جس میں جعلی مواد بنانے کے لیے AI کا استعمال آج سب سے بڑا خطرہ ہے۔

اس خطرناک حقیقت کا سامنا کرتے ہوئے، حکام اور سائبر سیکیورٹی کے ماہرین تجویز کرتے ہیں کہ لوگوں کو جعلی مواد کی شناخت کے لیے خود کو علم اور مہارت سے آراستہ کرنے کی ضرورت ہے۔ لانگ بیئن وارڈ پولیس (ہانوئی) کی یوتھ یونین کے ڈپٹی سکریٹری Nguyen Nhat Ha نے نوٹ کیا کہ لوگوں کو باقاعدگی سے سرکاری معلومات کے ذرائع کی نگرانی کرنی چاہئے، ٹیکنالوجی اور دھوکہ دہی کی نئی شکلوں کے بارے میں اپنے علم کو فعال طور پر اپ ڈیٹ کرنا چاہئے۔ خاص طور پر، انہیں ہمیشہ چوکنا رہنا چاہیے اور بنیادی اصولوں کو یاد رکھنا چاہیے، جو کہ معلومات کے ذرائع کی احتیاط سے تصدیق کرنا، غیر تصدیق شدہ ذرائع کو ذاتی معلومات فراہم نہ کرنا، عجیب و غریب لنکس تک رسائی نہ کرنا، اور غیر تصدیق شدہ اکاؤنٹس میں رقم منتقل نہ کرنا۔

سائبر سیکیورٹی ماہرین کے مطابق AI سے تیار کردہ ویڈیوز کی شناخت کے لیے صارفین کو تصویر کی تفصیلات، چہرے کی حرکات، اعضاء یا آوازوں کا بغور مشاہدہ کرنا چاہیے۔ خالی آنکھیں، غیر فطری حرکات، بولنے میں تاخیر، یا ہونٹوں کی غیر مماثل حرکت جیسی علامات اکثر ڈیپ فیک ٹیکنالوجی کی نشانیاں ہیں۔

اس کے علاوہ، چینل کی طرف سے پوسٹ کی گئی معلومات کو چیک کرنا، تبصرے پڑھنا، اور سرگرمی کی سرگزشت دیکھنا بھی وشوسنییتا کو جانچنے کے آسان طریقے ہیں۔ اس کے ساتھ، صارفین کو یقین کرنے سے پہلے تصدیق کرنے کی عادت ڈالنے کی ضرورت ہے۔ کوئی ویڈیو کتنی ہی جذباتی کیوں نہ ہو، اسے جلد بازی میں شیئر یا سپورٹ نہیں کرنا چاہیے۔

ماہرین نے سوشل میڈیا پلیٹ فارمز سے سنسرشپ کو مضبوط بنانے، ایسے مواد کی نشاندہی کرنے کا بھی مطالبہ کیا جو معذور افراد کی نقالی کرنے کے لیے AI کا استعمال کرتا ہے، اور خلاف ورزی کرنے والے اکاؤنٹس کو سختی سے سنبھالیں۔ حکام کو جلد ہی AI امیجز اور مواد کے استعمال پر واضح ضابطے جاری کرنے کی ضرورت ہے، اس بات کو یقینی بناتے ہوئے کہ ٹیکنالوجی برے اداکاروں کے غیر اخلاقی رویے کا ذریعہ نہ بنے۔

ماخذ: https://hanoimoi.vn/dung-ai-gia-nguoi-khuet-tat-de-truc-loi-canh-giac-chieu-lua-moi-722565.html