تصاویر، ویڈیوز سے لے کر AI گانوں تک: سوشل نیٹ ورکس پر AI مواد کے 'طوفان' سے بچو

مصنوعی ذہانت (AI) کا آن لائن تجارتی سرگرمیوں میں فائدہ اٹھایا جا رہا ہے، فروخت سے لے کر چیریٹی فراڈ تک، ریگولیٹرز اور کاروباری اداروں کو مصنوعی مواد کے دور میں خطرات کی شناخت اور ان پر قابو پانے کے لیے فوری حل تلاش کرنے پر مجبور کر رہے ہیں۔

زیادہ سے زیادہ تصاویر اور ویڈیوز جو AI کے ذریعے ایڈٹ اور شامل کی گئی ہیں ان کو سوشل نیٹ ورکس پر پوسٹ کیا جاتا ہے تاکہ آراء کو اپنی طرف متوجہ کیا جا سکے - تصویر: DUC THIEN

اگر ماضی میں، جعلی تصویر بنانے کے لیے، عام صارفین کو فوٹوشاپ کے ماہرین کی خدمات حاصل کرنا پڑتی تھیں، آج AI کے ساتھ، 5 منٹ سے بھی کم وقت میں اور کچھ بنیادی مہارتوں کے ساتھ، جعلی تصاویر کا ایک سیٹ ہر جگہ ظاہر ہو سکتا ہے۔

جب AI تصاویر، ویڈیوز، گانے... تخلیق کرتا ہے تو اس پر یقین کرنا مشکل ہوتا ہے۔

ہر روز فیس بک پر باقاعدگی سے سرفنگ کرتے ہوئے، محترمہ ہون مائی (HCMC) - ایک مواصلاتی عملہ - نے کہا کہ صارفین کی طرف سے پوسٹ کیے جانے والے AI ٹولز کی مداخلت سے زیادہ سے زیادہ مواد موجود ہے۔

"دوستوں یا گروپ ممبرز کی طرف سے پوسٹ کی گئی بہت سی تصاویر ہیں جو اتنی حقیقی ہیں کہ میں یہ نہیں بتا سکتا کہ اگر AI استعمال کیا گیا تھا اگر وہ ایسا نہ کہتے۔ یہاں تک کہ زیادہ سے زیادہ ویڈیوز، اینیمیشنز، تخیلات سے لے کر مختصر فلموں تک، یا حقیقی زندگی میں پیش آنے والے واقعے سے متعلق ویڈیوز AI ٹولز کے ذریعے بنائی جاتی ہیں لیکن میں جان نہیں پاوں گی،" محترمہ نے شیئر کیا۔

صرف تصاویر اور ویڈیوز ہی نہیں، یہاں تک کہ سوشل نیٹ ورک یوٹیوب پر بھی ’’اے آئی گلوکاروں‘‘ کی جانب سے پرفارم یا کمپوز کیے گئے بہت سے گانے موجود ہیں۔ بہت سے صارفین نئے تجربے سے پرجوش ہیں اور اسے اپنے دوستوں کے ساتھ سوشل نیٹ ورکس پر شیئر کرنے کا مقابلہ کرتے ہیں۔

"میں یہ نہیں بتا سکتا کہ یہ ایک AI گلوکار ہے اگر اس کا اعلان نہیں کیا جاتا ہے۔ ویتنام کے سائبر اسپیس میں AI مواد تیزی سے پھیل رہا ہے۔ میرے جیسے عام صارفین کو شاید جلد ہی معلوم نہیں ہوگا کہ کون سا مواد حقیقی لوگوں کا ہے، کون سا مواد AI کا ہے یا اس میں AI مداخلت ہے،" Khanh Ha (HCMC) نے کہا۔

حال ہی میں، ویتنام میں سوشل نیٹ ورکنگ کے بہت سے پلیٹ فارمز نے معذور لوگوں کی مصنوعات فروخت کرنے والی ویڈیوز اور لائیو سٹریمز کو نمایاں کیا ہے، جس سے آن لائن کمیونٹی زیادہ ہمدرد اور اشتراک ہو رہی ہے۔

تاہم، بعد میں آن لائن کمیونٹی کی طرف سے عام لوگوں کو معذور افراد میں تبدیل کرنے کے لیے AI کا استعمال کرنے کے بہت سے معاملات سامنے آئے۔ اس چال کا مقصد یہ ہے کہ ناظرین کی ہمدردی کا فائدہ اٹھا کر سامان فروخت کریں یا فراڈ کی حرکتیں کریں۔

بہت سے ٹیکنالوجی ماہرین کا کہنا ہے کہ حال ہی میں، سوشل نیٹ ورکس پر ہمدردی کی اپیل کرنے کے لیے معذور، بیمار یا پسماندہ لوگوں کی تصاویر کے ساتھ سیلز ویڈیوز پوسٹ کرنے والے اکاؤنٹس کی بڑھتی ہوئی تعداد دیکھی گئی ہے۔ تاہم، حقیقت یہ ظاہر کرتی ہے کہ اس مواد کا زیادہ تر حصہ AI ٹولز کے ذریعے بنایا گیا ہے یا اس میں ترمیم کی گئی ہے، جس سے عام لوگوں کو منافع یا دھوکہ دہی کے مقاصد کے لیے معذور افراد میں تبدیل کیا جاتا ہے۔

Tuoi Tre کے ساتھ اشتراک کرتے ہوئے، مسٹر Milko Radotic، نائب صدر انچارج ایشیا - پیسیفک ریجن iProov - دنیا کے معروف بائیو میٹرک تصدیقی ٹیکنالوجی فراہم کنندہ، نے خبردار کیا: "ہماری تحقیق سے پتہ چلتا ہے کہ 99.9% شرکاء ڈیپ فیکس کو نہیں پہچان سکتے۔ آج کے جدید ڈیٹیکشن ٹولز کو بھی بہت سی مشکلات کا سامنا ہے۔"

ڈیجیٹل صارفین کے لیے مزاحمت میں اضافہ کریں۔

مسٹر ڈانگ ہو سون - انسٹی ٹیوٹ فار اپلائیڈ ریسرچ اینڈ ہیومن ریسورس ڈیولپمنٹ AIOV کے ڈپٹی ڈائریکٹر، LovinBot AI کمپنی کے بانی اور CEO - نے کہا کہ چونکہ گوگل نے AI ٹیکنالوجی Nano Banana، Veo 3 لانچ کی ہے۔ ByteDance نے Seedream 4 لانچ کیا، اور اس سے پہلے OpenAI نے GPT امیج لانچ کیا، AI مارکیٹ انتہائی ہلچل کا شکار ہے اور اس کے بہت سے نتائج بھی سامنے آئے ہیں۔

"ٹیکنالوجی اتنی قابل رسائی کبھی نہیں تھی جتنی کہ آج ہے۔ یہ تمام انتہائی طاقتور AI ماڈلز ہیں جو اصل تصویر کے مقابلے میں تقریباً 90%، یہاں تک کہ 99% "چہروں کو کاپی کر سکتے ہیں،" مسٹر سون نے تبصرہ کیا۔

اگر ماضی میں، جعلی تصویر بنانے کے لیے، عام صارفین کو فوٹوشاپ کے ماہرین کی خدمات حاصل کرنا پڑتی تھیں، تو آج AI کے ساتھ، کچھ بنیادی مہارتوں کے ساتھ، 5 منٹ سے بھی کم وقت میں، جعلی تصاویر کا ایک سیٹ، ایک جعلی ویڈیو جسے کاٹ کر پیسٹ کیا گیا ہے، اور اس میں خبروں جیسے اثرات شامل کیے گئے ہیں، تیز رفتاری سے پھیل سکتے ہیں۔

"جعلی خبریں کئی بار دہرائی جاتی ہیں، اعلی کثافت اور آسان رسائی کے ساتھ، اس لیے جو لوگ روزانہ اس کے ساتھ رابطے میں آتے ہیں ان کی ایک بڑی تعداد اسے سچ مانے گی۔ اس لیے مندرجہ بالا مسائل کو محدود کرنے کے لیے حل کی ضرورت ہے،" مسٹر سون نے نوٹ کیا۔

مسٹر Trinh Nguyen Thien Phuoc - Gianty Vietnam Company کے ٹیکنالوجی ڈائریکٹر کے مطابق، AI سے تیار کردہ مواد میں فرق کرنے کے لیے، تین پرتوں کی ضرورت ہے: (1) صارف کی تصدیق کی مہارت (سنہری اصولوں کے ساتھ)؛ (2) تکنیکی ٹولز جیسے مواد کی اسناد (C2PA)، واٹر مارکنگ شناختی نشانیاں (SynthID، AudioSeal) اور deepfake detector؛ (3) متعلقہ فریقوں کے درمیان رابطہ کاری کا عمل جیسے: پلیٹ فارم، نیٹ ورک آپریٹرز، بینک...

خاص طور پر، سنہری اصول کو 30 - 60 سیکنڈ کے اندر بہت تیزی سے انجام دینا چاہیے، بشمول: عجیب لنکس پر کلک نہ کریں، اور تصدیق کے لیے آفیشل ایپ/ویب سائٹ پر جائیں؛ ایکشن پر مجبور کرنے والے مطلوبہ الفاظ کا سامنا کرتے وقت فوری طور پر رک جائیں۔

ایک ہی وقت میں، صارفین کو یقین کرنے سے پہلے دو آزاد ذرائع سے تصدیق کرنی چاہیے۔ تاریخ، وقت اور سیاق و سباق کی جانچ پڑتال کریں (پرانی خبریں نئی ​​کے روپ میں)؛ جو سرکاری نمبر آپ نے خود پایا ہے اسے واپس کال کریں، دوسروں کا دیا ہوا نمبر استعمال نہ کریں۔ تصاویر اور ویڈیوز کے ساتھ، صارفین متعلقہ نتائج کو واپس تلاش کر سکتے ہیں...

بہت سے ماہرین کا خیال ہے کہ AI کے ذریعے تخلیق کردہ جعلی مواد کی لہر سے نمٹنے کا سب سے بنیادی حل عوامی بیداری کو بڑھانا ہے۔ صرف تکنیکی اقدامات پر توجہ مرکوز کرنے کے بجائے، تربیتی پروگراموں، مقابلوں یا حقیقی زندگی کے حالات کی تقلید کی ضرورت ہے تاکہ لوگوں کو ان کی معلومات لینے کی عادات کو تبدیل کرنے میں مدد ملے۔

نوجوانوں، خاص طور پر طلباء کے لیے، آن لائن مقابلوں، مشہور شخصیات یا KOLs کے ساتھ میڈیا مہمات کو یکجا کرنے سے قدرتی کشش پیدا ہو سکتی ہے، انہیں سیکھنے اور تجربہ کرنے میں مدد ملتی ہے جبکہ وہ ابھی بھی جعلی خبروں اور جعلی ویڈیوز کی شناخت کرنے کی مہارت میں مہارت حاصل کر سکتے ہیں۔ دریں اثنا، بزرگوں کو، خاص طور پر دیہی علاقوں میں، زیادہ مانوس اور بدیہی شکلوں کی ضرورت ہوتی ہے جیسے کہ تصویری کتابچے، تدریسی ویڈیوز یا ثقافتی گھروں اور کمیونٹی کی سرگرمیوں میں اسکریننگ۔

"لوگوں کے ہر گروپ کے لیے موزوں نقطہ نظر مختصر مدت کی سرگرمیوں پر رکنے کے بجائے، ایک ٹھوس، طویل مدتی بیداری کی بنیاد بنانے میں مدد کرے گا۔ مثال کے طور پر، کچھ یونٹس نے ایسے ایکسٹینشنز تیار کیے ہیں جو کروم براؤزر پر انسٹال کیے جا سکتے ہیں تاکہ ویب یا سوشل نیٹ ورکس پر سرفنگ کرتے وقت خبروں کی تصدیق کرنے میں صارفین کی مدد کی جا سکے۔"، مسٹر ڈانگ ہوو سون نے اشتراک کیا۔

جعلی AI کا پتہ لگانے کے لیے AI کا استعمال

حال ہی میں، آنر فون کمپنی نے اپنی نئی لانچ کردہ فون لائن میں AI Deepfake Detection فیچر کو مربوط کیا ہے۔ یہ فیچر 3 سیکنڈ میں تصاویر اور آوازوں کا تجزیہ کر سکتا ہے تاکہ میسنجر، زیلو، وائبر یا گوگل میٹ جیسی ایپلی کیشنز پر جعلی ہونے سے خبردار کیا جا سکے، جو صارفین کو ہائی ٹیک گھوٹالوں سے بچانے کے لیے "ڈیجیٹل شیلڈ" بنتا ہے۔

اس سے قبل، ستمبر 2025 میں، MoMo نے iProov کے ساتھ اپنے تعاون کا اعلان کیا تاکہ اس بات کی تصدیق کی جا سکے کہ صارفین حقیقی ہیں، صحیح شناخت رکھتے ہیں اور لین دین کے وقت موجود ہیں، ڈیپ فیک، جعلی ویڈیوز یا تصاویر کا استعمال کرتے ہوئے دھوکہ دہی کو روکتے ہیں۔

مالیات جیسے اعلی خطرے والے شعبوں میں، سیکیورٹی کی یہ سطح دھوکہ دہی کو روکنے، غیر مجاز رسائی کو روکنے، اور پلیٹ فارم پر صارف کے اعتماد کو برقرار رکھنے کے لیے اہم ہے۔

واپس موضوع پر

VIRTUE

ماخذ: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm