ہر بار جب میں انٹرنیٹ پر سرفنگ کرتا ہوں تو مجھے AI کی طرف سے بنائی گئی احمقانہ مضحکہ خیز ویڈیوز نظر آتی ہیں۔

(Dan Tri) - Veo 3 کے ذریعہ تخلیق کردہ "منحرف" مواد کے ساتھ ویڈیوز سوشل نیٹ ورکنگ سائٹس پر کثرت سے ظاہر ہو رہے ہیں۔

جہاں بھی میں سرف کرتا ہوں، مجھے Veo 3 سے بکواس مزاح نظر آتا ہے۔

حال ہی میں، سوشل میڈیا صارفین، خاص طور پر TikTok کو Veo 3 ٹول کے ذریعے تخلیق کردہ "کامیڈی" ویڈیوز کا مسلسل سامنا کرنا پڑ رہا ہے۔ اگرچہ ان میں سے زیادہ تر تفریحی ہیں، لیکن بہت سے مشمولات معمول سے ہٹ کر تنازعہ کا باعث بننا شروع ہو گئے ہیں۔

"جب بھی میں TikTok کھولتا ہوں، میں واقف شکلوں کے ساتھ مضحکہ خیز ویڈیوز دیکھتا ہوں، جیسے کہ ایک بوڑھی عورت ایک سور کو بیچنے کے لیے لے جاتی ہے کیونکہ وہ بہت زیادہ کھاتی ہے اور بہت زیادہ سوتی ہے،" Huyen Mai (20 سال کی عمر) نے شیئر کیا۔

Huyen Mai نے کہا کہ اس کا TikTok "مزاحیہ" ویڈیوز سے بھرا ہوا ہے جسے Veo 3 نے بنایا ہے (تصویر: اسکرین شاٹ)۔

مائی نے شیئر کیا کہ اسی طرح کی ویڈیوز زیادہ سے زیادہ کثرت سے نمودار ہوتی ہیں، جس سے وہ بے چینی محسوس کرنے لگتی ہیں اور سوچتی ہیں کہ یہ ویڈیوز صرف "دیکھنے کے لیے" کے مقاصد کے لیے ہیں، جو دیکھنے والوں کے لیے کوئی اہمیت نہیں رکھتیں۔

مائی نے کہا کہ انہیں اپنی نیوز فیڈ پر اکثر منفی یا جارحانہ ویڈیوز کا سامنا کرنا پڑا ہے: "بہت سے TikTok چینلز حقیقی زندگی کی کہانیوں کے لیے خیالی حالات کے بارے میں ویڈیوز بناتے ہیں جن میں فحش، جارحانہ عناصر اور غلط معلومات شامل ہوتی ہیں تاکہ صرف آراء کو اپنی طرف متوجہ کیا جا سکے۔"

جارحانہ اور چونکا دینے والے مواد کا ایک سلسلہ "نظریات کو اپنی طرف متوجہ کرنے" کے مقصد سے بنایا گیا تھا (تصویر: اسکرین شاٹ)۔

ہیوین مائی کی کہانی کی طرح، ہوانگ آن (20 سال) نے بھی حال ہی میں اپنی مایوسی کا اظہار کیا۔ انہوں نے کہا کہ Veo 3 انتہائی حقیقت پسندانہ تصاویر اور مواد لاتا ہے، بہت سی ویڈیوز دلچسپ اور تفریحی مواد کے ساتھ بنائی جاتی ہیں۔

لیکن تھوڑی دیر کے بعد، اس نے دیکھا کہ دھیرے دھیرے، مثبت اقدار پر توجہ مرکوز کرنے کی بجائے "منفی" اور "نظریات کو اپنی طرف متوجہ کرنے کے لیے چونکا دینے والی" ہونے کے رجحان کے ساتھ ویڈیوز زیادہ کثرت سے نمودار ہوتی ہیں۔

"ایک طالب علم نے کھڑے ہو کر لعنت بھیجی، یہ Veo 3 کی طرف سے بنائی گئی ویڈیوز میں سے ایک تھی جسے میں نے حال ہی میں دیکھا۔ میں حیران تھا کہ سوشل میڈیا پر ایسا توہین آمیز مواد کیوں ہے، خاص طور پر انتہائی اہم امتحانات کے دوران،" ہوانگ انہ نے اعتراف کیا۔

نامناسب زبان اور مواد کے ساتھ AI سے تیار کردہ بہت سی ویڈیوز سوشل نیٹ ورکس پر اکثر ظاہر ہوتی ہیں (تصویر: اسکرین شاٹ)۔

مزید تشویشناک بات یہ ہے کہ کچھ ویڈیوز کرداروں اور بچوں کی آوازوں کی تصاویر کو حساس، غیر اخلاقی لکیریں کہنے کے لیے استعمال کرتی ہیں، لیکن پھر بھی آن لائن کمیونٹی سے ہزاروں تعاملات کو راغب کرتی ہیں۔

اس کے علاوہ، Veo 3 کے بہت سے صارفین خالص تفریحی مواد کی آڑ میں منحرف رویوں کو فروغ دینے کے لیے حالات بھی بناتے ہیں۔

عام طور پر، کچھ ایپلیکیشنز اور ویب سائٹس جیسے جوا اور شرط لگا کر ناظرین کے لیے پروموشنل ویڈیوز بناتی ہیں، اور خفیہ طور پر انہیں "تفریحی ویڈیوز" کی آڑ میں کھلے عام پھیلاتی ہیں۔

بہت سے نتائج کا دروازہ

یہ ناقابل تردید ہے کہ Veo 3 جیسے ویڈیو بنانے والے AI ٹولز کی ترقی، بہت سے اسٹورز اور کاروباروں میں مواد کی پیداوار کے شعبے میں بڑی صلاحیت لاتے ہوئے، ایک "دروازہ" بھی کھولتی ہے جس کے حقیقی زندگی میں ورچوئل نتائج سامنے آتے ہیں۔

اس سے سوالات پیدا ہوتے ہیں جیسے "کیا بالغ یا بچے AI سے تیار کردہ ویڈیوز میں فرق کر سکتے ہیں؟" اور "یہ جارحانہ ویڈیوز بچوں کے تاثرات کو کیسے متاثر کریں گی؟"

ویتنام ٹیلی ویژن کا لوگو AI سے تیار کردہ مواد میں داخل کیا گیا (تصویر: اسکرین شاٹ)۔

نہ صرف تفریحی مقاصد کے لیے، بہت سے ماہرین نے AI کے تخلیق کردہ "منحرف" مواد کے ممکنہ خطرات کے بارے میں خبردار کیا ہے۔ یہ پراڈکٹس، جب سوشل نیٹ ورکس پر تیز رفتاری سے پھیلتی ہیں، بوڑھوں یا بچوں کو غیر فعال طور پر وصول کر سکتی ہیں اور آسانی سے منفی سمت میں متاثر ہو سکتی ہیں۔

سوشل میڈیا پلیٹ فارمز کو اس وقت مواد کی سنسرشپ میں ایک بڑے چیلنج کا سامنا ہے، کیونکہ صرف چند آسان اقدامات کے ساتھ، کوئی بھی شخص منحرف مواد کے ساتھ ویڈیوز کی ایک سیریز بنا سکتا ہے، یہاں تک کہ جارحانہ، نافرمانی یا غیر قانونی رویے کو بھی فروغ دے سکتا ہے۔

نہ صرف یہ مواد کے حوالے سے خطرہ لاحق ہے، ویتنام میں Veo 3 تک رسائی اور استعمال بھی بہت سے نتائج کا باعث بن رہا ہے۔ چونکہ گوگل نے باضابطہ طور پر مقامی مارکیٹ میں اس ٹول کی زیادہ فیس (پرو اکاؤنٹ کے لیے $20/ماہ، الٹرا اکاؤنٹ کے لیے $250/ماہ) کے ساتھ ساتھ اس کی حمایت نہیں کی ہے، بہت سے ٹیکنالوجی کے شوقین افراد نے VPN کا استعمال کرکے، تیرتے اکاؤنٹس خرید کر یا جعلی معلومات کا اعلان کرکے "رکاوٹ کو دور کرنے" کے طریقے تلاش کیے ہیں۔

ان میں سے بہت سے لوگ "چکن چرانے کی" چالوں کا شکار ہو چکے ہیں جیسے کہ سستے Veo 3 اکاؤنٹس کی تشہیر، انہیں لامحدود خصوصیات کے ساتھ آزادانہ طور پر استعمال کرنے کی اجازت دینا۔

سستے Veo 3 اکاؤنٹس کو خریدنے کی دعوت دینے والی پوسٹس ویتنامی سوشل نیٹ ورکس (اسکرین شاٹ) کو بھر رہی ہیں۔

بہت سے برے لوگوں نے اسکام کرنے کے لیے Veo 3 تک رسائی کی ضرورت کا فائدہ اٹھایا، خریداروں سے پہلے رقم منتقل کرنے اور پھر بغیر کسی نشان کے "غائب" ہونے کو کہا۔

خاص طور پر، کچھ لوگ "سپر ترجیحی" قیمت پر گاہک کے جی میل ایڈریس کا استعمال کرتے ہوئے Veo 3 اکاؤنٹس کو رجسٹر کرنا بھی قبول کرتے ہیں۔ تاہم، یہ دراصل گوگل کی پالیسی میں موجود خامی کا فائدہ اٹھانے کا ایک عمل ہے، ممکنہ طور پر اکاؤنٹ کے مستقل طور پر لاک ہونے کا خطرہ ہے، یعنی ای میلز، دستاویزات اور تمام متعلقہ ذاتی ڈیٹا تک رسائی کھو دینا۔

ٹیکنالوجی ناقص نہیں ہے۔

درحقیقت، کوئی AI پلیٹ فارم منفی مواد تخلیق کرنے یا بدسلوکی پیش کرنے کے لیے ڈیزائن نہیں کیا گیا ہے۔ تمام نتائج اس سے نکلتے ہیں کہ لوگ کس طرح ٹول استعمال کرتے ہیں، جس کا مطلب ہے کہ صارف کی آگاہی اور ذمہ داری فیصلہ کن عوامل ہیں۔

ڈاکٹر Nguyen Van Son، فیکلٹی آف انفارمیشن ٹیکنالوجی، یونیورسٹی آف ٹیکنالوجی (ویتنام نیشنل یونیورسٹی، ہنوئی ) کے لیکچرر نے تبصرہ کیا: "میں ان مثبت اقدار کی بہت تعریف کرتا ہوں جو مصنوعی ذہانت لا رہی ہے۔ اگر صحیح طریقے سے استعمال کیا جائے تو، AI معاشرے اور کمیونٹی کے لیے بہت سے عملی کردار ادا کر سکتا ہے۔"

تاہم، ان کے مطابق، مسائل اس وقت پیدا ہوتے ہیں جب ٹیکنالوجی غیر صحت بخش مقاصد کے حامل لوگوں کے ہاتھ میں آجاتی ہے۔ ڈاکٹر سون نے خبردار کیا، "اس وقت، AI منفی رویوں کی حمایت کرنے کا ایک مؤثر ذریعہ بن جاتا ہے، یہاں تک کہ معاشرے پر برے اثرات کو بڑھاتا ہے۔"

وہاں سے، اس نے صارفین، خاص طور پر نوجوانوں پر زور دیا کہ وہ AI تک پہنچنے اور اس کا اطلاق کرتے وقت اپنی بیداری اور ذمہ داری کو فعال طور پر بڑھائیں، جس کا مقصد ردی کی ٹوکری، جارحانہ مصنوعات کو پھیلانے کے بجائے معیاری، مہذب مواد بنانا ہے۔

ڈاکٹر Nguyen Van Son کا خیال ہے کہ AI استعمال کرتے وقت اخلاقی خلاف ورزیوں کو محدود کرنے کی کلید تعلیم ہے (تصویر: کردار فراہم کیا گیا ہے)۔

اس کے علاوہ، ڈاکٹر Nguyen Van Son کا یہ بھی ماننا ہے کہ AI کے استعمال میں اخلاقی خلاف ورزیوں کو محدود کرنے کے لیے طویل مدتی حکمت عملیوں میں سے ایک تعلیمی نقطہ نظر سے رجوع کرنا ہے۔ ان کے مطابق، بیداری بڑھانا، صارفین کو ذاتی ذمہ داری کو سمجھنے میں مدد کرنا اور ٹیکنالوجی کا استعمال کرتے ہوئے اخلاقی بنیاد کی تعمیر ایک اہم عنصر ہے، جو ایک مہذب ڈیجیٹل کمیونٹی کی تشکیل میں معاون ہے۔

صرف "اسپام" مواد کے بارے میں انتباہات پر ہی نہیں رکے، بہت سے ماہرین نے بار بار AI سے تیار کردہ ٹولز سے ممکنہ خطرات کا مسئلہ اٹھایا ہے، خاص طور پر ویڈیوز بنانے کی صلاحیت، جو بڑے پیمانے پر غلط معلومات پھیلانے کا ذریعہ بن سکتی ہے۔

"ٹیک انڈسٹری نے ڈیپ فیکس کے خطرات سے نمٹنے میں برسوں گزارے ہیں۔ لیکن تیزی سے ترقی یافتہ AI ویڈیو ٹولز کا ظہور ایک واضح انتباہ ہے کہ AI، اور اس کے نتیجے میں AGI کے ذریعہ تیار کردہ مواد کو منظم کرنا مزید مشکل ہو جائے گا،" Connor Leahy، Conjecture کے سی ای او نے خبردار کیا۔

اسی نظریے کا اشتراک کرتے ہوئے، محترمہ Nguyen Thi Trang - Pisa Solutions LLC کی سی ای او - نے تیزی سے اعلیٰ AI کے تناظر میں تنقیدی سوچ کی اہمیت پر زور دیا۔

"ہم نہ صرف AI کے استعمال کنندہ ہیں، بلکہ AI سے تیار کردہ مواد کی ایک وسیع رینج کے وصول کنندہ بھی ہیں۔ اخلاقی طور پر ٹولز استعمال کرنے کے علاوہ، ہر فرد کو متعدد زاویوں سے معلومات کو سمجھنے کی صلاحیت پر عمل کرنے کی ضرورت ہے، کیونکہ فی الحال AI کی طرف سے بہت سی ایسی ویڈیوز بنائی گئی ہیں جو مستند دکھائی دیتی ہیں لیکن خفیہ طور پر غلط مواد کو فروغ دیتی ہیں،" محترمہ ٹرانگ نے شیئر کیا۔

ماخذ: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm