AI مردہ کو 'زندہ' کرتے وقت جارحانہ ویڈیو بناتا ہے۔

OpenAI کے Sora 2 ویڈیو جنریٹر نے پریشان کن ویڈیوز میں فوت شدہ مشہور شخصیات کی تصاویر بنا کر تنازعہ کو جنم دیا ہے، جس سے بہت سے خاندان ناراض ہیں۔

OpenAI کا نیا ویڈیو بنانے کا ٹول مشہور شخصیات کے خاندانوں کو ایک بحران میں بھیج رہا ہے کیونکہ مردہ پیاروں کی تصاویر کو AI کے ذریعے جارحانہ، مسخ شدہ اور بعض اوقات ذلت آمیز ویڈیوز میں "دوبارہ زندہ" کیا جاتا ہے۔

میلکم ایکس سے وٹنی ہیوسٹن سے لے کر کوبی برائنٹ تک مردہ لوگوں کی AI سے تیار کردہ ویڈیوز نے ہلچل مچا دی ہے، جس نے AI کے دور میں اخلاقی حدود اور تصویری کنٹرول کے بارے میں سوالات اٹھائے ہیں۔

توہین آمیز مواد

شہری حقوق کے کارکن میلکم ایکس کی بیٹی الیاسہ ​​شباز کا کہنا ہے کہ وہ اپنے والد کے AI سے تیار کردہ کوئی کلپس نہیں دیکھنا چاہتیں۔ یہ ویڈیوز، اوپن اے آئی کے نئے جاری کردہ ٹیکسٹ ٹو ویڈیو ٹول، سورا 2 کا استعمال کرتے ہوئے بنائے گئے تھے، تاکہ میلکم ایکس کے خام لطیفے سنانے اور ریورنڈ مارٹن لوتھر کنگ کے ساتھ بحث کرنے کے مناظر بنائے جائیں۔

شاباز نے واشنگٹن پوسٹ کو بتایا کہ "میرے والد کی تصویر کا اس طرح بے معنی طریقے سے استحصال ہوتا دیکھنا بے عزتی اور دل دہلا دینے والا ہے۔ مجھے سمجھ نہیں آتی کہ جو لوگ اس ٹیکنالوجی کو تیار کرتے ہیں وہ اپنے خاندان کے لیے اسی ضمیر اور خیال کے ساتھ کیوں کام نہیں کرتے،" Shabazz نے واشنگٹن پوسٹ کو بتایا ۔

سورا 2 بغیر اجازت کے مرنے والوں کی تصاویر سے ویڈیوز بناتا ہے۔ تصویر: بلومبرگ ۔

Sora 2 ناقابل یقین حد تک حقیقت پسندانہ ویڈیوز بنانے کی صلاحیت کی بدولت تیزی سے ایک عالمی رجحان بن گیا۔ اپنے آغاز کے چند ہی دنوں کے اندر، ایپ ڈاؤن لوڈ چارٹس میں سب سے اوپر آگئی۔ تاہم، اس کے تیزی سے پھیلنے کا مطلب یہ بھی تھا کہ سوشل میڈیا پر جعلی مشہور شخصیات کی ویڈیوز کا ایک سلسلہ نمودار ہوا۔

مائیکل جیکسن، ایلوس پریسلے اور ایمی وائن ہاؤس کی "دوبارہ زندہ" تصاویر ایک تیز رفتاری سے پھیل گئیں، جس سے بہت سے ناظرین اصلی اور نقلی میں فرق کرنے سے قاصر رہے۔

کچھ ویڈیوز کا مقصد مضحکہ خیز ہوتا ہے، جیسا کہ وہ ویڈیو جہاں "مسٹر راجرز نیبرہوڈ" کے میزبان فریڈ راجرز ٹوپک شکور کے ساتھ ریپ کرتے ہیں۔ لیکن جو مواد بنایا گیا ہے وہ بہت زیادہ ہے۔

ان میں پولیس کیمرے سے جعلی اینگل کے ذریعے شرابی حالت میں وٹنی ہیوسٹن کو دوبارہ بنانے والی ویڈیو، کوبی برائنٹ حادثے میں ہیلی کاپٹر میں اڑتے ہوئے جس میں وہ اور ان کی بیٹی کی موت ہو گئی، اور سابق صدر جان ایف کینیڈی نے ایک ہم عصر سیاست دان کے قتل کا مذاق اڑایا، سبھی نے کمیونٹی کو ناراض کر دیا۔

ڈھیلے ضابطے۔

OpenAI کی پالیسی کہتی ہے کہ یہ ٹول صرف حقیقی لوگوں کو ان کی رضامندی سے نقل کر سکتا ہے۔ تاہم، اپنے حالیہ آغاز میں، کمپنی نے "تاریخی شخصیات" کو اس اصول سے مستثنیٰ قرار دے دیا، جس سے صارفین آزادانہ طور پر مرنے والوں کی ویڈیوز بنا سکتے ہیں۔ اس فیصلے سے متاثرین کے کئی خاندان ناراض ہیں۔

آنجہانی اداکار رابن ولیمز کی بیٹی زیلڈا ولیمز نے انسٹاگرام پر شیئر کیا کہ انہیں مسلسل ان کے والد کی AI ویڈیوز بھیجی گئیں اور لوگوں سے التجا کی گئی کہ "براہ کرم روک دیں۔"

زیلڈا نے کہا کہ "حقیقی لوگوں کی وراثت کو خوفناک حرکات تک کم کر کے دیکھنا پاگل پن کی بات ہے جہاں TikTok انہیں کنٹرول کرتا ہے۔"

سورا 2 کے استعمال سے متعلق اوپن اے آئی کے قواعد خامیوں سے بھرے ہوئے ہیں۔ تصویر: بلومبرگ ۔

ماہرین کا کہنا ہے کہ یہ واقعہ AI ٹیکنالوجی میں ایک اہم موڑ کی عکاسی کرتا ہے، جہاں تخلیقی صلاحیتوں اور جرم کے درمیان کی لکیر دھندلی ہو جاتی ہے۔ ہنری اجڈر، ایک گہرے جعلی محقق نے کہا کہ مرنے والوں کی "مصنوعی قیامت" ذاتی تصویر اور میراث کے کنٹرول کے بارے میں بڑے سوالات اٹھاتی ہے۔

اجدر نے کہا، "اگر آپ مشہور شخصیات کی تصاویر کو مواد بنانے کے لیے استعمال کرتے ہیں، تو یہ یقینی طور پر آراء کو اپنی طرف متوجہ کرے گا۔ لیکن میت کے ساتھ، یہ ایک گہرے سوال کو چھوتا ہے: ان کی یادوں اور شناخت کا مالک کون ہے،" اجدر نے کہا۔

چیخ کے جواب میں، OpenAI نے کہا کہ وہ حال ہی میں فوت ہونے والی عوامی شخصیات کے نمائندوں کو یہ درخواست کرنے کی اجازت دے گا کہ ان کی تصاویر کو سورا ویڈیوز سے روک دیا جائے۔ "ہم سمجھتے ہیں کہ عوامی شخصیات اور ان کے خاندانوں کو اس بات پر کنٹرول ہونا چاہیے کہ ان کی کاپی رائٹ شدہ تصاویر کیسے استعمال کی جاتی ہیں،" OpenAI کے ترجمان نے کہا۔

امریکی تفریحی صنعت کی کئی تنظیموں نے بھی اپنے تحفظات کا اظہار کیا ہے۔ تخلیقی فنکاروں کی ایجنسی، بہت سے ہالی ووڈ ستاروں کی انتظامی کمپنی، نے کہا کہ سورا 2 نے صارفین اور املاک دانش کو شدید خطرے میں ڈال دیا ہے۔ موشن پکچر ایسوسی ایشن آف امریکہ (MPAA) نے OpenAI سے مطالبہ کیا کہ وہ تخلیق کاروں کے حقوق کے تحفظ کے لیے "فوری اور فیصلہ کن" اقدام کرے۔

یہ صرف فنکار ہی نہیں، تاریخی شخصیات بھی اس کا شکار ہو چکی ہیں۔ سورا کی بنائی گئی ایک ویڈیو میں ونسٹن چرچل جیٹ بلیو کو فروغ دیتے ہوئے یا انٹرنیٹ کے گندے لطیفوں کا حوالہ دیتے ہوئے دکھایا گیا ہے۔

ماخذ: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html