ماہرین نے خبردار کیا ہے کہ اے آئی دقیانوسی، مبالغہ آمیز تصاویر تخلیق کر رہی ہے۔

جب آپ غربت کے موضوع پر تصاویر تلاش کرتے ہیں، تو آپ کو افریقی بچوں، کچرے سے بھری ندیوں میں تیرنے والے ایشیائی بچوں کی بہت سی تصاویر مل سکتی ہیں... AI کی تخلیق کردہ۔

AI کی مصنوعات: نسل پرستی اور تعصب

عالمی ماہرین صحت کے مطابق، غربت، بچوں اور جنسی تشدد کے متاثرین جیسے مضامین کی AI سے تیار کردہ تصاویر آن لائن فوٹو آرکائیوز کو بھر رہی ہیں، غیر سرکاری تنظیمیں (این جی اوز) انہیں تیزی سے استعمال کر رہی ہیں۔ ماہرین نے خبردار کیا ہے کہ یہ "غربت کے استحصال کے کلچر کے نئے دور" کا اشارہ دے سکتا ہے۔

انٹیورپ میں انسٹی ٹیوٹ آف ٹراپیکل میڈیسن کے ایک محقق آرسینی الینچیف نے کہا ، "یہ تصاویر غربت کے پہلے سے طے شدہ منظر کی عکاسی کرتی ہیں - بچے خالی پیالے پکڑے ہوئے ہیں، پھٹی ہوئی زمین... بہت دقیانوسی،" انسٹی ٹیوٹ آف ٹراپیکل میڈیسن کے محقق آرسینی الینچیف نے کہا جو عالمی صحت کی تصاویر کی تیاری کا مطالعہ کرتے ہیں ۔

مسٹر الینچیف نے انتہائی غربت کی 100 سے زیادہ AI سے تیار کردہ تصاویر جمع کیں، جنہیں افراد یا این جی اوز نے بھوک اور جنسی تشدد کے خلاف سوشل میڈیا مہموں میں استعمال کیا۔

اس نے گارڈین کے ساتھ جو تصاویر شیئر کی ہیں ان میں مبالغہ آمیز، دقیانوسی مناظر دکھائے گئے ہیں: بچے مٹی کے گڑھوں میں لپٹے ہوئے ہیں۔ ایک افریقی لڑکی عروسی لباس میں اس کے چہرے پر آنسو بہہ رہے ہیں۔ لانسیٹ گلوبل ہیلتھ جرنل میں شائع ہونے والی ایک حالیہ کمنٹری میں، اس نے دلیل دی کہ یہ تصاویر "غربت پورن ورژن 2.0" کے برابر ہیں۔

اسکرین شاٹ ایک تصویری ویب سائٹ پر "غربت" کی AI سے تیار کردہ تصویر دکھا رہا ہے۔ (تصویر: فریپک)

مسٹر الینچیف اور بہت سے دوسرے ماہرین کا کہنا ہے کہ کاپی رائٹ اور اخراجات سے متعلق خدشات کی وجہ سے اے آئی امیجز کا استعمال بڑھ رہا ہے۔ امریکی حکومت کی جانب سے این جی اوز کے بجٹ میں کٹوتیوں نے مسئلہ کو مزید گھمبیر بنا دیا ہے۔

"واضح طور پر، بہت ساری تنظیمیں حقیقی تصاویر کے بجائے AI امیجز کو استعمال کرنا شروع کر رہی ہیں کیونکہ یہ سستی ہے۔ آپ کو کاپی رائٹ اور بہت سی دوسری چیزوں کے بارے میں بھی فکر کرنے کی ضرورت نہیں ہے،" انہوں نے کہا۔

کیا ذمہ داری صارف پر ہے یا پلیٹ فارم پر؟

Adobe Stock Photos اور Freepik سمیت درجنوں فوٹو سائٹس پر غربت کی AI سے تیار کردہ تصاویر ظاہر ہوتی ہیں۔ بہت سے عنوانات ہیں: "پناہ گزین کیمپ میں حقیقی بچہ"؛ "ایشیائی بچے کچرے سے بھرے دریا میں تیر رہے ہیں"؛ "سفید رضاکار ایک افریقی گاؤں میں سیاہ فام بچوں کو طبی مشورہ فراہم کر رہے ہیں"؛ اور مزید ایڈوب اس فہرست میں آخری دو تصاویر کے حقوق تقریباً £60 میں فروخت کرتا ہے۔

"یہ تصاویر صریح طور پر نسل پرستی پر مبنی ہیں اور انہیں پوسٹ کرنے کی اجازت نہیں دی جانی چاہئے کیونکہ یہ افریقہ، ہندوستان یا کسی بھی چیز کے بارے میں بدترین دقیانوسی تصورات ہیں جس کے بارے میں آپ سوچ سکتے ہیں،" الینچیف نے کہا۔

Freepik کے سی ای او، Joaquín Abela نے کہا کہ ایسی انتہائی تصاویر استعمال کرنے کی ذمہ داری صارفین پر عائد ہوتی ہے، نہ کہ ان جیسے پلیٹ فارم پر۔ ان کے خیال میں، AI سٹاک کی تصاویر صارفین کی عالمی برادری نے بنائی ہیں، جو Freepik کے صارفین اپنی تصاویر خریدنے کا انتخاب کرنے پر رائلٹی وصول کر سکتے ہیں۔

Freepik نے "تنوع کو انجیکشن لگا کر" اپنی تصویری لائبریریوں میں پائے جانے والے تعصبات کو روکنے کی کوشش کی ہے۔ اس کے ساتھ ساتھ وہ وکلاء اور ایگزیکٹوز کی تصاویر میں صنفی توازن کو یقینی بنانے کی بھی کوشش کرتے ہیں۔

لیکن، وہ کہتے ہیں، ان کا پلیٹ فارم صرف اتنا ہی کر سکتا ہے۔ "یہ سمندر کو خشک کرنے کی کوشش کے مترادف ہے۔ ہم نے کوشش کی ہے، لیکن حقیقت یہ ہے کہ، اگر پوری دنیا کے کلائنٹس چاہتے ہیں کہ ان کی تصاویر کسی خاص طریقے سے نظر آئیں، تو اس کے بارے میں کوئی بھی کچھ نہیں کر سکتا۔"

چیریٹی پلان انٹرنیشنل کی 2023 کی اینٹی چائلڈ میرج مہم سے AI سے تیار کردہ تصویر، جس کا مقصد "لڑکیوں کی رازداری اور وقار" کا تحفظ کرنا ہے۔ (تصویر: پلان انٹرنیشنل)

بہت سے معزز تنظیموں نے AI سے تیار کردہ تصاویر کا استعمال کیا ہے، یہاں تک کہ اقوام متحدہ بھی۔

پچھلے سال، اقوام متحدہ نے یوٹیوب پر ایک ویڈیو پوسٹ کی جس میں جنسی تشدد کے "دوبارہ رد عمل" کو دکھایا گیا تھا، جس میں ایک برونڈیائی خاتون کی گواہی بھی شامل تھی جس میں 1993 میں تین مردوں کے ذریعہ ریپ اور اسے مرنے کے لیے چھوڑ دیا گیا تھا۔ مواد مکمل طور پر AI کے ذریعے تیار کیا گیا تھا۔ گارڈین کے انٹرویو کے لیے اقوام متحدہ سے رابطہ کرنے کے بعد ویڈیو کو ہٹا دیا گیا۔

اقوام متحدہ کے ترجمان نے بعد میں وضاحت کی کہ ویڈیو کو کیوں ہٹایا گیا۔ "ہمیں یقین ہے کہ ویڈیو کو AI کے ذریعہ غلط طریقے سے تیار کیا گیا تھا اور اس سے معلومات کی سالمیت کو خطرہ لاحق ہوسکتا ہے، اصلی فوٹیج کو مصنوعی مواد کے ساتھ ملانا جو حقیقی معلوم ہوتا ہے۔"

AI سے تیار کردہ پروڈکٹس طویل عرصے سے کاپی کیٹس کے طور پر پائے جاتے ہیں، بعض اوقات سچائی کو بڑھا چڑھا کر پیش کرتے ہیں۔ مسٹر الینچیف نے کہا کہ ان متعصبانہ تصاویر کا پھیلاؤ مسئلہ کو مزید خراب کر سکتا ہے، کیونکہ تصاویر کو وسیع انٹرنیٹ پر پھیلایا جا سکتا ہے اور AI کی اگلی نسل کو تربیت دینے کے لیے استعمال کیا جا سکتا ہے۔

پلان انٹرنیشنل کے ترجمان نے کہا کہ این جی او فی الحال "بچوں کی تصویر کشی کے لیے اے آئی کے استعمال کے خلاف تجویز کرتی ہے۔"

من ہون

ماخذ: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html