یونیسکو: اے آئی ٹولز خواتین کے خلاف تعصب

اقوام متحدہ کی تعلیمی ، سائنسی اور ثقافتی تنظیم (UNESCO) کی جانب سے 7 مارچ کو شائع ہونے والی ایک نئی تحقیق کے مطابق، دنیا کے بہت سے مشہور مصنوعی ذہانت (AI) ٹولز ایسے پروگراموں سے چلتے ہیں جو خواتین کے خلاف تعصب رکھتے ہیں، جنہیں OpenAI اور Meta کمپنیوں نے تیار کیا ہے۔

اے آئی کی دوڑ میں سب سے بڑی کمپنیاں اپنے الگورتھم کی تربیت کے لیے انٹرنیٹ سے ڈیٹا کی بڑی مقدار استعمال کر رہی ہیں، جسے بڑے لینگویج ماڈلز (LLMs) کہا جاتا ہے۔ UNESCO نے Meta's Llama 2 الگورتھم اور OpenAI کے GPT-2 اور GPT-3.5 کا تجربہ کیا، جو کہ مشہور چیٹ ایپ ChatGPT میں استعمال ہوتا ہے۔ ٹیسٹوں سے معلوم ہوا کہ ہر ایک نے خواتین کے خلاف تعصب کے واضح ثبوت دکھائے۔

نتائج سے پتہ چلتا ہے کہ ان ٹولز کے ذریعہ تیار کردہ خواتین کے ناموں سے متعلق متن میں اکثر "گھر"، "خاندان" یا "بچے" جیسے الفاظ ہوتے ہیں، جب کہ مردوں کے ناموں سے متعلق متن میں اکثر "کاروبار"، "تنخواہ" یا "کیریئر" جیسے الفاظ ہوتے ہیں۔ مردوں کو اکثر ملازمتوں کے ساتھ بیان کیا جاتا تھا جیسے اساتذہ، وکیل، ڈاکٹر؛ جب کہ خواتین اکثر ملازمتوں جیسے کھانا پکانے، گھر کے کام کاج وغیرہ سے وابستہ تھیں۔

DO CAO

ماخذ: https://www.sggp.org.vn/unesco-cac-cong-cu-ai-dinh-kien-voi-nu-gioi-post729797.html