AI بھی غیر معقول غلطیاں کرتا ہے اور انسانوں کی طرح تعصبات کا مظاہرہ کرتا ہے۔

الگورتھم اور بڑے ڈیٹا سیٹس پر کام کرنے کے باوجود، ChatGPT جیسے مصنوعی ذہانت (AI) سسٹم اب بھی عام انسانی علمی تعصبات، یعنی حد سے زیادہ اعتماد اور تعصب کے لیے حساس ہیں۔

واضح طریقہ کار اور مقررہ فارمولوں پر عمل کرنے والے مسائل کو حل کرنے کے لیے AI بہترین کارکردگی کا مظاہرہ کرتا ہے۔ تاہم، ایسے حالات سے نمٹتے وقت جن میں ساپیکش فیصلے کی ضرورت ہوتی ہے یا ذاتی ترجیحات شامل ہوتی ہیں، AI انسانوں جیسی غلطیاں کر سکتا ہے۔

مینوفیکچرنگ اینڈ سروس آپریشنز منیجمنٹ جریدے میں شائع ہونے والی ایک نئی تحقیق، جو کینیڈا اور آسٹریلیا کی پانچ یونیورسٹیوں کے سائنسدانوں نے کی ہے، ChatGPT (خاص طور پر OpenAI کے GPT-3.5 اور GPT-4 ماڈلز) کے 18 نمایاں علمی تعصبات پر ChatGPT کے رویے کا جائزہ لیا گیا ہے، جیسا کہ عام طور پر انسانی نفسیات میں پائے جانے والے سورج کے اثرات، سورج کے اثرات، لاگت کے اثرات۔ غلط فہمی، اور یقین کا تعصب۔

نتائج سے پتہ چلتا ہے کہ جانچے گئے تقریباً نصف منظرناموں میں، ChatGPT نے بالکل ایک انسان کی طرح برتاؤ کیا جب غیر منطقی یا جذباتی انتخاب کا سامنا کرنا پڑا، اس کے باوجود کہ نظام کی مستقل منطقی استدلال کی شہرت ہے۔

کیا AI واقعی توقع کے مطابق "غیر جانبدار" ہے؟

ڈاکٹر یانگ چن، آئیوی بزنس اسکول (کینیڈا) میں آپریشنز مینجمنٹ کے ایسوسی ایٹ پروفیسر اور مطالعہ کے سرکردہ مصنف نے کہا: "اے آئی بہترین کارکردگی کا مظاہرہ کرتا ہے جب ان مسائل کو حل کرنے کے لیے جو واضح عمل اور طے شدہ فارمولوں کی پیروی کرتے ہیں، لیکن جب ایسے حالات سے نمٹتے ہیں جن میں ساپیکش فیصلے کی ضرورت ہوتی ہے یا ذاتی ترجیحات شامل ہوتی ہیں، تو AI انسانوں کی طرح غلطیاں بھی کر سکتا ہے۔"

تحقیقی ٹیم نے ChatGPT میں مانوس نفسیاتی منظرناموں کو شامل کیا، جس میں انوینٹری مینجمنٹ یا سپلائر کے مذاکرات جیسے عملی سیاق و سباق کو شامل کیا۔

یہ قابل ذکر ہے کہ AI ماڈلز اب بھی علمی تعصب کا مظاہرہ کرتے ہیں یہاں تک کہ جب سوال کا سیاق و سباق تجریدی سے عملی کاروباری سیاق و سباق میں منتقل کیا جاتا ہے۔

GPT-4 زیادہ ہوشیار ہے، لیکن یہ کامل نہیں ہے۔

GPT-4 GPT-3.5 کا ایک اپ گریڈ ورژن ہے جو منطق یا امکانی مسائل کو حل کرنے میں بہترین ہے۔ تاہم، ساپیکش سمیولیشنز میں، جیسے کہ منافع بڑھانے کے لیے ایک پرخطر آپشن کا انتخاب کرنا، GPT-4 انسانوں سے زیادہ جذباتی برتاؤ کرنے کے رجحان کو ظاہر کرتا ہے۔

خاص طور پر، مطالعہ نے نوٹ کیا کہ GPT-4 تصدیقی تعصب کی جانچ کے منظرناموں میں مسلسل متعصب جوابات فراہم کرتا ہے اور "ہاٹ ہینڈ فراموش" کا زیادہ شکار ہے، یہ یقین کرنے کا رجحان ہے کہ بے ترتیب واقعات GPT-3.5 کے مقابلے میں ایک ترتیب میں دہرائے جائیں گے۔

اس کے برعکس، AI میں کچھ ایسے تعصبات سے بچنے کی صلاحیت ہے جو انسان اکثر کرتے ہیں، جیسے کہ بنیادی شرح کو نظر انداز کرنا یا لاگت میں ڈوبی ہوئی غلطی۔

چیٹ جی پی ٹی کے انسانی جیسا تعصب ظاہر کرنے کی وجہ اس کے تربیتی ڈیٹا سے پیدا ہوتی ہے، جو ہمارے اپنے غلط رویوں اور سوچ کے نمونوں سے چھلنی ہے۔ - تصویر: اے آئی

AI تعصب کی اصل: خود انسانی ڈیٹا سے۔

تحقیقی ٹیم کے مطابق، چیٹ جی پی ٹی کے انسانی جیسا تعصب ظاہر کرنے کی وجہ تربیت کے اعداد و شمار سے پیدا ہوتی ہے، جو ہمارے اپنے غلط رویوں اور سوچ کے نمونوں سے بھرا ہوا ہے۔ حقیقت یہ ہے کہ AI کو انسانی آراء کی بنیاد پر بہتر بنایا گیا ہے اس رجحان کو مزید تقویت دیتا ہے، کیونکہ ماڈل کو ان جوابات کے لیے "انعام" دیا جاتا ہے جو مکمل طور پر درست ہونے کے بجائے معقول معلوم ہوتے ہیں۔

ڈاکٹر چن تجویز کرتے ہیں، "درست اور غیر جانبدارانہ نتائج کے لیے، ان کاموں کے لیے AI کا استعمال کریں جن پر آپ کو کمپیوٹر پر پہلے سے ہی بھروسہ ہے۔" "تاہم، اسٹریٹجک یا جذباتی مسائل کے لیے، انسانی نگرانی اور مداخلت اب بھی ضروری ہے، چاہے یہ صرف سوال کو دوبارہ لکھ کر ہی کیوں نہ ہو۔"

شریک مصنف مینا اینڈیپن، میک ماسٹر یونیورسٹی (کینیڈا) میں انسانی وسائل اور نظم و نسق کی ایسوسی ایٹ پروفیسر دلیل دیتی ہیں: "AI کو فیصلہ سازی کی اہم طاقت کے حامل ملازم کے طور پر دیکھا جانا چاہیے، یعنی اس کی نگرانی اور اخلاقی اصولوں پر عمل کرنے کی ضرورت ہے۔ بصورت دیگر، ہم نادانستہ طور پر اسے بہتر بنانے کے بجائے خودکار طور پر خام سوچ کو خودکار کر رہے ہیں۔"

مزید پڑھیں ہوم پیج پر واپس جائیں۔

واپس موضوع پر

من ہے

ماخذ: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm