مصنوعی ذہانت جتنی زیادہ ہوشیار ہے، اتنی ہی زیادہ اپنی جہالت کو چھپانے کا امکان ہے؟

پولی ٹیکنک یونیورسٹی آف ویلینسیا، اسپین میں ایک مصنوعی ذہانت (AI) کی تحقیقی ٹیم نے پایا ہے کہ جیسے جیسے بڑے زبان کے ماڈل بڑے اور زیادہ نفیس ہوتے جاتے ہیں، ان میں صارفین کے سامنے یہ تسلیم کرنے کا امکان کم ہوتا ہے کہ وہ جواب نہیں جانتے ہیں۔

AI جتنا ہوشیار ہوگا، صارفین کے سامنے یہ تسلیم کرنے کا امکان اتنا ہی کم ہوگا کہ اسے جواب نہیں معلوم۔ (AI مثال)

نیچر جریدے میں شائع ہونے والی اس تحقیق میں، ٹیم نے جوابدہی، درستگی، اور غلط جوابات کو تلاش کرنے کے لیے صارفین کی صلاحیت پر تین مقبول ترین AI چیٹ بوٹس کے تازہ ترین ورژنز کا تجربہ کیا۔

تین سب سے مشہور LLMs، BLOOM، LLaMA، اور GPT کی درستگی کو جانچنے کے لیے، ٹیم نے ہزاروں سوالات پوچھے اور موصول ہونے والے جوابات کا انہی سوالات کے پچھلے ورژن سے موازنہ کیا۔ انہوں نے ریاضی، سائنس ، لفظی پہیلیاں، اور جغرافیہ کے ساتھ ساتھ متن بنانے یا فہرستوں کو ترتیب دینے جیسے اعمال انجام دینے کی صلاحیت سمیت موضوعات کو بھی مختلف کیا۔

مطالعہ نے کچھ قابل ذکر رجحانات کا انکشاف کیا۔ چیٹ بوٹس کی مجموعی درستگی ہر نئے ورژن کے ساتھ بہتر ہوتی ہے، لیکن جب زیادہ مشکل سوالات کا سامنا کرنا پڑتا ہے تو اس میں کمی واقع ہوتی ہے۔ حیرت کی بات یہ ہے کہ جیسے جیسے LLMs بڑے اور زیادہ نفیس ہوتے گئے، وہ صحیح جواب دینے کی اپنی صلاحیت کے بارے میں کم کھلے ہوئے تھے۔

پہلے کے ورژن میں، زیادہ تر LLM صارفین کو واضح طور پر بتائیں گے کہ جب انہیں کوئی جواب نہیں ملتا یا انہیں مزید معلومات کی ضرورت ہوتی ہے۔ اس کے برعکس، نئے ورژن زیادہ اندازہ لگاتے ہیں، جس کے نتیجے میں مجموعی طور پر زیادہ جوابات ہوتے ہیں، درست اور غلط دونوں۔ مزید تشویشناک بات یہ ہے کہ اس تحقیق سے پتا چلا ہے کہ تمام ایل ایل ایم اب بھی کبھی کبھار آسان سوالات کے غلط جوابات دیتے ہیں، جس سے یہ معلوم ہوتا ہے کہ ان کی وشوسنییتا بہتری کا ایک شعبہ بنی ہوئی ہے۔

یہ نتائج AI کے ارتقاء میں ایک تضاد کو نمایاں کرتے ہیں: جب کہ ماڈلز زیادہ طاقتور ہو رہے ہیں، وہ اپنی حدود کے بارے میں بھی کم شفاف ہو سکتے ہیں۔

اس سے AI سسٹمز کے استعمال اور اعتماد میں نئے چیلنجز پیدا ہوتے ہیں، جس سے صارفین کو زیادہ محتاط رہنے کی ضرورت ہوتی ہے اور ڈویلپرز کو نہ صرف درستگی بلکہ ماڈلز کی "خود آگاہی" کو بہتر بنانے پر توجہ مرکوز کرنے کی ضرورت ہوتی ہے۔

ماخذ: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html