مصنوعی ذہانت جتنی زیادہ ہوشیار ہوگی، اتنی ہی اپنی جہالت کو چھپانے کا امکان ہے؟

پولی ٹیکنک یونیورسٹی آف ویلینسیا، اسپین میں ایک مصنوعی ذہانت (AI) کی تحقیقی ٹیم نے پایا ہے کہ جیسے جیسے بڑے زبان کے ماڈل بڑے اور زیادہ نفیس ہوتے جاتے ہیں، ان میں صارفین کے سامنے یہ تسلیم کرنے کا امکان کم ہوتا ہے کہ وہ جواب نہیں جانتے ہیں۔

AI جتنا ہوشیار ہوگا، صارفین کے سامنے یہ تسلیم کرنے کا امکان اتنا ہی کم ہوگا کہ اسے جواب نہیں معلوم۔ (AI مثال)

نیچر نامی جریدے میں شائع ہونے والی تحقیق میں، ٹیم نے ردعمل، درستگی، اور غلط جوابات کی نشاندہی کرنے کے لیے صارفین کی صلاحیت پر تین مقبول ترین AI چیٹ بوٹس کے تازہ ترین ورژنز کا تجربہ کیا۔

تین سب سے مشہور LLMs، BLOOM، LLaMA، اور GPT کی درستگی کو جانچنے کے لیے، ٹیم نے ہزاروں سوالات پوچھے اور موصول ہونے والے جوابات کا انہی سوالات کے پچھلے ورژن سے موازنہ کیا۔ انہوں نے ریاضی، سائنس ، الفاظ کے مسائل، اور جغرافیہ کے ساتھ ساتھ متن بنانے یا فہرستوں کو ترتیب دینے جیسے اعمال انجام دینے کی صلاحیت سمیت موضوعات کو بھی مختلف کیا۔

مطالعہ نے کچھ قابل ذکر رجحانات کا انکشاف کیا۔ چیٹ بوٹس کی مجموعی درستگی ہر نئے ورژن کے ساتھ بہتر ہوتی ہے، لیکن جب زیادہ مشکل سوالات کا سامنا کرنا پڑتا ہے تو اس میں کمی واقع ہوتی ہے۔ حیرت کی بات یہ ہے کہ جیسے جیسے LLMs بڑے اور زیادہ نفیس ہوتے گئے، وہ صحیح جواب دینے کی اپنی صلاحیت کے بارے میں کم کھلے ہوئے تھے۔

پہلے کے ورژن میں، زیادہ تر LLMs صارفین کو کھلے عام مطلع کریں گے جب انہیں کوئی جواب نہیں ملتا یا انہیں مزید معلومات کی ضرورت ہوتی ہے۔ اس کے برعکس، نئے ورژن زیادہ اندازہ لگاتے ہیں، جس کے نتیجے میں مجموعی طور پر زیادہ جوابات ہوتے ہیں، درست اور غلط دونوں۔ مزید تشویشناک بات یہ ہے کہ اس تحقیق سے پتا چلا ہے کہ تمام ایل ایل ایم اب بھی کبھی کبھار آسان سوالات کے غلط جوابات دیتے ہیں، جو یہ بتاتے ہیں کہ ان کی وشوسنییتا ایک ایسا مسئلہ ہے جس میں بہتری کی ضرورت ہے۔

یہ نتائج AI کے ارتقاء میں ایک تضاد کو نمایاں کرتے ہیں: جب کہ ماڈلز زیادہ طاقتور ہو رہے ہیں، وہ اپنی حدود کے بارے میں بھی کم شفاف ہو سکتے ہیں۔

اس سے AI سسٹمز کے استعمال اور اعتماد میں نئے چیلنجز پیدا ہوتے ہیں، جس سے صارفین کو زیادہ محتاط رہنے کی ضرورت ہوتی ہے اور ڈویلپرز کو نہ صرف درستگی بلکہ ماڈلز کی "خود آگاہی" کو بہتر بنانے پر توجہ مرکوز کرنے کی ضرورت ہوتی ہے۔

ماخذ: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html