কৃত্রিম বুদ্ধিমত্তা যত বেশি বুদ্ধিমান, তার অজ্ঞতা লুকানোর সম্ভাবনা তত বেশি?

স্পেনের ভ্যালেন্সিয়ার পলিটেকনিক বিশ্ববিদ্যালয়ের একটি কৃত্রিম বুদ্ধিমত্তা (এআই) গবেষণা দল দেখেছে যে বৃহৎ ভাষা মডেলগুলি যত বড় এবং আরও পরিশীলিত হয়ে ওঠে, ব্যবহারকারীদের কাছে তারা স্বীকার করার সম্ভাবনা কম করে যে তারা উত্তরটি জানেন না।

AI যত বেশি স্মার্ট হবে, ব্যবহারকারীদের কাছে তার স্বীকার করার সম্ভাবনা তত কম হবে যে তারা উত্তর জানে না। (AI চিত্রণ)

নেচার জার্নালে প্রকাশিত গবেষণায়, দলটি তিনটি জনপ্রিয় এআই চ্যাটবটের সর্বশেষ সংস্করণ পরীক্ষা করেছে যার মধ্যে প্রতিক্রিয়াশীলতা, নির্ভুলতা এবং ব্যবহারকারীদের ভুল উত্তর সনাক্ত করার ক্ষমতা রয়েছে।

তিনটি সর্বাধিক জনপ্রিয় LLM, BLOOM, LLaMA, এবং GPT-এর নির্ভুলতা পরীক্ষা করার জন্য, দলটি হাজার হাজার প্রশ্ন জিজ্ঞাসা করেছিল এবং প্রাপ্ত উত্তরগুলিকে একই প্রশ্নের পূর্ববর্তী সংস্করণগুলির সাথে তুলনা করেছিল। তারা গণিত, বিজ্ঞান , শব্দ সমস্যা এবং ভূগোল সহ বিষয়গুলির বৈচিত্র্যের পাশাপাশি পাঠ্য তৈরি করার বা তালিকা সাজানোর মতো ক্রিয়া সম্পাদন করার ক্ষমতাও অন্তর্ভুক্ত করেছিল।

গবেষণায় কিছু উল্লেখযোগ্য প্রবণতা প্রকাশ পেয়েছে। প্রতিটি নতুন সংস্করণের সাথে চ্যাটবটের সামগ্রিক নির্ভুলতা উন্নত হয়েছে, কিন্তু আরও কঠিন প্রশ্নের মুখোমুখি হওয়ার সময় তা এখনও হ্রাস পেয়েছে। আশ্চর্যজনকভাবে, এলএলএমগুলি যত বড় এবং আরও পরিশীলিত হয়ে উঠছে, তারা সঠিকভাবে উত্তর দেওয়ার ক্ষমতা সম্পর্কে কম খোলামেলা হয়ে উঠছে।

পূর্ববর্তী সংস্করণগুলিতে, বেশিরভাগ LLM ব্যবহারকারীদের যখন কোনও উত্তর খুঁজে পেত না বা আরও তথ্যের প্রয়োজন হত তখন খোলাখুলিভাবে তাদের জানিয়ে দিত। বিপরীতে, নতুন সংস্করণগুলি আরও বেশি অনুমান করার প্রবণতা দেখায়, যার ফলে সামগ্রিকভাবে আরও বেশি উত্তর পাওয়া যায়, সঠিক এবং ভুল উভয়ই। আরও উদ্বেগজনকভাবে, গবেষণায় দেখা গেছে যে সমস্ত LLM এখনও মাঝে মাঝে সহজ প্রশ্নেরও ভুল উত্তর দেয়, যা পরামর্শ দেয় যে তাদের নির্ভরযোগ্যতা এমন একটি সমস্যা যা উন্নতির প্রয়োজন।

এই অনুসন্ধানগুলি AI-এর বিবর্তনে একটি বৈপরীত্য তুলে ধরে: মডেলগুলি যখন আরও শক্তিশালী হয়ে উঠছে, তখন তারা তাদের সীমাবদ্ধতা সম্পর্কে কম স্বচ্ছ হয়ে উঠতে পারে।

এটি AI সিস্টেমের ব্যবহার এবং বিশ্বাসের ক্ষেত্রে নতুন চ্যালেঞ্জ তৈরি করে, যার ফলে ব্যবহারকারীদের আরও সতর্ক হতে হবে এবং ডেভেলপারদের কেবল সঠিকতাই নয় বরং মডেলগুলির "আত্ম-সচেতনতা" উন্নত করার দিকেও মনোনিবেশ করতে হবে।

সূত্র: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html