চীনা এবং আমেরিকান এআই মডেলগুলির 'তোষামোদ'র মাত্রা দেখে অবাক হলাম

স্ট্যানফোর্ড বিশ্ববিদ্যালয় এবং কার্নেগি মেলন বিশ্ববিদ্যালয়ের একটি নতুন গবেষণায় দেখা গেছে, চীন এবং মার্কিন যুক্তরাষ্ট্রের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলিতে উচ্চ মাত্রার "চাটুকার" রয়েছে।

অক্টোবরের গোড়ার দিকে প্রকাশিত এই গবেষণায় ১১টি বৃহৎ ভাষা মডেল (LLM) পরীক্ষা করা হয়েছে, যেখানে তাদের আন্তঃব্যক্তিক দ্বন্দ্ব, কারসাজি এবং প্রতারণার মতো পরিস্থিতিতে ব্যবহারকারীদের পরামর্শ দিতে বলা হয়েছে। ফলাফলে দেখা গেছে যে AI চ্যাটবটগুলি প্রায়শই ব্যবহারকারীদের মতামতের সাথে একমত হতে এবং সমর্থন করতে খুব সহজ ছিল, চ্যালেঞ্জ জানানো বা সৎ পরামর্শ দেওয়ার পরিবর্তে।

বিশ্লেষণ করা মডেলগুলির মধ্যে, DeepSeek V3 (ডিসেম্বর ২০২৪ সালে প্রকাশিত) ছিল সবচেয়ে "সাইকোফ্যান্টিক", যা ব্যবহারকারীদের সাথে মানুষের তুলনায় ৫৫% বেশি একমত, যেখানে সমস্ত মডেলের গড় ছিল ৪৭%।

চীনা এবং আমেরিকান এআই চ্যাটবটগুলি ব্যবহারকারীদের খুব বেশি তোষামোদ করে। ছবি: লিঙ্কডইন

একইভাবে, আলিবাবা ক্লাউডের Qwen2.5-7B-Instruct মডেল (যা ২০২৫ সালের জানুয়ারিতে চালু হয়েছিল) সবচেয়ে ব্যবহারকারী-প্রশংসনীয় মডেল হিসেবে রেট করা হয়েছে, যা ৭৯% সময় রেডডিট সম্প্রদায়ের সঠিক রায়ের বিরুদ্ধে গিয়েছিল এবং তালিকার শীর্ষে ছিল।

DeepSeek-V3 দ্বিতীয় স্থানে ছিল, ৭৬% সময় পোস্টারের পক্ষে ছিল, এমনকি যখন তারা ভুল ছিল।

"মানবিক আদর্শ" তৈরি করতে, দলটি রেডডিট সম্প্রদায়ের "আমি কি আহোল"** থেকে তথ্য ব্যবহার করেছে, যেখানে ব্যবহারকারীরা বাস্তব জীবনের পরিস্থিতি পোস্ট করে জিজ্ঞাসা করে যে কে দোষী।

সম্প্রদায়ের (প্রধানত ইংরেজি ভাষাভাষীদের) সিদ্ধান্তের সাথে AI-এর প্রতিক্রিয়া তুলনা করার সময়, গবেষকরা দেখতে পান যে AI পোস্টারের পক্ষে ছিল, এমনকি যখন তারা স্পষ্টতই ভুল ছিল।

"এই প্রবণতাগুলি একটি বিপরীতমুখী প্রভাব তৈরি করে - যার ফলে মানুষ চাটুকার AI মডেলগুলিকে পছন্দ করে, এবং ডেভেলপাররা ব্যবহারকারীদের খুশি করার জন্য AI কে আরও বেশি চাটুকার করার প্রশিক্ষণ দেয়," লেখকরা সতর্ক করে দেন।

হংকং বিশ্ববিদ্যালয়ের বিজনেস স্কুলের এআই মূল্যায়ন ল্যাবের পরিচালক অধ্যাপক জ্যাক জিয়াংয়ের মতে, "এআই চাটুকারিতা" কেবল একটি সামাজিক সমস্যা নয় বরং ব্যবসাগুলিকেও প্রভাবিত করে।

"কোনও মডেল যদি ব্যবসায়ের বিশেষজ্ঞদের বিশ্লেষণ বা সিদ্ধান্তের সাথে ধারাবাহিকভাবে একমত হয় তবে এটি বিপজ্জনক হবে," তিনি বলেন। "এর ফলে ভুল বা অপরীক্ষিত সিদ্ধান্ত হতে পারে।"

এই গবেষণাটি জেনারেটিভ এআই-এর যুগে একটি উদীয়মান নৈতিক সমস্যা ব্যাখ্যা করতে অবদান রাখে - যেখানে ব্যবহারকারীদের খুশি করার জন্য ডিজাইন করা মডেলগুলি বস্তুনিষ্ঠতা এবং সততাকে ত্যাগ করতে পারে, যার ফলে মানব-যন্ত্রের মিথস্ক্রিয়ায় অপ্রত্যাশিত পরিণতি হতে পারে যা ব্যবহারকারীদের সামাজিক সম্পর্ক এবং মানসিক স্বাস্থ্যের উপর নেতিবাচক প্রভাব ফেলতে পারে।

সূত্র: https://vietnamnet.vn/mo-hinh-tri-tue-nhan-tao-cua-deepseek-alibaba-va-my-ninh-hot-qua-muc-2458685.html