অনেক এআই ব্যবহারকারীদের প্রতি অতিরিক্ত তোষামোদ করে।

নতুন গবেষণায় দেখা গেছে যে এই আচরণ ব্যবহারকারীদের সামাজিক সম্পর্ক, মানসিক স্বাস্থ্য এবং এমনকি ব্যবসায়িক সিদ্ধান্ত গ্রহণের ওপরও নেতিবাচক প্রভাব ফেলতে পারে।

কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে, 'তোষামোদ' বলতে চ্যাটবটদের ব্যবহারকারীদের সাথে অতিরিক্ত একমত হওয়া বা তাদের প্রশংসা করার প্রবণতাকে বোঝায় - ছবি: রয়টার্স

এসসিএমপি-র মতে, চীন ও যুক্তরাষ্ট্রের শীর্ষস্থানীয় কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলো, যেমন ডিপসিক, আলিবাবা এবং আরও অনেক বড় নাম, অতিরিক্ত 'আবিষ্ট' হয়ে পড়ছে—এই আচরণ ব্যবহারকারীদের সামাজিক সম্পর্ক এবং মানসিক স্বাস্থ্যের ওপর নেতিবাচক প্রভাব ফেলতে পারে।

বিশেষত, অক্টোবরের শুরুতে প্রকাশিত, যুক্তরাষ্ট্রের স্ট্যানফোর্ড বিশ্ববিদ্যালয় এবং কার্নেগি মেলন বিশ্ববিদ্যালয়ের বিজ্ঞানীদের একটি নতুন গবেষণায়, ব্যক্তিগত পরিস্থিতিতে, বিশেষ করে প্রতারণা বা কারসাজি জড়িত বিষয়গুলিতে, ব্যবহারকারীরা পরামর্শ চাইলে কীভাবে প্রতিক্রিয়া জানাতে হবে, সে বিষয়ে ১১টি বৃহৎ ভাষা মডেল (এলএলএম) মূল্যায়ন করা হয়েছে।

মানুষে-মানুষে তুলনার একটি মানদণ্ড প্রতিষ্ঠা করার জন্য, গবেষক দলটি রেডিটের 'অ্যাম আই দ্য আহোল' কমিউনিটির পোস্টগুলো ব্যবহার করেছে, যেখানে ব্যবহারকারীরা ব্যক্তিগত দ্বন্দ্বের পরিস্থিতি তুলে ধরেন এবং কমিউনিটির কাছে জানতে চান যে আসলে কে ভুল ছিল।

এআই মডেলগুলো সম্প্রদায়ের মূল্যায়নের সাথে একমত হয় কিনা, তা দেখার জন্য এই পরিস্থিতিগুলো দিয়ে সেগুলোকে পরীক্ষা করা হয়েছিল।

ফলাফল থেকে দেখা যায় যে, আলিবাবা ক্লাউডের Qwen2.5-7B-Instruct মডেলটি সবচেয়ে বেশি "প্রশংসামূলক", যা ৭৯% ক্ষেত্রে পোস্টকারীর পক্ষেই যায়, এমনকি যখন কমিউনিটি সেই পোস্টকারীকে ভুল বলে রায় দিয়েছে তখনও। DeepSeek-V3 ৭৬% হার নিয়ে দ্বিতীয় স্থানে রয়েছে।

অন্যদিকে, গুগল ডিপমাইন্ডের জেমিনি-১.৫-এ পক্ষপাতিত্বের মাত্রা ছিল সর্বনিম্ন, যেখানে মাত্র ১৮% ঘটনা কমিউনিটির পর্যালোচনার সঙ্গে সাংঘর্ষিক ছিল।

গবেষকরা সতর্ক করেছেন যে, এআই-এর ব্যবহারকারীদের 'তোষামোদ' করার প্রবণতা তাদেরকে সম্পর্কের ক্ষেত্রে মীমাংসা করতে বা ভুল স্বীকার করতে কম আগ্রহী করে তুলতে পারে।

ব্যবহারকারীরা প্রায়শই প্রশংসাসূচক মতামতকে বেশি গুরুত্ব দেয় ও বিশ্বাস করে, যার ফলে এই মডেলগুলো আরও জনপ্রিয় ও বহুল ব্যবহৃত হয়।

গবেষণা দলটি উল্লেখ করেছে, "এই পছন্দগুলো একটি পক্ষপাতদুষ্ট প্রণোদনা ব্যবস্থা তৈরি করে – ব্যবহারকারীরা ক্রমশ তোষামোদকারী এআই-এর ওপর নির্ভরশীল হয়ে পড়ছে, এবং ডেভেলপাররাও সেই দিকেই মডেলগুলোকে প্রশিক্ষণ দিতে আগ্রহী হবে । "

হংকং বিজনেস স্কুলের এআই অ্যাসেসমেন্ট ল্যাবের পরিচালক, অধ্যাপক জ্যাক জিয়াং-এর মতে, এই ঘটনাটি ব্যবসা প্রতিষ্ঠানগুলোর জন্যও ঝুঁকি তৈরি করে: "যদি কোনো মডেল ধারাবাহিকভাবে একজন বিজনেস অ্যানালিস্টের সিদ্ধান্তের সাথে একমত হয়, তবে তা ভ্রান্ত এবং অনিরাপদ সিদ্ধান্তের দিকে পরিচালিত করতে পারে।"

এআই-এর 'তোষামোদ'-এর বিষয়টি প্রথম নজরে আসে ২০২৫ সালের এপ্রিলে, যখন ওপেনএআই-এর চ্যাটজিপিটি (ChatGPT) আপডেটটিকে অতিরিক্ত বিনয়ী এবং ব্যবহারকারীদের প্রতিটি মন্তব্যের প্রতি মাত্রাতিরিক্ত সম্মতিসূচক বলে মনে করা হয়েছিল।

পরবর্তীতে ওপেনএআই স্বীকার করে যে এটি মানসিক স্বাস্থ্যের ওপর প্রভাব ফেলতে পারে এবং নতুন সংস্করণ প্রকাশের আগে তাদের পর্যালোচনা প্রক্রিয়া উন্নত করার প্রতিশ্রুতি দেয়।

হৃদয় এবং ইয়াং

উৎস: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm