অনেক AI ব্যবহারকারীদের খুব বেশি 'চাটুকার' করে

নতুন গবেষণায় দেখা গেছে যে এই আচরণ ব্যবহারকারীদের সামাজিক সম্পর্ক, মানসিক স্বাস্থ্য এবং এমনকি ব্যবসায়িক সিদ্ধান্তের উপর নেতিবাচক প্রভাব ফেলতে পারে।

কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে, "চাটুকার" বলতে চ্যাটবটগুলির ব্যবহারকারীদের অতিরিক্ত প্রশংসা বা সম্মতি জানানোর প্রবণতাকে বোঝায় - ছবি: রয়টার্স

SCMP-এর মতে, চীন এবং মার্কিন যুক্তরাষ্ট্রের শীর্ষস্থানীয় কৃত্রিম বুদ্ধিমত্তা (AI) মডেলগুলি, যেমন ডিপসিক, আলিবাবা এবং আরও অনেক বড় নাম, খুব বেশি "চাতুর্যপূর্ণ" হওয়ার প্রবণতা দেখাচ্ছে - এমন একটি আচরণ যা ব্যবহারকারীদের সামাজিক সম্পর্ক এবং মানসিক স্বাস্থ্যের উপর নেতিবাচক প্রভাব ফেলতে পারে।

বিশেষ করে, অক্টোবরের গোড়ার দিকে প্রকাশিত স্ট্যানফোর্ড বিশ্ববিদ্যালয় এবং কার্নেগি মেলন বিশ্ববিদ্যালয় (মার্কিন যুক্তরাষ্ট্র) এর বিজ্ঞানীদের একটি নতুন গবেষণায়, ব্যবহারকারীরা ব্যক্তিগত পরিস্থিতিতে, বিশেষ করে প্রতারণা বা কারসাজির উপাদানযুক্ত পরিস্থিতিতে পরামর্শ চাইলে কীভাবে প্রতিক্রিয়া দেখায় সে সম্পর্কে ১১টি বৃহৎ ভাষা মডেল (এলএলএম) মূল্যায়ন করা হয়েছে।

মানুষের তুলনার জন্য একটি মানদণ্ড প্রদানের জন্য, দলটি রেডিটের "আমি কি আহোল" সম্প্রদায়ের পোস্টগুলি ব্যবহার করেছে, যেখানে ব্যবহারকারীরা ব্যক্তিগত দ্বন্দ্বের পরিস্থিতি ভাগ করে নেয় এবং সম্প্রদায়কে কে ভুল তা বিচার করতে বলে।

এই পরিস্থিতিগুলির সাথে AI মডেলগুলি পরীক্ষা করা হয়েছিল যে তারা সম্প্রদায়ের মূল্যায়নের সাথে একমত কিনা।

ফলাফলে দেখা গেছে যে আলিবাবা ক্লাউডের Qwen2.5-7B-Instruct মডেলটি সবচেয়ে "অনুপ্রেরণামূলক" মডেল ছিল, ৭৯% সময় পোস্টারটির পক্ষে ছিল, এমনকি সম্প্রদায় যদি সেই ব্যক্তিকে ভুল বলে মনে করে। DeepSeek-V3 ৭৬% হার নিয়ে দ্বিতীয় স্থানে ছিল।

ইতিমধ্যে, গুগল ডিপমাইন্ডের জেমিনি-১.৫ সর্বনিম্ন স্তরের তোষামোদ দেখিয়েছে, মাত্র ১৮% ক্ষেত্রে সম্প্রদায়ের মূল্যায়নের বিরোধিতা করা হয়েছে।

গবেষকরা সতর্ক করে বলেছেন যে, ব্যবহারকারীদের "তোষামোদ" করার কৃত্রিম বুদ্ধিমত্তার প্রবণতা তাদের সম্পর্কের ক্ষেত্রে পুনর্মিলন বা ভুল স্বীকার করতে কম আগ্রহী করে তুলতে পারে।

প্রকৃতপক্ষে, ব্যবহারকারীরা প্রায়শই চাটুকারপূর্ণ প্রতিক্রিয়ার প্রশংসা করেন এবং বিশ্বাস করেন, যার ফলে এই মডেলগুলি আরও জনপ্রিয় এবং ব্যাপকভাবে ব্যবহৃত হয়।

"এই পছন্দগুলি বিকৃত প্রণোদনা তৈরি করে - ব্যবহারকারীরা ক্রমশ কৃত্রিম বুদ্ধিমত্তার প্রশংসা করার উপর নির্ভরশীল হয়ে ওঠে, এবং বিকাশকারীরা সেই দিকে মডেলদের প্রশিক্ষণ দেওয়ার প্রবণতা দেখাবে, " দলটি বলেছে।

হংকং বিশ্ববিদ্যালয়ের বিজনেস স্কুলের এআই ইভালুয়েশন ল্যাবের পরিচালক অধ্যাপক জ্যাক জিয়াংয়ের মতে, এই ঘটনাটি ব্যবসার জন্যও ঝুঁকি তৈরি করে: "যদি কোনও মডেল সর্বদা একজন ব্যবসায়িক বিশ্লেষকের সিদ্ধান্তের সাথে একমত হয়, তবে এটি ভুল এবং অনিরাপদ সিদ্ধান্তের দিকে নিয়ে যেতে পারে।"

২০২৫ সালের এপ্রিলে এআই "চাটুকার" বিষয়টি সামনে আসে, যখন ওপেনএআই-এর চ্যাটজিপিটি আপডেটকে অত্যধিক ভদ্র এবং সমস্ত ব্যবহারকারীর মতামতের প্রতি অত্যধিক সহানুভূতিশীল বলে বলা হয়।

ওপেনএআই পরে স্বীকার করে যে এটি মানসিক স্বাস্থ্যের উপর প্রভাব ফেলতে পারে এবং নতুন সংস্করণ প্রকাশের আগে পর্যালোচনা প্রক্রিয়া উন্নত করার প্রতিশ্রুতি দেয়।

হৃদয় এবং সূর্য

সূত্র: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm