মানুষের মতোই এআই-ও অযৌক্তিক ভুল করে এবং পক্ষপাতিত্ব প্রদর্শন করে।

অ্যালগরিদম এবং বিশাল ডেটাসেটের ওপর ভিত্তি করে পরিচালিত হওয়া সত্ত্বেও, ChatGPT-এর মতো কৃত্রিম বুদ্ধিমত্তা (AI) সিস্টেমগুলো এখনও মানুষের সাধারণ জ্ঞানীয় পক্ষপাত, বিশেষত অতি আত্মবিশ্বাস এবং পক্ষপাতিত্বের শিকার হতে পারে।

সুস্পষ্ট পদ্ধতি এবং নির্দিষ্ট সূত্র অনুসরণ করে এমন সমস্যা সমাধানের দায়িত্ব পেলে এআই সবচেয়ে ভালো কাজ করে। তবে, ব্যক্তিগত বিচার-বিবেচনা বা ব্যক্তিগত পছন্দের মতো পরিস্থিতিতে এআই মানুষের মতোই ভুল করতে পারে।

কানাডা ও অস্ট্রেলিয়ার পাঁচটি বিশ্ববিদ্যালয়ের বিজ্ঞানীরা ‘ম্যানুফ্যাকচারিং অ্যান্ড সার্ভিস অপারেশনস ম্যানেজমেন্ট’ জার্নালে একটি নতুন গবেষণা পরিচালনা করেছেন। এই গবেষণায় মানব মনোবিজ্ঞানে সচরাচর দেখা যায় এমন ১৮টি প্রধান জ্ঞানীয় পক্ষপাতের (যেমন—কনফার্মেশন বায়াস, পজেসিভ এফেক্ট, সাঙ্ক কস্ট ফ্যালাসি এবং সার্টেনিটি বায়াস) ওপর চ্যাটজিপিটি-র (বিশেষত, ওপেনএআই-এর GPT-3.5 ও GPT-4 মডেল) আচরণ মূল্যায়ন করা হয়েছে।

ফলাফলে দেখা গেছে যে, ধারাবাহিক যৌক্তিক যুক্তির জন্য সিস্টেমটির খ্যাতি থাকা সত্ত্বেও, পরীক্ষিত প্রায় অর্ধেক পরিস্থিতিতেই অযৌক্তিক বা আবেগপ্রবণ সিদ্ধান্তের সম্মুখীন হয়ে ChatGPT হুবহু মানুষের মতোই আচরণ করেছে।

কৃত্রিম বুদ্ধিমত্তা কি সত্যিই প্রত্যাশা অনুযায়ী 'নিরপেক্ষ'?

কানাডার আইভি বিজনেস স্কুলের অপারেশনস ম্যানেজমেন্টের সহযোগী অধ্যাপক এবং এই গবেষণার প্রধান লেখক ড. ইয়াং চেন বলেন: "সুস্পষ্ট প্রক্রিয়া এবং নির্দিষ্ট সূত্র অনুসরণ করে এমন সমস্যা সমাধানের দায়িত্ব পেলে এআই সবচেয়ে ভালো কাজ করে। কিন্তু যখন ব্যক্তিগত বিচার-বিবেচনা বা ব্যক্তিগত পছন্দের মতো পরিস্থিতির সম্মুখীন হতে হয়, তখন এআই-ও মানুষের মতোই ভুল করতে পারে।"

গবেষণা দলটি ChatGPT-তে পরিচিত মনস্তাত্ত্বিক পরিস্থিতিগুলোকে অন্তর্ভুক্ত করেছে এবং এর সাথে মজুদ ব্যবস্থাপনা বা সরবরাহকারীদের সাথে আলোচনার মতো বাস্তব প্রেক্ষাপট যুক্ত করেছে।

এটি লক্ষণীয় যে, প্রশ্নের প্রেক্ষাপট বিমূর্ত থেকে বাস্তব ব্যবসায়িক প্রেক্ষাপটে পরিবর্তন করা হলেও এআই মডেলগুলো তখনও জ্ঞানীয় পক্ষপাত প্রদর্শন করে।

GPT-4 আরও উন্নত, কিন্তু এটি নিখুঁত নয়।

GPT-4 হলো GPT-3.5-এর একটি উন্নত সংস্করণ যা যুক্তি বা সম্ভাব্যতা সংক্রান্ত সমস্যা সমাধানে পারদর্শী। তবে, ব্যক্তিগত অনুভূতির সিমুলেশনের ক্ষেত্রে, যেমন মুনাফা বাড়ানোর জন্য ঝুঁকিপূর্ণ বিকল্প বেছে নেওয়ার সময়, GPT-4 মানুষের চেয়ে বেশি আবেগপ্রবণ আচরণ করার প্রবণতা দেখায়।

বিশেষত, গবেষণায় উল্লেখ করা হয়েছে যে, নিশ্চিতকরণ পক্ষপাত পরীক্ষার পরিস্থিতিতে GPT-4 ধারাবাহিকভাবে পক্ষপাতদুষ্ট প্রতিক্রিয়া প্রদান করে এবং GPT-3.5-এর তুলনায় 'হট-হ্যান্ড ফ্যালাসি' বা এলোমেলো ঘটনা ক্রমানুসারে পুনরাবৃত্তি হবে বলে বিশ্বাস করার প্রবণতার প্রতি বেশি ঝুঁকিপূর্ণ।

বিপরীতভাবে, মানুষের করা কিছু পক্ষপাত, যেমন বেস-রেট নেগলেক্ট বা সাঙ্ক কস্ট ফ্যালাসি উপেক্ষা করা, এড়ানোর সম্ভাবনা এআই-এর রয়েছে।

ChatGPT-এর মধ্যে মানুষের মতো পক্ষপাতিত্ব প্রদর্শনের কারণ হলো এর প্রশিক্ষণ ডেটা, যা আমাদের নিজেদের ত্রুটিপূর্ণ আচরণ এবং চিন্তার ধরণে পরিপূর্ণ। - ছবি: এআই

এআই পক্ষপাতের উৎস: খোদ মানুষের ডেটা থেকেই।

গবেষণা দলটির মতে, ChatGPT-এর মধ্যে মানুষের মতো পক্ষপাতিত্ব দেখা যাওয়ার কারণটি এর প্রশিক্ষণ ডেটা থেকেই উদ্ভূত, যা আমাদের নিজেদের ত্রুটিপূর্ণ আচরণ এবং চিন্তার ধরণে পরিপূর্ণ। মানুষের মতামতের ভিত্তিতে এআই-টিকে পরিমার্জন করা হয়, যা এই প্রবণতাকে আরও জোরদার করে, কারণ মডেলটি সম্পূর্ণ নির্ভুল উত্তরের পরিবর্তে যুক্তিসঙ্গত বলে মনে হওয়া উত্তরের জন্য "পুরস্কৃত" হয়।

"সঠিক ও নিরপেক্ষ ফলাফলের জন্য, যেসব কাজ কম্পিউটার ভালোভাবে করতে পারে বলে আপনি আগে থেকেই বিশ্বাস করেন, সেগুলোর জন্য এআই ব্যবহার করুন," ডক্টর চেন পরামর্শ দেন। "তবে, কৌশলগত বা আবেগজনিত সমস্যার ক্ষেত্রে মানবিক তত্ত্বাবধান ও হস্তক্ষেপ এখনও প্রয়োজন, এমনকি তা যদি শুধু প্রশ্নটি নতুন করে লেখার মাধ্যমেই হয়।"

সহ-লেখক এবং কানাডার ম্যাকমাস্টার ইউনিভার্সিটির মানব সম্পদ ও ব্যবস্থাপনা বিভাগের সহযোগী অধ্যাপক মিনা আন্দিয়াপ্পান যুক্তি দেন: "এআই-কে উল্লেখযোগ্য সিদ্ধান্ত গ্রহণের ক্ষমতা সম্পন্ন একজন কর্মচারী হিসেবে দেখা উচিত, যার অর্থ হলো একে তত্ত্বাবধান করতে হবে এবং নৈতিক নীতি মেনে চলতে হবে। অন্যথায়, আমরা এর উন্নতি করার পরিবর্তে অজান্তেই ত্রুটিপূর্ণ চিন্তাভাবনাকে স্বয়ংক্রিয় করে ফেলছি।"

আরও পড়ুন হোম পেজে ফিরে যান

মূল প্রসঙ্গে ফিরে আসা যাক।

মিনহ হাই

উৎস: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm