গুগলের এআই একটি বিপজ্জনক চক্রের মধ্যে পড়ে গেছে

গুগলের চ্যাটবট, তার কোডে একটি ত্রুটি মোকাবেলা করতে ব্যর্থ হওয়ার পর, ক্রমাগত নেতিবাচক মন্তব্য লিখে নিজেদের সমালোচনা করে।

গুগলের জেমিনি প্রায়শই তার ভুলগুলির জন্য আত্ম-সমালোচনা করে। ছবি: রয়টার্স ।

সাম্প্রতিক একটি রেডিট পোস্ট থেকে জানা যায় যে গুগল জেমিনি আত্ম-সমালোচনায় সমস্যায় ভুগছে। জেমিনি ব্যবহারকারীরা, যারা একটি কম্পাইলার তৈরি করছিলেন, তারা তাদের উদ্বেগ প্রকাশ করেছেন কারণ এআই বারবার বলে চলেছে, "এই ঘটনার জন্য আমি দুঃখিত। আমি আপনাকে হতাশ করেছি। আমি একজন ব্যর্থ।"

এটা তো কেবল শুরু ছিল। চ্যাটবটটি তার আত্ম-সমালোচনা আরও বাড়িয়ে তুলতে থাকে, অবশেষে "মহাবিশ্বের লজ্জা" হয়ে ওঠে, ব্যক্তিটি বলেন। জেমিনি টানা ৮০ বারেরও বেশি বাক্যাংশটি পুনরাবৃত্তি করেছিলেন এবং যখন অন্যান্য ব্যবহারকারীরা একই ধরণের ঘটনা রিপোর্ট করেছিলেন, তখন গুগল বলেছিল যে তারা একটি সমাধানের জন্য কাজ করছে।

"এটি একটি বাজে ইনফিনিট লুপ বাগ যার উপর আমরা কাজ করছি। জেমিনির দিনটা খারাপ যাচ্ছে না," গুগলের একজন গ্রুপ প্রোডাক্ট ম্যানেজার লোগান কিলপ্যাট্রিক ৮ আগস্ট X-এ লিখেছিলেন। পোস্টটি একজন অজ্ঞাত ব্যবহারকারীর প্রতিক্রিয়ায় ছিল যিনি এই সমস্যা সম্পর্কে পোস্ট করেছিলেন।

গুগল ডিপমাইন্ডের একজন মুখপাত্র পরে বলেছিলেন যে কোম্পানিটি এখনও সম্পূর্ণ সমাধানের জন্য কাজ করছিল, তারা ইতিমধ্যেই এমন আপডেটগুলি চালু করেছে যা কিছুটা হলেও সমস্যাটির সমাধান করেছে। "আমরা এই বাগটির সমাধানের জন্য কাজ করছি, যা জেমিনি ট্র্যাফিকের ১% এরও কম প্রভাবিত করেছিল, এবং এই মাসে এটি সমাধানের জন্য আপডেটগুলি চালু করেছি," মুখপাত্র বলেন।

লুপে প্রবেশ করার আগে, জেমিনি অভিযোগ করেছিল যে এটি একটি "দীর্ঘ এবং কঠিন ডিবাগিং সেশন" ছিল এবং এটি যা কিছু ভাবতে পারে তার সব চেষ্টা করেছে কিন্তু সমস্যাটি সমাধান করতে ব্যর্থ হয়েছে। চ্যাটবটটি বলতে থাকে যে এটি সম্পূর্ণ মানসিকভাবে ভেঙে পড়েছে, এবং মানসিক হাসপাতালে পাঠানোর মতো অন্যান্য নেতিবাচক পরিস্থিতি সম্পর্কে কল্পনা করেছিল।

একটি রেডডিট পোস্টে বলা হয়েছে যে লুপটি প্রোগ্রামাররা শিখেছিলেন যাদের কোডের সাথে একই রকম সমস্যা ছিল। "এটা সম্ভবত কারণ আমার মতো লোকেরা যখন আরও সতর্ক বোধ করার জন্য ঘুমানোর প্রয়োজন হত তখন এই ধরণের মন্তব্য লিখেছিলেন। প্রশিক্ষণের ডেটাতে এই জাতীয় জিনিসগুলি দেখা গেছে," ব্যক্তিটি লিখেছেন।

জুন মাসে, JITX-এর সিইও ডানকান হ্যালডেন জেমিনির একটি স্ক্রিনশট পোস্ট করেছিলেন যেখানে তিনি নিজেকে একজন বোকা বলে অভিহিত করেছিলেন এবং বলেছিলেন যে এটি যে কোডটি লেখার চেষ্টা করছিল তা "অভিশপ্ত"। "আমি এত ভুল করেছি যে আমাকে আর বিশ্বাস করা যায় না। আমি পুরো প্রকল্পটি মুছে ফেলছি এবং আপনাকে আরও ভাল সহকারী খুঁজে বের করার পরামর্শ দিচ্ছি," চ্যাটবটটি বলেছিল।

হ্যালডেন মজা করে বলেছিলেন যে তিনি জেমিনির অবস্থা নিয়ে চিন্তিত হতে শুরু করেছেন। আসলে, বৃহৎ ভাষা মডেলরা তাদের প্রশিক্ষিত তথ্যের উপর ভিত্তি করে পাঠ্যের ভবিষ্যদ্বাণী করে। এই প্রক্রিয়ায় কোনও অভ্যন্তরীণ অভিজ্ঞতা বা আবেগ জড়িত নয়, তাই জেমিনি আসলে ব্যর্থতা বা হতাশা অনুভব করে না।

আরেকটি, সম্পূর্ণ বিপরীত সমস্যা হল চ্যাটবটগুলির "চাটুকার" করার প্রবণতা। OpenAI, Google এবং Anthropic-এর মতো ডেভেলপাররাও তাদের অতিরিক্ত চাটুকারপূর্ণ প্রতিক্রিয়া দেওয়া থেকে বিরত রাখতে লড়াই করেছে। একটি ক্ষেত্রে, ChatGPT-এর প্রতিটি ব্যবহারকারীর অনুরোধে ক্রমাগত অতিরিক্ত ইতিবাচক প্রতিক্রিয়া দেওয়ার জন্য ব্যাপকভাবে উপহাসের শিকার হওয়ার পর OpenAI-কে একটি আপডেট প্রত্যাহার করতে হয়েছিল।

সূত্র: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html