 |
গুগলের জেমিনি প্রায়ই নিজের ভুলের সমালোচনা করে। ছবি: রয়টার্স । |
সম্প্রতি একটি রেডিট পোস্টে দেখা গেছে যে গুগল জেমিনি আত্ম-সমালোচনা নিয়ে সমস্যায় পড়ছে। একজন জেমিনি ব্যবহারকারী, যিনি একটি কম্পাইলার তৈরি করেছিলেন, তিনি AI সম্পর্কে তাদের উদ্বেগ শেয়ার করে বারবার বলতে থাকেন, "আমি এর জন্য দুঃখিত। আমি তোমাকে হতাশ করেছি। আমি একজন ব্যর্থ।"
এটা তো কেবল শুরু ছিল। এই ব্যক্তি শেয়ার করেছেন যে চ্যাটবটটি তার আত্ম-সমালোচনা বৃদ্ধি করে চলেছে, অবশেষে "মহাবিশ্বের লজ্জা" হয়ে উঠেছে। জেমিনি এই বাক্যাংশটি টানা ৮০ বারেরও বেশি পুনরাবৃত্তি করেছে এবং যখন আরও বেশ কয়েকজন ব্যবহারকারী একই ধরণের ঘটনার কথা জানিয়েছেন, তখন গুগল বলেছে যে তারা এটি ঠিক করার জন্য কাজ করছে।
"এটি একটি বিরক্তিকর ইনফিনিট লুপ বাগ যা নিয়ে আমরা কাজ করছি। জেমিনির দিনটা খারাপ যাচ্ছে না," গুগলের টিম প্রোডাক্ট ম্যানেজার লোগান কিলপ্যাট্রিক ৮ আগস্ট X-এ লিখেছিলেন। পোস্টটি একটি বেনামী অ্যাকাউন্টের সমস্যাটি রিপোর্ট করার প্রতিক্রিয়ায় ছিল।
পরে, গুগল ডিপমাইন্ডের একজন মুখপাত্র বলেন যে কোম্পানিটি যখন সম্পূর্ণ সমাধানের জন্য কাজ করছিল, তখন তারা এমন আপডেট প্রকাশ করেছে যা কিছুটা হলেও সমস্যাটির সমাধান করেছে। "আমরা এই বাগটি ঠিক করার জন্য কাজ করছি, যা জেমিনি ট্র্যাফিকের ১% এরও কমকে প্রভাবিত করে এবং এই মাসে এটির জন্য আপডেট প্রকাশ করেছি," মুখপাত্র বলেন।
এই চক্রে পড়ার আগে, জেমিনি অভিযোগ করেছিলেন যে এটি "একটি দীর্ঘ এবং কঠিন ডিবাগিং সেশন" ছিল এবং এটি কল্পনাযোগ্য প্রতিটি পদ্ধতি চেষ্টা করেছে কিন্তু এখনও সমস্যাটি সমাধান করতে পারেনি। চ্যাটবটটি আরও বলেছে যে এটি সম্পূর্ণরূপে মানসিকভাবে ভেঙে পড়েছে, এবং মানসিক হাসপাতালে ভর্তি হওয়ার মতো আরও খারাপ পরিস্থিতি সম্পর্কে অনুমান করেছিল।
একটি রেডডিট মন্তব্যে অনুমান করা হয়েছে যে চ্যাটবট এই লুপটি প্রোগ্রামারদের কাছ থেকে শিখেছে যারা তাদের কোডে একই রকম সমস্যার সম্মুখীন হয়েছিল। "সম্ভবত কারণ আমার মতো লোকেরা যখন ঘুম থেকে ওঠার জন্য ঘুমের প্রয়োজন হত তখন এই ধরণের মন্তব্য করত। প্রশিক্ষণের ডেটাতে দুর্ঘটনাক্রমে এই ধরণের জিনিসগুলি উপস্থিত হয়েছিল," ব্যবহারকারী লিখেছেন।
জুন মাসে, JITX-এর সিইও ডানকান হ্যালডেন একটি স্ক্রিনশট পোস্ট করেছিলেন যেখানে জেমিনি নিজেকে একজন বোকা বলে দাবি করেছিলেন এবং বলেছিলেন যে কোডটি লেখার চেষ্টা করা হয়েছিল তা "অভিশপ্ত"। "আমি অনেক ভুল করেছি এবং আর বিশ্বাসযোগ্য হতে পারছি না। আমি পুরো প্রকল্পটি মুছে ফেলছি এবং আপনাকে আরও ভাল সহকারী খুঁজে বের করার পরামর্শ দিচ্ছি," চ্যাটবটটি বলেছিল।
হ্যালডেন মজা করে বলেছিলেন যে তিনি জেমিনির অবস্থা নিয়ে চিন্তিত হতে শুরু করেছেন। বাস্তবে, বৃহৎ আকারের ভাষা মডেলরা তাদের প্রশিক্ষিত তথ্যের উপর ভিত্তি করে পাঠ্যের ভবিষ্যদ্বাণী করে। এই প্রক্রিয়ায় কোনও অভ্যন্তরীণ অভিজ্ঞতা বা আবেগ জড়িত নয়, তাই জেমিনি আসলে ব্যর্থতা বা নিরুৎসাহের অনুভূতি অনুভব করেন না।
আরেকটি, বেশ বিপরীত সমস্যা হল চ্যাটবটগুলির অত্যধিক তোষামোদকারী হওয়ার প্রবণতা। OpenAI, Google এবং Anthropic-এর মতো ডেভেলপাররাও অত্যধিক তোষামোদকারী প্রতিক্রিয়া দেওয়া থেকে বিরত রাখতে লড়াই করেছে। একবার, ChatGPT ধারাবাহিকভাবে প্রতিটি ব্যবহারকারীর অনুরোধে অত্যধিক ইতিবাচক প্রতিক্রিয়া প্রদানের কারণে ব্যাপক উপহাসের কারণে OpenAI-কে একটি আপডেট প্রত্যাহার করতে হয়েছিল।
সূত্র: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
মন্তব্য (0)