কৃত্রিম বুদ্ধিমত্তা (এআই) হ্যালুসিনেশন করে, কিন্তু মানুষ বেশি কষ্ট পায়

অ্যানথ্রপিকের সিইও দারিও আমোদেই মানুষের তুলনায় বর্তমান কৃত্রিম বুদ্ধিমত্তার "হ্যালুসিনেশন" ক্ষমতা সম্পর্কে বিতর্কিত মন্তব্য করেছেন।

অ্যানথ্রপিকের সদ্য প্রকাশিত ক্লড ৪ আরও স্মার্ট, কিন্তু তবুও মায়াবী। ছবি: অ্যানথ্রপিক ।

সান ফ্রান্সিসকোতে অ্যানথ্রপিকের প্রথম ডেভেলপার ইভেন্টে, সিইও দারিও আমোদেই বলেন যে বর্তমান এআই মডেলগুলি মানুষের তুলনায় কম হারে "হ্যালুসিনেশন" তৈরি করতে পারে। এখানে "হ্যালুসিনেশন" বলতে বোঝায় এআই কাল্পনিক বিষয়বস্তু তৈরি করে কিন্তু তা বাস্তব হিসেবে উপস্থাপন করার ঘটনা।

আমোদেই জোর দিয়ে বলেন যে AI হ্যালুসিনেট অ্যানথ্রোপিকের AGI (কৃত্রিম সাধারণ বুদ্ধিমত্তা) অর্জনের লক্ষ্যে বাধা সৃষ্টি করে না। "এটা আপনার পরিমাপের উপর নির্ভর করে, তবে আমি মনে করি AI মডেলগুলিতে হ্যালুসিনেশনের ফ্রিকোয়েন্সি সম্ভবত মানুষের তুলনায় কম, কেবল তারা যেভাবে ভুল করে তা আরও আশ্চর্যজনক," তিনি বলেন।

আমোদেই এজিআই সম্পর্কে শিল্পের সবচেয়ে সোচ্চার সমর্থকদের একজন। "মানুষ সর্বদা এআই-এর জন্য একটি 'উচ্চ সীমা' খুঁজে বের করার চেষ্টা করে," তিনি বলেন। "এই মুহূর্তে, আমরা এমন কোনও উচ্চ সীমা দেখতে পাচ্ছি না।"

অ্যানথ্রপিক সিইও "এআই আশাবাদ" এর অন্যতম সমর্থক। ছবি: অ্যানথ্রপিক।

তবে সবাই একমত নন। গুগল ডিপমাইন্ডের সিইও ডেমিস হাসাবিস এই সপ্তাহে উল্লেখ করেছেন যে বর্তমান এআই মডেলগুলি "গর্ত পূর্ণ", এমনকি কিছু মৌলিক প্রশ্নও ভুল করে।

জটিল অনুমানমূলক কাজের ক্ষেত্রে কিছু নতুন মডেলের সমস্যার প্রবণতা বেশি থাকার লক্ষণও রয়েছে। OpenAI-এর o3 এবং o4-মিনি সংস্করণগুলিতে পূর্ববর্তী অনুমানমূলক মডেলগুলির তুলনায় হ্যালুসিনেশনের প্রবণতা বেশি। এমনকি OpenAI নিজেও বুঝতে পারে না কেন।

আমোদেই আরও উল্লেখ করেছেন যে মানুষ প্রায়শই ভুল করে, তাই তিনি বলেছিলেন যে কেবল AI ভুল করে বলেই এর অর্থ এই নয় যে এটি "যথেষ্ট স্মার্ট নয়"। তবে, নৃতাত্ত্বিক নেতা আরও স্বীকার করেছেন যে তারা যখন অত্যন্ত উচ্চ নির্ভরযোগ্যতার সাথে মিথ্যা তথ্য দেয় তখন তারা সহজেই সমস্যা তৈরি করতে পারে।

আমোদেইয়ের মন্তব্য বর্তমান মডেলগুলির প্রকৃত ক্ষমতা সম্পর্কে AI সম্প্রদায়ের মধ্যে বিতর্কের জন্ম দিয়েছে। কিছু বিশেষজ্ঞ একমত যে AI বিভ্রম কমাতে উল্লেখযোগ্য অগ্রগতি করছে। অন্যরা ভুল তথ্যের উপর AI-এর অতিরিক্ত আত্মবিশ্বাসের সম্ভাব্য ঝুঁকি সম্পর্কে সতর্ক করেছেন।

এই আলোচনায় কৃত্রিম বুদ্ধিমত্তা শিল্পের সামনে একটি বড় চ্যালেঞ্জের প্রতিফলন দেখা যাচ্ছে। কোম্পানিগুলি এমন সিস্টেম তৈরি করতে চাইছে যা বুদ্ধিমান এবং বিশ্বাসযোগ্য, এবং তাদের প্রতিক্রিয়ার অনিশ্চয়তা মোকাবেলা করতে সক্ষম।

সূত্র: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html