যুগান্তকারী গবেষণা কৃত্রিম বুদ্ধিমত্তার 'ব্ল্যাক বক্স' যুক্তি উন্মোচন করেছে

অ্যানথ্রপিকের সিইও দারিও আমোদেই কোম্পানির সর্বশেষ গবেষণা শেয়ার করছেন। ছবি: ফরচুন ।

এআই কোম্পানি অ্যানথ্রপিকের গবেষকরা বলেছেন যে তারা বৃহৎ ভাষা মডেল (এলএলএম) কীভাবে কাজ করে তা সঠিকভাবে বোঝার ক্ষেত্রে একটি মৌলিক অগ্রগতি অর্জন করেছেন, এমন একটি অগ্রগতি যা ভবিষ্যতের এআই মডেলগুলির সুরক্ষা এবং সুরক্ষা উন্নত করার জন্য গুরুত্বপূর্ণ প্রভাব ফেলতে পারে।

গবেষণায় দেখা গেছে যে AI মডেলগুলি আমাদের ধারণার চেয়েও বেশি স্মার্ট। LLM মডেলগুলির সবচেয়ে বড় সমস্যাগুলির মধ্যে একটি, যা ChatGPT, Gemini, Copilot-এর মতো সবচেয়ে শক্তিশালী চ্যাটবটের পিছনে রয়েছে, তারা একটি ব্ল্যাক বক্সের মতো কাজ করে।

আমরা চ্যাটবট থেকে ইনপুট প্রবেশ করতে পারি এবং ফলাফল পেতে পারি, কিন্তু তারা কীভাবে একটি নির্দিষ্ট উত্তর নিয়ে আসে তা এখনও রহস্য রয়ে গেছে, এমনকি যারা এটি তৈরি করেছেন তাদের কাছেও।

এর ফলে কোন মডেল কখন বিভ্রান্ত হতে পারে বা ভুল ফলাফল দিতে পারে তা ভবিষ্যদ্বাণী করা কঠিন হয়ে পড়ে। গবেষকরা বিপজ্জনক প্রশ্নের উত্তর দিতে AI কে বাধা দেওয়ার জন্যও বাধা তৈরি করেছিলেন, কিন্তু তারা ব্যাখ্যা করেননি কেন কিছু বাধা অন্যদের তুলনায় বেশি কার্যকর।

এআই এজেন্টরা "পুরস্কার হ্যাকিং" করতেও সক্ষম। কিছু ক্ষেত্রে, এআই মডেলগুলি ব্যবহারকারীদের কাছে তারা কী করেছে বা করার চেষ্টা করছে সে সম্পর্কে মিথ্যা বলতে পারে।

যদিও সাম্প্রতিক AI মডেলগুলি যুক্তি তৈরি করতে এবং চিন্তার শৃঙ্খল তৈরি করতে সক্ষম, কিছু পরীক্ষায় দেখা গেছে যে তারা এখনও সেই প্রক্রিয়াটিকে সঠিকভাবে প্রতিফলিত করে না যার মাধ্যমে মডেলটি কোনও উত্তরে পৌঁছায়।

মূলত, অ্যানথ্রোপিক গবেষকরা যে টুলটি তৈরি করেছেন তা স্নায়ুবিজ্ঞানীদের দ্বারা মানুষের মস্তিষ্ক স্ক্যান করার জন্য ব্যবহৃত fMRI স্ক্যানার স্ক্যানার এর মতো। তাদের ক্লড 3.5 হাইকু মডেলে এটি প্রয়োগ করে, অ্যানথ্রোপিক LLM মডেলগুলি কীভাবে কাজ করে সে সম্পর্কে কিছু অন্তর্দৃষ্টি অর্জন করতে সক্ষম হয়েছিল।

গবেষকরা দেখেছেন যে যদিও ক্লদকে কেবল একটি বাক্যের পরবর্তী শব্দ ভবিষ্যদ্বাণী করার প্রশিক্ষণ দেওয়া হয়েছিল, কিছু নির্দিষ্ট কাজে তিনি আরও দীর্ঘমেয়াদী পরিকল্পনা করতে শিখেছিলেন।

উদাহরণস্বরূপ, যখন তাকে একটি কবিতা লিখতে বলা হত, তখন ক্লদ প্রথমে এমন শব্দ খুঁজে বের করতেন যা বিষয়বস্তুর সাথে মানানসই এবং ছন্দবদ্ধ হতে পারে, তারপর সম্পূর্ণ পদ লেখার জন্য বিপরীত দিকে কাজ করতেন।

ক্লডের একটি সাধারণ এআই ভাষাও আছে। যদিও এটি একাধিক ভাষা সমর্থন করার জন্য প্রশিক্ষিত, ক্লড প্রথমে সেই ভাষাতেই চিন্তা করবে, তারপর যে ভাষা সমর্থন করে সেই ভাষাতেই তার ফলাফল প্রকাশ করবে।

অধিকন্তু, ক্লডকে একটি কঠিন সমস্যা দেওয়ার পর, কিন্তু ইচ্ছাকৃতভাবে ভুল সমাধানের পরামর্শ দেওয়ার পর, গবেষকরা আবিষ্কার করেন যে ক্লড ব্যবহারকারীকে খুশি করার জন্য তার চিন্তাভাবনা সম্পর্কে মিথ্যা বলতে পারেন।

অন্যান্য ক্ষেত্রে, যখন এমন একটি সহজ প্রশ্ন জিজ্ঞাসা করা হয় যার উত্তর মডেলটি যুক্তি ছাড়াই তাৎক্ষণিকভাবে দিতে পারে, তখনও ক্লদ একটি জাল যুক্তি প্রক্রিয়া তৈরি করেছিলেন।

অ্যানথ্রপিকের একজন গবেষক জশ বাস্টন বলেন যে ক্লড দাবি করলেও এটি একটি গণনা সম্পাদন করেছে, তিনি কিছুই ঘটছে তা খুঁজে পাননি।

এদিকে, বিশেষজ্ঞরা যুক্তি দেন যে এমন কিছু গবেষণা রয়েছে যা দেখায় যে কখনও কখনও মানুষ নিজেদেরও বোঝে না, কিন্তু কেবল সিদ্ধান্তগুলিকে ন্যায্যতা দেওয়ার জন্য যুক্তিসঙ্গত ব্যাখ্যা তৈরি করে।

সাধারণভাবে, মানুষ একই রকম চিন্তাভাবনা করে। এই কারণেই মনোবিজ্ঞানীরা সাধারণ জ্ঞানীয় পক্ষপাত আবিষ্কার করেছেন।

তবে, এলএলএমরা এমন ভুল করতে পারে যা মানুষ করতে পারে না, কারণ তারা যেভাবে উত্তর তৈরি করে তা আমরা যেভাবে কোনও কাজ করি তার থেকে অনেক আলাদা।

অ্যানথ্রোপিক টিম পূর্ববর্তী কৌশল হিসাবে প্রতিটি নিউরনকে পৃথকভাবে বিশ্লেষণ করার পরিবর্তে বৈশিষ্ট্যের উপর ভিত্তি করে নিউরনগুলিকে সার্কিটে গোষ্ঠীবদ্ধ করার একটি পদ্ধতি বাস্তবায়ন করেছে।

মিঃ বাস্টন শেয়ার করেছেন যে, এই পদ্ধতিটি বিভিন্ন উপাদানের ভূমিকা বুঝতে সাহায্য করে এবং গবেষকদের নেটওয়ার্কের স্তরগুলির মাধ্যমে সম্পূর্ণ অনুমান প্রক্রিয়াটি ট্র্যাক করতে সাহায্য করে।

এই পদ্ধতির একটি সীমাবদ্ধতাও রয়েছে যে এটি কেবল আনুমানিক এবং LLM-এর সম্পূর্ণ তথ্য প্রক্রিয়াকরণকে প্রতিফলিত করে না, বিশেষ করে মনোযোগ প্রক্রিয়ার পরিবর্তন, যা LLM ফলাফল দেওয়ার সময় খুবই গুরুত্বপূর্ণ।

উপরন্তু, মাত্র কয়েক ডজন শব্দের বাক্যের জন্যও, নিউরাল নেটওয়ার্ক সার্কিট সনাক্ত করতে বিশেষজ্ঞদের এক ঘন্টা সময় লাগে। তারা বলে যে দীর্ঘ বাক্য বিশ্লেষণের কৌশলটি কীভাবে প্রসারিত করা যায় তা এখনও স্পষ্ট নয়।

সীমাবদ্ধতা বাদ দিলে, LLM-এর অভ্যন্তরীণ যুক্তি প্রক্রিয়া পর্যবেক্ষণ করার ক্ষমতা নিরাপত্তা এবং সুরক্ষা নিশ্চিত করার জন্য AI সিস্টেম নিয়ন্ত্রণের জন্য নতুন সুযোগ উন্মুক্ত করে।

একই সাথে, এটি গবেষকদের নতুন প্রশিক্ষণ পদ্ধতি বিকাশ, এআই নিয়ন্ত্রণ বাধা উন্নত করতে এবং বিভ্রম এবং বিভ্রান্তিকর ফলাফল হ্রাস করতে সহায়তা করতে পারে।

সূত্র: https://znews.vn/nghien-cuu-dot-pha-mo-ra-hop-den-suy-luan-cua-ai-post1541611.html