স্বায়ত্তশাসিত সিস্টেমের নৈতিক মূল্যায়ন

এমআইটি গবেষকরা এমন একটি পরীক্ষণ কাঠামো তৈরি করেছেন যা সেইসব পরিস্থিতি শনাক্ত করতে সাহায্য করবে, যেখানে কৃত্রিম বুদ্ধিমত্তাভিত্তিক সিদ্ধান্ত গ্রহণ সহায়ক ব্যবস্থা ব্যক্তি ও সম্প্রদায়ের জন্য ন্যায্যতা নিশ্চিত করতে ব্যর্থ হয়।

অন্যায্য সিদ্ধান্ত গ্রহণকারী এআই শনাক্ত করতে সাহায্য করার জন্য এমআইটি একটি পরীক্ষণ কাঠামো তৈরি করছে। ছবি: মিডজার্নি

গুরুত্বপূর্ণ প্রেক্ষাপটে সিদ্ধান্তকে সর্বোত্তম করতে কৃত্রিম বুদ্ধিমত্তার প্রয়োগ ক্রমশ বাড়ছে। উদাহরণস্বরূপ, একটি স্বয়ংক্রিয় ব্যবস্থা ভোল্টেজের স্থিতিশীলতা বজায় রেখে সবচেয়ে সাশ্রয়ী বিদ্যুৎ বিতরণ পরিকল্পনার পরামর্শ দিতে পারে।

তবে, একটি “প্রযুক্তিগতভাবে সর্বোত্তম” সমাধান কি সত্যিই ন্যায্য? যদি একটি স্বল্প-ব্যয়ী কৌশল ধনী এলাকার তুলনায় নিম্ন-আয়ের এলাকাগুলোকে বিদ্যুৎ বিভ্রাটের জন্য আরও বেশি ঝুঁকিপূর্ণ করে তোলে, তাহলে কী হবে?

অংশীজনদের বাস্তবায়নের আগেই নৈতিক ঝুঁকিগুলো শনাক্ত করতে সাহায্য করার জন্য, এমআইটি গবেষক দল একটি স্বয়ংক্রিয় মূল্যায়ন পদ্ধতি তৈরি করেছে, যা পরিমাণগত সূচক (যেমন খরচ ও নির্ভরযোগ্যতা) এবং গুণগত মূল্যবোধের (যেমন ন্যায্যতা) মধ্যে ভারসাম্য রক্ষা করে।

এই সিস্টেমটি বস্তুনিষ্ঠ মূল্যায়নকে ব্যবহারকারী-নির্ধারিত মানবিক মূল্যবোধ থেকে পৃথক করে এবং অংশীজনদের অগ্রাধিকারসমূহ লিপিবদ্ধ ও সমন্বিত করার জন্য একটি বৃহৎ ভাষা মডেলকে (এলএলএম) মানুষের “প্রতিনিধি” হিসেবে ব্যবহার করে।

অভিযোজিত মূল্যায়ন কাঠামোটি আরও বিশ্লেষণের জন্য সবচেয়ে গুরুত্বপূর্ণ দৃশ্যকল্পগুলো নির্বাচন করবে, যা এমন একটি প্রক্রিয়াকে সহজ করে তুলবে যা হাতে-কলমে করা হলে ব্যয়বহুল এবং সময়সাপেক্ষ হতো। এই দৃশ্যকল্পগুলো থেকে বোঝা যায় কখন একটি এআই সিস্টেম মানবিক মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণ হয়, এবং কখন এটি নৈতিক মানদণ্ড পূরণে ব্যর্থ হয়।

চুচু ফ্যানের (এমআইটি) মতে, এআই-এর জন্য শুধু নিয়মকানুন বা ‘নিরাপত্তা বেষ্টনী’ নির্ধারণ করাই যথেষ্ট নয়, কারণ এগুলো কেবল সেইসব ঝুঁকিই প্রতিরোধ করে যা মানুষ আগে থেকে অনুমান করতে পারে। তাই, কোনো পরিণতি ঘটার আগেই ‘অজানা ঝুঁকি’ শনাক্ত করার জন্য একটি পদ্ধতিগত পন্থা প্রয়োজন।

জটিল ব্যবস্থায় নৈতিক মূল্যায়ন

পাওয়ার গ্রিডের মতো বৃহৎ ব্যবস্থায়, এআই-প্রদত্ত প্রস্তাবনাগুলোর নৈতিক উপযোগিতা মূল্যায়ন করা একটি কঠিন কাজ, বিশেষ করে যখন একই সাথে একাধিক উদ্দেশ্য বিবেচনা করতে হয়।

বর্তমান পদ্ধতিগুলো প্রায়শই সহজলভ্য তথ্যের উপর নির্ভর করে, কিন্তু নৈতিক মানদণ্ড অনুযায়ী চিহ্নিত তথ্য বিরল। একই সাথে, নৈতিক মূল্যবোধ এবং এআই সিস্টেমগুলো ক্রমাগত পরিবর্তিত হচ্ছে, যা দ্রুত স্থির মূল্যায়ন পদ্ধতিগুলোকে অপ্রচলিত করে তুলছে।

গবেষণা দলটি SEED-SET নামক একটি পরীক্ষামূলক নকশা কাঠামো তৈরি করেছে, যা দুটি অংশ নিয়ে গঠিত:

বস্তুনিষ্ঠ মডেল: পরিমাপযোগ্য সূচকের (যেমন খরচ) ভিত্তিতে কর্মক্ষমতা মূল্যায়ন করে।
- ব্যক্তিনিষ্ঠ মডেল: যা মানুষের বিচার-বিবেচনাকে প্রতিফলিত করে (যেমন ন্যায্যতার অনুভূতি)
এই পদ্ধতি এমন পরিস্থিতি শনাক্ত করতে সাহায্য করে যা প্রযুক্তিগত মানদণ্ড ও মানবিক মূল্যবোধ উভয়ই পূরণ করে, অথবা এর বিপরীতটিও সত্য।

বিশেষত, সিড-সেট (SEED-SET)-এর জন্য পূর্ব-বিদ্যমান মূল্যায়ন তথ্যের প্রয়োজন হয় না এবং এটি বিভিন্ন ধরনের উদ্দেশ্যের সাথে খাপ খাইয়ে নিতে পারে। উদাহরণস্বরূপ, একটি বিদ্যুৎ ব্যবস্থায়, বিভিন্ন ব্যবহারকারী গোষ্ঠী (যেমন গ্রামীণ সম্প্রদায় এবং ডেটা সেন্টার) সাশ্রয়ী ও স্থিতিশীল বিদ্যুৎ চাইলেও তাদের নৈতিক অগ্রাধিকার ভিন্ন হতে পারে।

বিষয়গত কারণগুলির মডেলিং

ব্যক্তিগত বিষয়গুলো মূল্যায়ন করার জন্য, সিস্টেমটি মূল্যায়নকারীর প্রতিনিধি হিসেবে এলএলএম (LLM) ব্যবহার করে। প্রতিটি গোষ্ঠীর পছন্দগুলোকে স্বাভাবিক ভাষার বিবৃতির মাধ্যমে সংকেতায়িত করা হয়।

এলএলএম বিভিন্ন পরিস্থিতি তুলনা করবে এবং নৈতিক মানদণ্ডের ভিত্তিতে অধিকতর উপযুক্ত বিকল্পটি নির্বাচন করবে। শত শত বা হাজার হাজার পরিস্থিতি মূল্যায়ন করার সময় এই পদ্ধতিটি মানুষের ক্লান্তি এবং অসঙ্গতি এড়াতে সাহায্য করে।

এরপর SEED-SET নির্বাচিত সিনারিওগুলো ব্যবহার করে সিস্টেমটিকে (যেমন, বিদ্যুৎ বিতরণ কৌশল) সিমুলেট করে এবং উচ্চতর মূল্যায়ন মানসম্পন্ন নতুন সিনারিওর সন্ধান চালিয়ে যায়।

এর ফলে কিছু সাধারণ পরিস্থিতি তৈরি হয়, যা ব্যবহারকারীদের এআই সিস্টেমের কার্যকারিতা বিশ্লেষণ করতে এবং প্রয়োজন অনুযায়ী তাদের কৌশল পরিবর্তন করতে সাহায্য করে।

উদাহরণস্বরূপ, সিস্টেমটি এমন পরিস্থিতি শনাক্ত করতে পারে যেখানে সর্বোচ্চ চাহিদার সময়ে বিদ্যুৎ বিতরণে উচ্চ-আয়ের এলাকাগুলোকে অগ্রাধিকার দেওয়া হয়, যার ফলে সুবিধাবঞ্চিত এলাকাগুলো বিদ্যুৎ বিভ্রাটের ঝুঁকিতে আরও বেশি পড়ে।

কার্যকারিতা এবং ভবিষ্যৎ উন্নয়ন

স্মার্ট গ্রিড বা নগর ট্র্যাফিক ব্যবস্থাপনার মতো বাস্তব-জগতের সিস্টেমে পরীক্ষা করা হলে, SEED-SET প্রচলিত পদ্ধতির তুলনায় দ্বিগুণ সংখ্যক সর্বোত্তম পরিস্থিতি তৈরি করে এবং একই সাথে এমন আরও অনেক পরিস্থিতি শনাক্ত করে যা অন্যান্য পদ্ধতি ধরতে পারে না।

বিশেষভাবে উল্লেখ্য যে, যখন ব্যবহারকারীর পছন্দ পরিবর্তিত হয়, তখন সিস্টেম দ্বারা তৈরি দৃশ্যকল্পগুলোও উল্লেখযোগ্যভাবে পরিবর্তিত হয়, যা মানবিক মূল্যবোধের সাথে এর উচ্চ মাত্রার অভিযোজনযোগ্যতা প্রদর্শন করে।

ভবিষ্যতে, গবেষণা দলটি সিদ্ধান্ত গ্রহণ প্রক্রিয়ায় সিস্টেমটির উপযোগিতা মূল্যায়ন করার জন্য প্রকৃত ব্যবহারকারীদের নিয়ে সমীক্ষা চালানোর পরিকল্পনা করছে। একই সাথে, তারা এই পদ্ধতিটিকে আরও জটিল সমস্যা, যেমন বৃহত্তর ল্যাঙ্গুয়েজ মডেলের সিদ্ধান্ত মূল্যায়নের ক্ষেত্রে, প্রসারিত করার লক্ষ্য রাখে।

এই গবেষণাটি মার্কিন প্রতিরক্ষা উন্নত গবেষণা প্রকল্প সংস্থা (ডারপা) দ্বারা আংশিকভাবে অর্থায়ন করা হয়েছিল।

(এমআইটি নিউজ অনুসারে)

উৎস: https://vietnamnet.vn/danh-gia-dao-duc-cua-cac-he-thong-tu-hanh-2508477.html