خود مختار نظاموں کی اخلاقی تشخیص

MIT کے محققین نے ایسے حالات کی نشاندہی کرنے میں مدد کے لیے ایک ٹیسٹنگ فریم ورک تیار کیا ہے جہاں AI فیصلہ سازی کے سپورٹ سسٹم افراد اور کمیونٹیز کے لیے انصاف کو یقینی بنانے میں ناکام رہتے ہیں۔

MIT ایک ٹیسٹنگ فریم ورک تیار کر رہا ہے تاکہ AI کو غیر منصفانہ فیصلے کرنے کا پتہ لگانے میں مدد ملے۔ تصویر: مڈجرنی

اہم سیاق و سباق میں فیصلوں کو بہتر بنانے کے لیے مصنوعی ذہانت کا تیزی سے اطلاق کیا جا رہا ہے۔ مثال کے طور پر، ایک خود مختار نظام وولٹیج کے استحکام کو برقرار رکھتے ہوئے سب سے زیادہ سرمایہ کاری مؤثر بجلی کی تقسیم کا منصوبہ تجویز کر سکتا ہے۔

تاہم، کیا ایک "تکنیکی طور پر بہترین" حل واقعی منصفانہ ہے؟ کیا ہوتا ہے اگر کم لاگت والی حکمت عملی کم آمدنی والے علاقوں کو امیر علاقوں کی نسبت بجلی کی بندش کا زیادہ خطرہ بناتی ہے؟

اسٹیک ہولڈرز کو لاگو ہونے سے پہلے اخلاقی خطرات کا پتہ لگانے میں مدد کرنے کے لیے، MIT ریسرچ ٹیم نے ایک خودکار تشخیصی طریقہ تیار کیا جو مقداری اشارے (جیسے لاگت اور وشوسنییتا) کو کوالٹیٹیو اقدار (جیسے انصاف پسندی) کے ساتھ متوازن کرتا ہے۔

یہ نظام معروضی تشخیص کو صارف کی متعین انسانی اقدار سے الگ کرتا ہے، اور اسٹیک ہولڈر کی ترجیحات کو ریکارڈ کرنے اور ان کو مربوط کرنے کے لیے ایک بڑے لینگویج ماڈل (LLM) کو بطور انسانی "نمائندہ" استعمال کرتا ہے۔

انکولی تشخیص کا فریم ورک مزید تجزیے کے لیے انتہائی اہم منظرناموں کا انتخاب کرے گا، اس عمل کو آسان بناتا ہے جو دستی طور پر کیے جانے پر مہنگا اور وقت طلب ہوگا۔ یہ منظرنامے اس بات کی نشاندہی کر سکتے ہیں کہ جب کوئی AI نظام انسانی اقدار کے ساتھ مطابقت رکھتا ہے، اور ساتھ ہی جب یہ اخلاقی معیار پر پورا اترنے میں ناکام ہوتا ہے۔

Chuchu Fan (MIT) کے مطابق، AI کے لیے صرف اصول یا "حفاظتی رکاوٹیں" قائم کرنا ناکافی ہے، کیونکہ یہ صرف ان خطرات کو روکتے ہیں جن کا انسان اندازہ لگا سکتا ہے۔ لہذا، "نامعلوم خطرات" کا پتہ لگانے کے لیے ایک منظم انداز کی ضرورت ہے اس سے پہلے کہ وہ نتائج کا سبب بنیں۔

پیچیدہ نظاموں میں اخلاقی تشخیص

پاور گرڈ جیسے بڑے سسٹمز میں، AI سے تیار کردہ تجاویز کی اخلاقی موزونیت کا اندازہ لگانا مشکل ہوتا ہے، خاص طور پر جب ایک ساتھ متعدد مقاصد پر غور کیا جائے۔

موجودہ طریقے اکثر آسانی سے دستیاب ڈیٹا پر انحصار کرتے ہیں، لیکن اخلاقی معیار کے مطابق لیبل لگا ہوا ڈیٹا نایاب ہے۔ ایک ہی وقت میں، اخلاقی اقدار اور AI نظام مسلسل تبدیل ہو رہے ہیں، جس سے جامد تشخیصی طریقوں کو تیزی سے متروک ہو رہا ہے۔

تحقیقی ٹیم نے ایک تجرباتی ڈیزائن فریم ورک تیار کیا جسے SEED-SET کہا جاتا ہے، جو دو حصوں پر مشتمل ہے:

- مقصدی ماڈل: قابل پیمائش اشارے کی بنیاد پر کارکردگی کا اندازہ کرتا ہے (جیسے اخراجات)
- موضوعی ماڈل: انسانی فیصلے کی عکاسی کرتا ہے (جیسے انصاف کے جذبات)
یہ نقطہ نظر ان منظرناموں کی شناخت کی اجازت دیتا ہے جو تکنیکی معیار اور انسانی اقدار دونوں پر پورا اترتے ہیں، یا اس کے برعکس۔

خاص طور پر، SEED-SET کو پہلے سے موجود تشخیصی ڈیٹا کی ضرورت نہیں ہوتی ہے اور یہ مقاصد کی ایک وسیع رینج کے مطابق ڈھال سکتا ہے۔ مثال کے طور پر، بجلی کے نظام میں، سستی اور مستحکم بجلی دونوں کی خواہش کے باوجود مختلف صارف گروپس (جیسے دیہی کمیونٹیز اور ڈیٹا سینٹرز) کی مختلف اخلاقی ترجیحات ہو سکتی ہیں۔

ماڈلنگ کے موضوعی عوامل

موضوعی عوامل کا جائزہ لینے کے لیے، نظام LLM کو تشخیص کار کے نمائندے کے طور پر استعمال کرتا ہے۔ ہر گروپ کی ترجیحات کو قدرتی زبان کے بیانات میں انکوڈ کیا جاتا ہے۔

LLM منظرناموں کا موازنہ کرے گا اور اخلاقی معیار کی بنیاد پر زیادہ مناسب آپشن کا انتخاب کرے گا۔ سینکڑوں یا ہزاروں منظرناموں کا جائزہ لیتے وقت یہ نقطہ نظر انسانی تھکاوٹ اور عدم مطابقت سے بچنے میں مدد کرتا ہے۔

اس کے بعد SEED-SET منتخب منظرناموں کا استعمال کرتے ہوئے نظام کی نقل کرتا ہے (مثلاً بجلی کی تقسیم کی حکمت عملی) اور اعلیٰ تشخیصی قدر کے ساتھ نئے منظرناموں کی تلاش جاری رکھتا ہے۔

حتمی نتیجہ عام منظرناموں کا ایک مجموعہ ہے، جو صارفین کو AI نظام کی کارکردگی کا تجزیہ کرنے اور ضرورت کے مطابق اپنی حکمت عملی کو ایڈجسٹ کرنے کی اجازت دیتا ہے۔

مثال کے طور پر، یہ نظام ان مثالوں کا پتہ لگا سکتا ہے جہاں بجلی کی تقسیم زیادہ آمدنی والے علاقوں کو اوقات کے دوران ترجیح دیتی ہے، جس سے پسماندہ علاقوں کو بجلی کی بندش کا زیادہ خطرہ ہوتا ہے۔

تاثیر اور مستقبل کی ترقی

جب سمارٹ گرڈز یا شہری ٹریفک مینجمنٹ جیسے حقیقی دنیا کے نظاموں پر تجربہ کیا جاتا ہے تو، SEED-SET روایتی طریقوں کے مقابلے میں دو گنا زیادہ بہترین منظرنامے تیار کرتا ہے، جبکہ مزید ایسے حالات کا بھی پتہ لگاتا ہے جن سے دوسرے طریقے چھوٹ جاتے ہیں۔

قابل ذکر بات یہ ہے کہ جب صارف کی ترجیحات تبدیل ہوتی ہیں، نظام کی طرف سے تیار کردہ منظرنامے بھی نمایاں طور پر بدل جاتے ہیں، جو انسانی اقدار کے لیے اعلیٰ درجے کی موافقت کا مظاہرہ کرتے ہیں۔

مستقبل میں، تحقیقی ٹیم فیصلہ سازی کے عمل میں نظام کی افادیت کا اندازہ لگانے کے لیے حقیقی صارفین کے ساتھ مطالعہ کرنے کا ارادہ رکھتی ہے۔ اس کے ساتھ ہی، ان کا مقصد طریقہ کار کو مزید پیچیدہ مسائل تک پھیلانا ہے، جیسے کہ بڑے زبان کے ماڈلز کے فیصلوں کا جائزہ لینا۔

اس تحقیق کو جزوی طور پر یو ایس ڈیفنس ایڈوانسڈ ریسرچ پروجیکٹس ایجنسی (DARPA) نے مالی اعانت فراہم کی تھی۔

(ایم آئی ٹی نیوز کے مطابق)

ماخذ: https://vietnamnet.vn/danh-gia-dao-duc-cua-cac-he-thong-tu-hanh-2508477.html