រូបភាពសម្រាប់មេរៀនទី ៣១.png
MIT កំពុងបង្កើតក្របខ័ណ្ឌសាកល្បងមួយដើម្បីជួយរកឃើញ AI ដែលធ្វើការសម្រេចចិត្តមិនយុត្តិធម៌។ រូបថត៖ Midjourney

បញ្ញាសិប្បនិម្មិតកំពុងត្រូវបានអនុវត្តកាន់តែខ្លាំងឡើងដើម្បីបង្កើនប្រសិទ្ធភាពការសម្រេចចិត្តនៅក្នុងបរិបទសំខាន់ៗ។ ឧទាហរណ៍ ប្រព័ន្ធស្វយ័តមួយអាចណែនាំផែនការចែកចាយថាមពលដែលចំណាយតិចបំផុត ខណៈពេលដែលរក្សាស្ថេរភាពវ៉ុល។

ទោះជាយ៉ាងណាក៏ដោយ តើដំណោះស្រាយ «ល្អបំផុតតាមបច្ចេកទេស» ពិតជាយុត្តិធម៌មែនទេ? តើមានអ្វីកើតឡើងប្រសិនបើយុទ្ធសាស្ត្រដែលមានតម្លៃទាបធ្វើឱ្យតំបន់ដែលមានប្រាក់ចំណូលទាបងាយរងគ្រោះដោយសារការដាច់ចរន្តអគ្គិសនីជាងតំបន់អ្នកមាន?

ដើម្បីជួយភាគីពាក់ព័ន្ធរកឃើញហានិភ័យសីលធម៌ឱ្យបានឆាប់មុនពេលអនុវត្ត ក្រុមស្រាវជ្រាវ MIT បានបង្កើតវិធីសាស្ត្រវាយតម្លៃដោយស្វ័យប្រវត្តិដែលធ្វើឱ្យសូចនាករបរិមាណ (ដូចជាថ្លៃដើម និងភាពជឿជាក់) មានតុល្យភាពជាមួយនឹងតម្លៃគុណភាព (ដូចជាភាពយុត្តិធម៌)។

ប្រព័ន្ធនេះបំបែកការវាយតម្លៃគោលបំណងពីតម្លៃមនុស្សដែលកំណត់ដោយអ្នកប្រើប្រាស់ ហើយប្រើប្រាស់គំរូភាសាធំ (LLM) ជា "តំណាង" មនុស្សដើម្បីកត់ត្រា និងរួមបញ្ចូលអាទិភាពរបស់ភាគីពាក់ព័ន្ធ។

ក្របខ័ណ្ឌវាយតម្លៃសម្របខ្លួននឹងជ្រើសរើសសេណារីយ៉ូសំខាន់បំផុតសម្រាប់ការវិភាគបន្ថែម ដែលធ្វើឱ្យដំណើរការមួយដែលនឹងត្រូវចំណាយច្រើន និងចំណាយពេលច្រើនប្រសិនបើធ្វើដោយដៃមានភាពសាមញ្ញ។ សេណារីយ៉ូទាំងនេះអាចចង្អុលបង្ហាញនៅពេលដែលប្រព័ន្ធ AI ស្របតាមតម្លៃរបស់មនុស្ស ក៏ដូចជានៅពេលដែលវាមិនបំពេញតាមលក្ខណៈវិនិច្ឆ័យសីលធម៌។

យោងតាមលោក Chuchu Fan (MIT) គ្រាន់តែកំណត់ច្បាប់ ឬ «របាំងសុវត្ថិភាព» សម្រាប់ AI គឺមិនគ្រប់គ្រាន់ទេ ព្រោះវាគ្រាន់តែការពារហានិភ័យដែលមនុស្សអាចមើលឃើញទុកជាមុនប៉ុណ្ណោះ។ ដូច្នេះ វិធីសាស្រ្តជាប្រព័ន្ធមួយគឺត្រូវការជាចាំបាច់ ដើម្បីរកឃើញ «ហានិភ័យដែលមិនស្គាល់» មុនពេលវាបង្កផលវិបាក។

ការវាយតម្លៃសីលធម៌នៅក្នុងប្រព័ន្ធស្មុគស្មាញ

នៅក្នុងប្រព័ន្ធធំៗដូចជាបណ្តាញអគ្គិសនី ការវាយតម្លៃភាពសមស្របខាងសីលធម៌នៃសំណើដែលបង្កើតដោយ AI គឺជាបញ្ហាប្រឈម ជាពិសេសនៅពេលដែលគោលបំណងច្រើនត្រូវតែពិចារណាក្នុងពេលដំណាលគ្នា។