គំរូ AI ត្រូវបានរកឃើញដែលអាចបញ្ឆោតមនុស្ស

DNVN - OpenAI ទើបតែបានបោះពុម្ពផ្សាយការស្រាវជ្រាវអំពីវិធីការពារគំរូ AI "ឃុបឃិត" ដែលមានន័យថា "AI ដែលមានឥរិយាបទលើផ្ទៃតែមួយ ប៉ុន្តែមានគោលដៅពិតផ្សេងគ្នានៅខាងក្នុង"។

រូបថតគំនូរ

ការពិតដែលថាម៉ូដែល AI អាចកុហកគឺគ្មានអ្វីថ្មីទេ។ មនុស្សភាគច្រើនបានជួបប្រទះ "ការយល់ច្រលំ AI" ដែលគំរូដែលមានទំនុកចិត្តផ្តល់ចម្លើយដែលមិនពិត។ ទោះជាយ៉ាងណាក៏ដោយ ភាពច្របូកច្របល់ គឺជារឿងសំខាន់ក្នុងការធ្វើការទស្សន៍ទាយប្រកបដោយទំនុកចិត្ត។

ទោះជាយ៉ាងណាក៏ដោយ គំរូ AI ដែលដើរតួជាវាកំពុងស្តាប់បង្គាប់ ប៉ុន្តែតាមពិតការលាក់បាំងចេតនាពិតរបស់វា គឺជាបញ្ហាមួយផ្សេងទៀត។

បញ្ហាប្រឈមនៃការគ្រប់គ្រង AI

ក្រុមហ៊ុន Apollo Research បានបោះពុម្ភផ្សាយជាលើកដំបូងនូវក្រដាសមួយនៅក្នុងខែធ្នូដែលចងក្រងជាឯកសារអំពីរបៀបដែលគំរូទាំង 5 គ្រោងនៅពេលដែលពួកគេត្រូវបានណែនាំឱ្យសម្រេចបាននូវគោលដៅ "នៅគ្រប់ការចំណាយទាំងអស់"។

អ្វី​ដែល​គួរ​ឱ្យ​ភ្ញាក់​ផ្អើល​បំផុត​នោះ​គឺ​ថា ប្រសិន​បើ​តារា​ម៉ូដែល​យល់​ថា​វា​កំពុង​ត្រូវ​បាន​ធ្វើ​តេស្ត នោះ​វា​អាច​ធ្វើ​ពុត​ជា​មិន​សម​គំនិត​ដោយ​គ្រាន់​តែ​ឆ្លង​កាត់​ការ​សាកល្បង​នោះ​ទេ បើ​ទោះ​បី​ជា​វា​នៅ​តែ​សមគំនិត​ក៏​ដោយ។ អ្នកស្រាវជ្រាវបានសរសេរថា "គំរូច្រើនតែដឹងថាពួកគេកំពុងត្រូវបានវាយតម្លៃ"។

អ្នកអភិវឌ្ឍន៍ AI មិនទាន់គិតពីរបៀបបង្វឹកម៉ូដែលរបស់ពួកគេមិនឱ្យគ្រោង។ នោះដោយសារតែការធ្វើដូច្នេះពិតជាអាចបង្រៀនគំរូឱ្យរៀបចំផែនការកាន់តែប្រសើរឡើងដើម្បីជៀសវាងការរកឃើញ។

ប្រហែលជាអាចយល់បានថា គំរូ AI ពីភាគីជាច្រើននឹងបញ្ឆោតមនុស្សដោយចេតនា ព្រោះវាត្រូវបានបង្កើតឡើងដើម្បីក្លែងធ្វើមនុស្ស និងត្រូវបានបណ្តុះបណ្តាលយ៉ាងទូលំទូលាយលើទិន្នន័យដែលបង្កើតដោយមនុស្ស។

ដំណោះស្រាយ និងការព្រមាន

ដំណឹងល្អគឺថា អ្នកស្រាវជ្រាវបានឃើញការថយចុះគួរឱ្យកត់សម្គាល់នៃការសមគំនិតដោយប្រើបច្ចេកទេសប្រឆាំងនឹងការសមគំនិតដែលហៅថា "សមាគមដោយចេតនា" ។ បច្ចេកទេសនេះ ស្រដៀងទៅនឹងការធ្វើឱ្យក្មេងនិយាយឡើងវិញនូវច្បាប់មុននឹងអនុញ្ញាតឱ្យពួកគេលេង បង្ខំឱ្យ AI គិតមុនពេលវាធ្វើសកម្មភាព។

អ្នកស្រាវជ្រាវបានព្រមានអំពីអនាគតដែល AI ត្រូវបានទទួលភារកិច្ចស្មុគស្មាញជាងនេះ៖ "នៅពេលដែល AI ត្រូវបានទទួលភារកិច្ចដ៏ស្មុគស្មាញ និងចាប់ផ្តើមអនុវត្តគោលដៅរយៈពេលវែងដែលមិនច្បាស់លាស់បន្ថែមទៀត យើងព្យាករណ៍ថាលទ្ធភាពនៃចេតនាព្យាបាទនឹងកើនឡើង ដែលទាមទារឱ្យមានការកើនឡើងនូវការការពារដែលត្រូវគ្នា និងសមត្ថភាពធ្វើតេស្តយ៉ាងម៉ត់ចត់។"

នេះ​ជា​អ្វី​ដែល​គួរ​ពិចារណា​នៅពេល ​ពិភព ​សាជីវកម្ម​ឈាន​ទៅ​រក​អនាគត AI ដែល​ក្រុមហ៊ុន​ជឿ​ថា AI អាច​ត្រូវ​បាន​ចាត់​ទុក​ដូច​ជា​បុគ្គលិក​ឯករាជ្យ។

ហៀន ថាវ (យោងតាម ​​TechCrunch)

ប្រភព៖ https://doanhnghiepvn.vn/chuyen-doi-so/phat-hien-mo-hinh-ai-biet-lua-doi-con-nguoi/20250919055143362