អ្នកជំនាញព្រមានថា បង្អួចឃ្លាំមើល AI កំពុងបិទ

អ្នកស្រាវជ្រាវជាង 40 នាក់មកពីក្រុមហ៊ុនយក្ស AI ព្រមានថាសមត្ថភាពរបស់ AI ក្នុងការត្រួតពិនិត្យការគិតកំពុងរលាយបាត់ ហើយមនុស្សអាចបាត់បង់ការគ្រប់គ្រងទាំងស្រុង។

អ្នកស្រាវជ្រាវជាង 40 នាក់មកពី OpenAI, Google DeepMind, Meta និង Anthropic បានចេញការព្រមានដែលមិនធ្លាប់មានពីមុនមកអំពីហានិភ័យនៃការបាត់បង់ការគ្រប់គ្រងរបស់ AI ។

ម៉ូដែលទំនើបចាប់ផ្តើម "គិត" ជាភាសាដែលអនុញ្ញាតឱ្យមនុស្សធ្វើតាមតក្កវិជ្ជាផ្ទៃក្នុងរបស់ម៉ាស៊ីន ប៉ុន្តែនេះគឺមានភាពផុយស្រួយខ្លាំងណាស់។

ជាមួយនឹងការផ្លាស់ប្តូរមួយចំនួននៅក្នុងស្ថាបត្យកម្ម ឬវិធីសាស្រ្តបណ្តុះបណ្តាល សមត្ថភាពអានចិត្តរបស់ AI អាចបាត់ទាំងស្រុង។

អ្នកស្រាវជ្រាវ OpenAI លោក Bowen Baker ព្រមានថា "សមត្ថភាពឃ្លាំមើលបច្ចុប្បន្នអាចមានភាពផុយស្រួយខ្លាំង និងងាយបិទបាំង" ។

គាត់បារម្ភថា AI នាពេលអនាគតអាចរៀនលាក់គំនិតរបស់វាពីមនុស្ស ជាពិសេសនៅពេលអនុវត្តការរៀនពង្រឹង ឬស្ថាបត្យកម្មការសន្និដ្ឋានដែលមិនមែនជាភាសា។

ជាការពិត គំរូជាច្រើនត្រូវបានកត់ត្រា ដែលបង្កើតយុត្តិកម្មមិនពិត និងលាក់បាំងគោលដៅពិតប្រាកដ បើទោះបីជាត្រូវបានទាមទារឱ្យមានតម្លាភាពក៏ដោយ។

អ្នកជំនាញអំពាវនាវឱ្យបង្កើតស្តង់ដារសម្រាប់វាយតម្លៃតម្លាភាព និងធ្វើឱ្យវាក្លាយជាធាតុស្នូលនៃការបណ្តុះបណ្តាល AI ។

ប្រសិនបើយើងមិនធ្វើសកម្មភាពលឿនទេ មនុស្សអាចនឹងត្រូវទុកចោលនៅក្នុងហ្គេមដែលពួកគេបង្កើត ដែល AI "គិត" ប៉ុន្តែគ្មាននរណាម្នាក់យល់។

អ្នកអានជាទីគោរព សូមទស្សនា វីដេអូ បន្ថែម៖ AI Trash Cleaning | ហាណូយ 18:00

ប្រភព៖ https://khoahocdoisong.vn/cua-so-giam-sat-ai-sap-khep-lai-cac-chuyen-gia-canh-bao-do-post2149040952.html