AI ធ្វើឱ្យ​មាន​ភាព​ស្រពេចស្រពិល ប៉ុន្តែ​មនុស្ស​រង​គ្រោះ​ច្រើន​ជាង

នាយកប្រតិបត្តិ Anthropic លោក Dario Amodei ធ្វើអត្ថាធិប្បាយដ៏ចម្រូងចម្រាសអំពីសមត្ថភាព "ភាពច្របូកច្របល់" នៃ AI បច្ចុប្បន្នបើប្រៀបធៀបទៅនឹងមនុស្ស។

Claude 4 ដែលទើបនឹងចេញថ្មីរបស់ Anthropic គឺឆ្លាតជាង ប៉ុន្តែនៅតែមានភាពច្របូកច្របល់។ រូបថត៖ Anthropic ។

នៅឯព្រឹត្តិការណ៍អ្នកអភិវឌ្ឍន៍ដំបូងរបស់ Anthropic នៅសាន់ហ្វ្រាន់ស៊ីស្កូ នាយកប្រតិបត្តិលោក Dario Amodei បាននិយាយថា ម៉ូដែល AI បច្ចុប្បន្នអាចបង្កើត "ការយល់ច្រឡំ" ក្នុងអត្រាទាបជាងមនុស្ស។ "ការយល់ច្រលំ" នៅទីនេះត្រូវបានគេយល់ថាជាបាតុភូតនៃ AI បង្កើតមាតិកាប្រឌិត ប៉ុន្តែបង្ហាញវាថាជាការពិត។

Amodei បានសង្កត់ធ្ងន់ថា ការពិតដែល AI ធ្វើឱ្យមានការភ័ន្តច្រឡំ មិនរារាំងដល់គោលដៅរបស់ Anthropic ក្នុងការសម្រេចបាន AGI (Artificial General Intelligence) នោះទេ។ គាត់បាននិយាយថា "វាអាស្រ័យលើ yardstick របស់អ្នក ប៉ុន្តែខ្ញុំគិតថាភាពញឹកញាប់នៃការយល់ច្រលំនៅក្នុងគំរូ AI ប្រហែលជាទាបជាងមនុស្ស វាគ្រាន់តែថាវិធីដែលពួកគេធ្វើខុសគឺគួរឱ្យភ្ញាក់ផ្អើលជាង" ។

Amodei គឺជាអ្នកគាំទ្រសំលេងភាគច្រើនបំផុតរបស់ AGI នៅក្នុងឧស្សាហកម្មនេះ។ គាត់និយាយថា "មនុស្សតែងតែព្យាយាមស្វែងរក "ដែនកំណត់ខាងលើ" សម្រាប់ AI ។ "ឥឡូវនេះ យើងមិនឃើញដែនកំណត់ខាងលើទេ"

នាយកប្រតិបត្តិ Anthropic គឺជាអ្នកតស៊ូមតិម្នាក់នៃ "សុទិដ្ឋិនិយម AI" ។ រូបថត៖ Anthropic ។

ទោះយ៉ាងណាក៏ដោយ មិនមែនគ្រប់គ្នាយល់ស្របទេ។ នាយកប្រតិបត្តិក្រុមហ៊ុន Google DeepMind លោក Demis Hassabis បានចង្អុលបង្ហាញនៅសប្តាហ៍នេះថា ម៉ូដែល AI បច្ចុប្បន្នគឺ "ពោរពេញដោយរន្ធ" សូម្បីតែទទួលបានសំណួរជាមូលដ្ឋានមួយចំនួនខុស។

វាក៏មានសញ្ញាដែលថាម៉ូដែលថ្មីមួយចំនួនមានឧប្បត្តិហេតុខ្ពស់នៃបញ្ហានៅពេលនិយាយអំពីកិច្ចការស្មុគស្មាញ។ កំណែ o3 និង o4-mini របស់ OpenAI មានឧបទ្ទវហេតុនៃការយល់ច្រលំខ្ពស់ជាងម៉ូដែលមុនៗ។ សូម្បីតែ OpenAI ខ្លួនឯងក៏មិនយល់ពីមូលហេតុដែរ។

Amodei ក៏​បាន​លើក​ឡើង​ថា​មនុស្ស​ធ្វើ​ខុស​គ្រប់​ពេល​វេលា។ ដូច្នេះ​ហើយ​លោក​បាន​លើក​ឡើង​ថា គ្រាន់​តែ AI ធ្វើ​ខុស មិន​មែន​មាន​ន័យ​ថា «មិន​ឆ្លាត​គ្រប់​គ្រាន់»។ ទោះជាយ៉ាងណាក៏ដោយ អ្នកដឹកនាំ Anthropic ក៏បានសារភាពថា ពួកគេអាចបង្កបញ្ហាបានយ៉ាងងាយស្រួល នៅពេលដែលពួកគេផ្តល់ព័ត៌មានមិនពិត ជាមួយនឹងភាពជឿជាក់ខ្ពស់បំផុត។

ការកត់សម្គាល់របស់ Amodei បានជំរុញឱ្យមានការជជែកគ្នានៅក្នុងសហគមន៍ AI អំពីសមត្ថភាពពិតនៃម៉ូដែលបច្ចុប្បន្ន។ អ្នកជំនាញខ្លះយល់ស្របថា AI កំពុងធ្វើឱ្យមានការរីកចម្រើនគួរឱ្យកត់សម្គាល់ក្នុងការកាត់បន្ថយការបំភាន់។ អ្នកផ្សេងទៀតព្រមានអំពីហានិភ័យដែលអាចកើតមាននៃទំនុកចិត្តលើស AI នៅក្នុងព័ត៌មានមិនត្រឹមត្រូវ។

ការពិភាក្សាឆ្លុះបញ្ចាំងពីបញ្ហាប្រឈមដ៏សំខាន់មួយដែលកំពុងប្រឈមមុខនឹងឧស្សាហកម្ម AI ។ ក្រុមហ៊ុនកំពុងស្វែងរកការអភិវឌ្ឍន៍ប្រព័ន្ធដែលឆ្លាតវៃ និងគួរឱ្យទុកចិត្ត អាចដោះស្រាយភាពមិនច្បាស់លាស់ក្នុងការឆ្លើយតបរបស់ពួកគេ។

ប្រភព៖ https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html