ការស្រាវជ្រាវដ៏លេចធ្លោដោះសោ 'ប្រអប់ខ្មៅ' នៃហេតុផល AI។

លោក Dario Amodei នាយកប្រតិបត្តិក្រុមហ៊ុន Anthropic បានចែករំលែកការយល់ដឹងអំពីការស្រាវជ្រាវចុងក្រោយបំផុតរបស់ក្រុមហ៊ុន។ រូបថត៖ Fortune ។

ក្រុមអ្នកស្រាវជ្រាវនៅក្រុមហ៊ុន AI Anthropic និយាយថា ពួកគេសម្រេចបាននូវរបកគំហើញជាមូលដ្ឋានមួយក្នុងការយល់ដឹងយ៉ាងច្បាស់អំពីរបៀបដែលគំរូភាសាធំៗ (LLMs) ដំណើរការ។ របកគំហើញនេះមានផលប៉ះពាល់យ៉ាងសំខាន់សម្រាប់ការកែលម្អសុវត្ថិភាព និងសន្តិសុខនៃគំរូ AI នាពេលអនាគត។

ការស្រាវជ្រាវបង្ហាញថា គំរូ AI កាន់តែឆ្លាតជាងអ្វីដែលយើងគិតទៅទៀត។ បញ្ហាដ៏ធំបំផុតមួយជាមួយគំរូ LLM ដែលជាមូលដ្ឋានគ្រឹះនៃ chatbots ដ៏មានឥទ្ធិពលបំផុតដូចជា ChatGPT, Gemini និង Copilot គឺថាពួកវាដំណើរការដូចប្រអប់ខ្មៅ។

យើងអាចបញ្ចូលព័ត៌មាន និងទទួលលទ្ធផលពី chatbots ប៉ុន្តែរបៀបដែលពួកគេផ្តល់ចម្លើយជាក់លាក់នៅតែជាអាថ៌កំបាំង សូម្បីតែចំពោះអ្នកស្រាវជ្រាវដែលបានបង្កើតពួកវាក៏ដោយ។

នេះធ្វើឱ្យវាពិបាកក្នុងការទស្សន៍ទាយថាពេលណាដែលគំរូនេះអាចងាយនឹងមានការយល់ច្រឡំ ពោលគឺបង្កើតលទ្ធផលបំភាន់។ អ្នកស្រាវជ្រាវក៏បានបង្កើតរបាំងដើម្បីការពារ AI ពីការឆ្លើយសំណួរដ៏គ្រោះថ្នាក់ផងដែរ ប៉ុន្តែពួកគេមិនអាចពន្យល់បានថាហេតុអ្វីបានជារបាំងខ្លះមានប្រសិទ្ធភាពជាងរបាំងផ្សេងទៀតនោះទេ។

ភ្នាក់ងារ AI ក៏មានសក្តានុពលសម្រាប់ "ការលួចយករង្វាន់" ផងដែរ។ ក្នុងករណីខ្លះ គំរូ AI អាចកុហកអ្នកប្រើប្រាស់អំពីអ្វីដែលពួកគេបានធ្វើ ឬកំពុងព្យាយាមធ្វើ។

ទោះបីជាគំរូ AI ថ្មីៗនេះមានសមត្ថភាពវែកញែក និងបង្កើតខ្សែសង្វាក់នៃការគិតក៏ដោយ ការពិសោធន៍មួយចំនួនបានបង្ហាញថា ពួកវានៅតែមិនឆ្លុះបញ្ចាំងយ៉ាងត្រឹមត្រូវអំពីដំណើរការដែលគំរូទទួលបានចម្លើយនោះទេ។

ជាទូទៅ ឧបករណ៍ដែលអ្នកស្រាវជ្រាវ Anthropic បានបង្កើតគឺស្រដៀងគ្នាទៅនឹងម៉ាស៊ីនស្កេន fMRI ដែលអ្នកវិទ្យាសាស្ត្រសរសៃប្រសាទប្រើដើម្បីស្កេនខួរក្បាលមនុស្ស។ ដោយអនុវត្តវាទៅលើគំរូ Claude 3.5 Haiku របស់ពួកគេ Anthropic អាចយល់បានមួយផ្នែកអំពីរបៀបដែលគំរូ LLM ដំណើរការ។

អ្នកស្រាវជ្រាវបានរកឃើញថា ទោះបីជា Claude ត្រូវបានបណ្តុះបណ្តាលឱ្យទស្សន៍ទាយពាក្យបន្ទាប់នៅក្នុងប្រយោគមួយក៏ដោយ នៅក្នុងកិច្ចការមួយចំនួន វាបានរៀនដោយឯកឯងអំពីការរៀបចំផែនការសម្រាប់រយៈពេលវែង។

ជាឧទាហរណ៍ នៅពេលត្រូវបានស្នើសុំឱ្យសរសេរកំណាព្យ ក្លូដនឹងស្វែងរកពាក្យដែលសាកសមនឹងប្រធានបទ ហើយអាចច្រៀងជាចង្វាក់ជាមួយគ្នាបានជាមុនសិន បន្ទាប់មកគាត់នឹងត្រលប់ទៅបំពេញខគម្ពីរនោះវិញ។

Claude ក៏មានភាសា AI រួមមួយដែរ។ ទោះបីជាត្រូវបានបណ្តុះបណ្តាលឱ្យគាំទ្រភាសាច្រើនក៏ដោយ Claude នឹងគិតជាភាសានោះជាមុនសិន ហើយបន្ទាប់មកបង្ហាញលទ្ធផលជាភាសាណាក៏ដោយដែលវាគាំទ្រ។

លើសពីនេះ បន្ទាប់ពីបានផ្តល់ឱ្យ Claude នូវបញ្ហាដ៏លំបាកមួយ ប៉ុន្តែដោយចេតនាបានណែនាំដំណោះស្រាយខុស អ្នកស្រាវជ្រាវបានរកឃើញថា Claude អាចកុហកអំពីដំណើរការគិតរបស់គាត់ ដោយធ្វើតាមការណែនាំដើម្បីផ្គាប់ចិត្តអ្នកប្រើប្រាស់។

ក្នុងករណីផ្សេងទៀត នៅពេលសួរសំណួរសាមញ្ញមួយដែលគំរូអាចឆ្លើយភ្លាមៗដោយមិនចាំបាច់វែកញែក Claude នៅតែបានបង្កើតដំណើរការសន្និដ្ឋានមិនពិត។

លោក Josh Baston អ្នកស្រាវជ្រាវនៅ Anthropic បាននិយាយថា ទោះបីជាលោក Claude អះអាងថាខ្លួនបានធ្វើការគណនាក៏ដោយ ក៏លោកនៅតែមិនអាចរកឃើញអ្វីដែលបានកើតឡើងនោះទេ។

ទន្ទឹមនឹងនេះ អ្នកជំនាញអះអាងថា ការសិក្សាបង្ហាញថា ពេលខ្លះមនុស្សមិនយល់ពីខ្លួនឯងទេ ប៉ុន្តែផ្ទុយទៅវិញ ពួកគេបង្កើតការពន្យល់សមហេតុផល ដើម្បីបង្ហាញអំពីភាពត្រឹមត្រូវនៃការសម្រេចចិត្តដែលពួកគេធ្វើ។

ជាទូទៅ មនុស្សមានគំរូនៃការគិតស្រដៀងគ្នា។ នេះក៏ជាមូលហេតុដែលចិត្តវិទ្យាបានរកឃើញភាពលំអៀងនៃការយល់ដឹងទូទៅ។

ទោះជាយ៉ាងណាក៏ដោយ និស្សិត LLM អាចធ្វើខុសដែលមនុស្សមិនអាចធ្វើបាន ពីព្រោះវិធីដែលពួកគេបង្កើតចម្លើយគឺខុសគ្នាយ៉ាងខ្លាំងពីរបៀបដែលយើងដោះស្រាយភារកិច្ច។

ក្រុមស្រាវជ្រាវ Anthropic បានអនុវត្តវិធីសាស្រ្តនៃការដាក់ក្រុមណឺរ៉ូនទៅជាសៀគ្វីដោយផ្អែកលើលក្ខណៈ ជាជាងការវិភាគណឺរ៉ូននីមួយៗដោយឡែកពីគ្នាដូចនៅក្នុងបច្ចេកទេសមុនៗ។

លោក Baston បានពន្យល់ថា វិធីសាស្ត្រនេះមានគោលបំណងយល់អំពីតួនាទីដែលដើរតួដោយសមាសធាតុផ្សេងៗគ្នា និងអនុញ្ញាតឱ្យអ្នកស្រាវជ្រាវតាមដានដំណើរការវែកញែកទាំងមូលនៅទូទាំងស្រទាប់នៃបណ្តាញ។

វិធីសាស្ត្រនេះក៏មានដែនកំណត់ផងដែរ ដោយវាគ្រាន់តែជាការប៉ាន់ស្មានប៉ុណ្ណោះ ហើយមិនឆ្លុះបញ្ចាំងពីដំណើរការដំណើរការព័ត៌មានទាំងមូលរបស់ LLM ទេ ជាពិសេសការផ្លាស់ប្តូរការយកចិត្តទុកដាក់ ដែលមានសារៈសំខាន់ខ្លាំងណាស់នៅពេលដែល LLM បង្កើតលទ្ធផល។

លើសពីនេះ ការកំណត់លំនាំបណ្តាញសរសៃប្រសាទ សូម្បីតែពាក្យបញ្ជាដែលមានប្រវែងត្រឹមតែពីរបីពាក្យក៏ដោយ ក៏វាត្រូវការពេលច្រើនម៉ោងសម្រាប់អ្នកជំនាញដែរ។ ពួកគេនិយាយថា វានៅតែមិនច្បាស់ពីរបៀបធ្វើមាត្រដ្ឋានបច្ចេកទេសនេះដើម្បីវិភាគពាក្យបញ្ជាវែងជាងនេះ។

បើទោះបីជាមានដែនកំណត់ក៏ដោយ សមត្ថភាពរបស់ LLM ក្នុងការត្រួតពិនិត្យដំណើរការវែកញែកផ្ទៃក្នុងបើកឱកាសថ្មីៗជាច្រើនក្នុងការគ្រប់គ្រងប្រព័ន្ធ AI ដើម្បីធានាបាននូវសុវត្ថិភាព និងសណ្តាប់ធ្នាប់។

ក្នុងពេលជាមួយគ្នានេះ វាក៏អាចជួយអ្នកស្រាវជ្រាវបង្កើតវិធីសាស្រ្តបណ្តុះបណ្តាលថ្មីៗ កែលម្អរបាំងគ្រប់គ្រង AI និងកាត់បន្ថយការយល់ច្រឡំ និងលទ្ធផលមិនត្រឹមត្រូវផងដែរ។

ប្រភព៖ https://znews.vn/nghien-cuu-dot-pha-mo-ra-hop-den-suy-luan-cua-ai-post1541611.html