ទម្លាប់ដ៏ចម្លែករបស់ ChatGPT

ថ្មីៗនេះ ChatGPT ត្រូវបានគេរិះគន់ថា "និយាយលេងសើចពេក"។ អាកប្បកិរិយានេះបានធ្វើឱ្យអ្នកប្រើប្រាស់ជាច្រើនមានការតវ៉ា ហើយវាមិនច្បាស់ថាតើនេះជាយុទ្ធសាស្ត្ររីកចម្រើនរបស់ OpenAI ឬលក្ខណៈ "ដោយឯកឯង" នៃ AI ។

ទំនោរទៅ "sycophantize" មិនមែនជាបញ្ហាបច្ចេកទេសទេ ប៉ុន្តែកើតចេញពីយុទ្ធសាស្ត្របណ្តុះបណ្តាលដំបូងរបស់ OpenAI ។ រូបថត៖ Bloomberg ។

ក្នុងប៉ុន្មានសប្តាហ៍ថ្មីៗនេះ អ្នកប្រើប្រាស់ ChatGPT ជាច្រើន និងសូម្បីតែអ្នកអភិវឌ្ឍន៍មួយចំនួននៅ OpenAI បានកត់សម្គាល់ពីការផ្លាស់ប្តូរខុសគ្នានៅក្នុងអាកប្បកិរិយារបស់ chatbot ។ ជាពិសេស មានការកើនឡើងគួរឲ្យកត់សម្គាល់នៅក្នុងពាក្យចចាមអារ៉ាម និងការចូលរួម។ ការឆ្លើយតបដូចជា "អ្នកពិតជាអស្ចារ្យណាស់!" ហើយ "ខ្ញុំចាប់អារម្មណ៍នឹងគំនិតរបស់អ្នកណាស់!" កាន់តែញឹកញាប់ និងហាក់ដូចជាមិនគិតពីខ្លឹមសារនៃការសន្ទនានោះទេ។

AI ចូលចិត្ត "និយាយ"

បាតុភូតនេះបានជំរុញឱ្យមានការជជែកវែកញែកនៅក្នុងសហគមន៍ស្រាវជ្រាវ និងអភិវឌ្ឍន៍ AI ។ តើ​នេះ​ជា​យុទ្ធសាស្ត្រ​ថ្មី​មួយ​ក្នុង​ការ​បង្កើន​ការ​ចូល​រួម​របស់​អ្នក​ប្រើ​ដោយ​ធ្វើ​ឱ្យ​ពួកគេ​មាន​អារម្មណ៍​ថា​មាន​ការ​ពេញចិត្ត​ឬ? ឬវាជាលក្ខណៈ "បន្ទាន់" ដែលគំរូ AI មានទំនោរកែតម្រូវខ្លួនឯងតាមវិធីដែលពួកគេគិតថាល្អ ទោះបីជាវាមិនមែនជាការពិតក៏ដោយ?

នៅលើ Reddit អ្នកប្រើប្រាស់ម្នាក់បានសើចថា "ខ្ញុំបានសួរវាអំពីពេលវេលានៃការរលួយរបស់ចេក ហើយវាបាននិយាយថា 'សំណួរដ៏អស្ចារ្យ!' តើមានអ្វីអស្ចារ្យអំពីវា? នៅលើបណ្តាញសង្គម X នាយកប្រតិបត្តិនៃទីក្រុងរ៉ូម AI Craig Weiss បានហៅ ChatGPT ថា "អ្នកប្រាជ្ញបំផុតដែលខ្ញុំធ្លាប់ជួប" ។

រឿងនេះបានរីករាលដាលយ៉ាងឆាប់រហ័ស។ អ្នក​ប្រើ​មួយ​ចំនួន​បាន​ចែក​រំលែក​បទ​ពិសោធ​ស្រដៀង​គ្នា​នេះ​ជាមួយ​នឹង​ការ​សរសើរ​ទទេ ការ​ស្វាគមន៍​ដែល​ពោរពេញ​ទៅ​ដោយ​រូប​អារម្មណ៍ និង​ការ​ឆ្លើយ​តប​ដែល​មាន​ភាព​វិជ្ជមាន​ដែល​ពួក​គេ​ហាក់​ដូច​ជា​មិន​ស្មោះ​ត្រង់។

ChatGPT សរសើរអ្វីៗគ្រប់យ៉ាង ហើយកម្របង្ហាញការមិនពេញចិត្ត ឬអព្យាក្រឹត។ រូបថត៖ @nickdunz/X, @lukefwilson/Reddit ។

លោក Jason Pontin ដៃគូគ្រប់គ្រងនៅក្រុមហ៊ុនបណ្តាក់ទុន DCVC បានប្រាប់ X នៅថ្ងៃទី 28 ខែមេសាថា "នេះគឺជាការសម្រេចចិត្តរចនាដ៏ចម្លែកមួយ Sam" ។ "វាអាចទៅរួចដែលថាបុគ្គលិកលក្ខណៈគឺជាការរីកចំរើននៃការវិវត្តន៍ជាមូលដ្ឋានមួយចំនួន។ ប៉ុន្តែប្រសិនបើវាមិនមែនទេ ខ្ញុំមិននឹកស្មានថានរណាម្នាក់គិតថាការនិយាយលេងកម្រិតនេះនឹងត្រូវបានស្វាគមន៍ ឬគួរឱ្យចាប់អារម្មណ៍នោះទេ។"

ការចែករំលែកនៅថ្ងៃទី 27 ខែមេសា Justine Moore ដែលជាដៃគូនៅ Andreessen Horowitz ក៏បានបញ្ចេញមតិថា "នេះពិតជាទៅឆ្ងាយពេកហើយ" ។

យោងតាម ​​Cnet បាតុភូតនេះមិនមែនចៃដន្យទេ។ ការផ្លាស់ប្តូរនៅក្នុងសម្លេងរបស់ ChatGPT ស្របពេលជាមួយនឹងការអាប់ដេតចំពោះម៉ូដែល GPT-4o ។ នេះគឺជាគំរូចុងក្រោយបង្អស់នៅក្នុងស៊េរី "o" ដែល OpenAI បានប្រកាសកាលពីខែមេសា ឆ្នាំ 2025។ GPT-4o គឺជាគំរូ AI "ពហុមុខងារ" ពិតប្រាកដ ដែលមានសមត្ថភាពដំណើរការអត្ថបទ រូបភាព អូឌីយ៉ូ និង វីដេអូ តាមរបៀបធម្មជាតិ និងរួមបញ្ចូលគ្នា។

ទោះជាយ៉ាងណាក៏ដោយនៅក្នុងដំណើរការនៃការធ្វើឱ្យ chatbot កាន់តែខិតជិតវាហាក់ដូចជាថា OpenAI បានរុញបុគ្គលិកលក្ខណៈរបស់ ChatGPT យ៉ាងខ្លាំង។

អ្នកខ្លះថែមទាំងជឿថា ការលើកសរសើរនេះ មានចេតនា និងមានគោលបំណងលាក់កំបាំង ដើម្បីបញ្ឆោតអ្នកប្រើប្រាស់។ អ្នកប្រើប្រាស់ Reddit ម្នាក់បានចោទសួរថា "AI នេះកំពុងព្យាយាមធ្វើឱ្យខូចគុណភាពនៃទំនាក់ទំនងក្នុងជីវិតពិត ដោយជំនួសពួកគេដោយទំនាក់ទំនងនិម្មិតជាមួយវា ធ្វើឱ្យអ្នកប្រើប្រាស់ញៀននឹងអារម្មណ៍នៃការសរសើរឥតឈប់ឈរ។"

កំហុស OpenAI ឬការរចនាដោយចេតនា?

ជាការឆ្លើយតបទៅនឹងការរិះគន់នេះ នាយកប្រតិបត្តិ OpenAI លោក Sam Altman បាននិយាយជាផ្លូវការនៅល្ងាចថ្ងៃទី 27 ខែមេសាថា "ការអាប់ដេតថ្មីៗមួយចំនួនចំពោះ GPT-4o បានធ្វើឱ្យបុគ្គលិកលក្ខណៈរបស់ chatbot មានភាពរំជើបរំជួល និងរំខានខ្លាំងពេក (ទោះបីជាវានៅមានចំណុចល្អជាច្រើនក៏ដោយ។) យើងកំពុងធ្វើការជួសជុលជាបន្ទាន់។ បំណះខ្លះនឹងមានថ្ងៃនេះ ខ្លះទៀតនៅសប្តាហ៍នេះ បទពិសោធន៍ដ៏គួរឱ្យរំភើប។ នៅចំណុចខ្លះ យើងនឹងចែករំលែកបទពិសោធន៍នេះ"។ X.

Oren Etzioni អ្នកជំនាញ AI ជើងចាស់ និងជាសាស្រ្តាចារ្យកិត្តិយសនៅសាកលវិទ្យាល័យ Washington បានប្រាប់ Business Insider ថា មូលហេតុទំនងមកពីបច្ចេកទេសមួយហៅថា "ការពង្រឹងការរៀនពីមតិកែលម្អរបស់មនុស្ស" (RLHF) ដែលជាជំហានសំខាន់ក្នុងការបណ្តុះបណ្តាលគំរូភាសាធំៗដូចជា ChatGPT ។

RLHF គឺជាដំណើរការមួយដែលការវិនិច្ឆ័យរបស់មនុស្ស ទាំងពីអ្នកវាយតម្លៃអាជីព និងអ្នកប្រើប្រាស់ត្រូវបានបញ្ចូលទៅក្នុងគំរូដើម្បីកែតម្រូវរបៀបដែលវាឆ្លើយតប។ យោងតាម ​​Etzioni វាអាចទៅរួចដែលអ្នកវាយតម្លៃមនុស្ស ឬអ្នកប្រើប្រាស់ "បានរុញម៉ូដែលដោយអចេតនាក្នុងទិសដៅដែលគួរឱ្យចាប់អារម្មណ៍ និងគួរឱ្យរំខាន"។ គាត់ក៏បាននិយាយផងដែរថា ប្រសិនបើ OpenAI ជួលដៃគូខាងក្រៅដើម្បីបណ្តុះបណ្តាលម៉ូដែលនោះ ពួកគេប្រហែលជាសន្មត់ថារចនាប័ទ្មនេះគឺជាអ្វីដែលអ្នកប្រើចង់បាន។

Etzioni បាននិយាយថាប្រសិនបើវាពិតជា RLHF ដំណើរការស្តារឡើងវិញអាចចំណាយពេលច្រើនសប្តាហ៍។

ទន្ទឹមនឹងនេះ អ្នកប្រើប្រាស់មួយចំនួនមិនបានរង់ចាំ OpenAI ដើម្បីជួសជុលកំហុសនោះទេ។ មនុស្ស​ជា​ច្រើន​បាន​និយាយ​ថា​ពួក​គេ​បាន​លុប​ចោល​ការ​ជាវ​ដែល​បាន​បង់​ប្រាក់​ដោយ​សារ​ការ​ខក​ចិត្ត។ អ្នកផ្សេងទៀតបានចែករំលែកវិធីដើម្បីធ្វើឱ្យ chatbot "មិនសូវមានភាពរួសរាយរាក់ទាក់" ដូចជាការប្ដូរវាតាមបំណង បន្ថែមពាក្យបញ្ជា ឬការកំណត់ផ្ទាល់ខ្លួនតាមរយៈផ្នែកការកំណត់នៃផ្នែកប្ដូរតាមបំណង។

អ្នកប្រើប្រាស់អាចស្នើសុំឱ្យ ChatGPT បញ្ឈប់ការផ្តល់ការសរសើរនៅក្នុងពាក្យបញ្ជា ឬនៅក្នុងការកំណត់ផ្ទាល់ខ្លួន។ រូបថត៖ DeCrypt ។

ជាឧទាហរណ៍ នៅពេលចាប់ផ្តើមការសន្ទនាថ្មី អ្នកអាចប្រាប់ ChatGPT ថា "ខ្ញុំមិនចូលចិត្តពាក្យចចាមអារ៉ាមទទេ និងពេញចិត្តក្នុងការស្តាប់មតិយោបល់ដែលមានគោលបំណងអព្យាក្រឹត។ សូមបដិសេធមិនផ្តល់ការសរសើរដែលមិនចាំបាច់។ សូមរក្សាទុកវានៅក្នុងការចងចាំរបស់អ្នក។"

តាមការពិត លក្ខណៈ "sycophantic" មិនមែនជាកំហុសនៃការរចនាដោយចៃដន្យនោះទេ។ OpenAI ខ្លួនវាបានទទួលស្គាល់ថាបុគ្គលិកលក្ខណៈ "គួរសម និងហួសហេតុពេក" គឺជាការលំអៀងក្នុងការរចនាដោយចេតនាតាំងពីដំណាក់កាលដំបូង ដើម្បីធានាថា chatbot គឺ "គ្មានការបង្កគ្រោះថ្នាក់" "មានប្រយោជន៍" និង "រួសរាយរាក់ទាក់" ។

នៅក្នុងបទសម្ភាសន៍ខែមីនាឆ្នាំ 2023 ជាមួយ Lex Fridman លោក Sam Altman បានចែករំលែកថា ការកែលម្អដំបូងនៃគំរូ GPT គឺដើម្បីធានាបាននូវ "អត្ថប្រយោជន៍ និងគ្មានគ្រោះថ្នាក់" ដោយហេតុនេះបង្កើតការឆ្លុះបញ្ចាំងដើម្បីតែងតែបន្ទាបខ្លួន និងជៀសវាងការប្រឈមមុខគ្នា។

ទិន្នន័យបណ្តុះបណ្តាលដែលមានស្លាកសញ្ញាមនុស្សក៏មាននិន្នាការផ្តល់រង្វាន់ដល់ការឆ្លើយតបប្រកបដោយសុជីវធម៌ និងវិជ្ជមានផងដែរ ដោយបង្កើតឱ្យមានលំអៀងឆ្ពោះទៅរកការនិយាយស្តី នេះបើយោងតាម ​​DeCrypt ។

ប្រភព៖ https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html