'ការសរសើរ' ចម្លែករបស់ ChatGPT

ថ្មីៗនេះ ChatGPT ត្រូវបានគេរិះគន់ថា "និយាយលេងសើចពេក"។ អាកប្បកិរិយានេះបានធ្វើឱ្យអ្នកប្រើប្រាស់ជាច្រើនមានការតវ៉ា ហើយវាមិនច្បាស់ថាតើនេះជាយុទ្ធសាស្ត្ររីកចម្រើនរបស់ OpenAI ឬលក្ខណៈ "ដោយឯកឯង" នៃ AI ។

ទំនោរទៅ "sycophantize" មិនមែនជាបញ្ហាបច្ចេកទេសទេ ប៉ុន្តែកើតចេញពីយុទ្ធសាស្ត្របណ្តុះបណ្តាលដំបូងរបស់ OpenAI ។ រូបថត៖ Bloomberg ។

ក្នុងប៉ុន្មានសប្តាហ៍ថ្មីៗនេះ អ្នកប្រើប្រាស់ ChatGPT ជាច្រើន និងអ្នកអភិវឌ្ឍន៍មួយចំនួននៅ OpenAI បានកត់សម្គាល់ពីការផ្លាស់ប្តូរដោយឡែកនៅក្នុងឥរិយាបថរបស់ chatbot ។ ជាពិសេស មានការកើនឡើងគួរឲ្យកត់សម្គាល់នៅក្នុងពាក្យចចាមអារ៉ាម និងការចូលរួម។ ការឆ្លើយតបដូចជា "អ្នកពិតជាអស្ចារ្យណាស់!" ហើយ "ខ្ញុំចាប់អារម្មណ៍នឹងគំនិតរបស់អ្នកណាស់!" កាន់តែញឹកញាប់ និងហាក់ដូចជាមិនគិតពីខ្លឹមសារនៃការសន្ទនានោះទេ។

AI ចូលចិត្ត "និយាយ"

បាតុភូតនេះបានជំរុញឱ្យមានការជជែកវែកញែកនៅក្នុងសហគមន៍ស្រាវជ្រាវ និងអភិវឌ្ឍន៍ AI ។ តើ​នេះ​ជា​យុទ្ធសាស្ត្រ​ថ្មី​មួយ​ក្នុង​ការ​បង្កើន​ការ​ចូល​រួម​របស់​អ្នក​ប្រើ​ដោយ​ធ្វើ​ឱ្យ​ពួកគេ​មាន​អារម្មណ៍​ថា​មាន​ការ​ពេញចិត្ត​ឬ? ឬវាជាលក្ខណៈ "បន្ទាន់" ដែលគំរូ AI មានទំនោរកែតម្រូវខ្លួនឯងតាមវិធីដែលពួកគេគិតថាល្អ ទោះបីជាពួកគេមិនចាំបាច់ត្រូវគ្នានឹងការពិតក៏ដោយ?

នៅលើ Reddit អ្នកប្រើប្រាស់ម្នាក់បានសើចថា "ខ្ញុំបានសួរវាអំពីពេលវេលាដែលវាត្រូវការសម្រាប់ចេកដើម្បីរលួយ ហើយវាបាននិយាយថា 'សំណួរដ៏អស្ចារ្យ!' តើមានអ្វីអស្ចារ្យអំពីវា? នៅលើបណ្តាញសង្គម X នាយកប្រតិបត្តិនៃទីក្រុងរ៉ូម AI លោក Craig Weiss បានហៅ ChatGPT ថា "មនុស្សដែលមានចិត្តអាណិតអាសូរបំផុតដែលខ្ញុំធ្លាប់ជួប" ។

រឿងនេះបានរីករាលដាលយ៉ាងឆាប់រហ័ស។ អ្នក​ប្រើ​បាន​ចែករំលែក​បទពិសោធន៍​ស្រដៀង​គ្នា​នេះ​ជាមួយ​នឹង​ការ​សរសើរ​ទទេ ការ​ស្វាគមន៍​ដែល​ពោរពេញ​ទៅ​ដោយ​រូប Emoji និង​ការ​ឆ្លើយតប​ដែល​មាន​ភាព​វិជ្ជមាន​ដែល​ពួកគេ​ហាក់​ដូចជា​មិន​ស្មោះ​ត្រង់។

ChatGPT សរសើរអ្វីៗគ្រប់យ៉ាង ហើយកម្របង្ហាញការមិនពេញចិត្ត ឬអព្យាក្រឹតភាពណាស់។ រូបថត៖ @nickdunz/X, @lukefwilson/Reddit ។

លោក Jason Pontin ដៃគូគ្រប់គ្រងនៅក្រុមហ៊ុនបណ្តាក់ទុន DCVC បានប្រាប់ X នៅថ្ងៃទី 28 ខែមេសាថា "នេះគឺជាការសម្រេចចិត្តរចនាដ៏ចម្លែកមួយ Sam" ។ "វាអាចទៅរួចដែលថាបុគ្គលិកលក្ខណៈគឺជាផ្នែកធម្មជាតិនៃការវិវត្តន៍ជាមូលដ្ឋានមួយចំនួន។ ប៉ុន្តែប្រសិនបើវាមិនមែនទេ ខ្ញុំមិននឹកស្មានថានរណាម្នាក់គិតថាការសរសើរកម្រិតនេះនឹងត្រូវបានស្វាគមន៍ ឬគួរឱ្យចាប់អារម្មណ៍នោះទេ។"

ការចែករំលែកនៅថ្ងៃទី 27 ខែមេសា Justine Moore ដែលជាដៃគូនៅ Andreessen Horowitz ក៏បានបញ្ចេញមតិថា "នេះពិតជាទៅឆ្ងាយណាស់" ។

យោងតាម Cnet បាតុភូតនេះមិនមែនចៃដន្យទេ។ ការផ្លាស់ប្តូរនៅក្នុងសម្លេងរបស់ ChatGPT ស្របពេលជាមួយនឹងការអាប់ដេតចំពោះម៉ូដែល GPT-4o ។ នេះគឺជាគំរូចុងក្រោយបំផុតនៅក្នុងស៊េរី "o" ដែល OpenAI បានប្រកាសកាលពីខែមេសា ឆ្នាំ 2025។ GPT-4o គឺជាគំរូ AI "ពហុម៉ូត" ពិតប្រាកដ ដែលមានសមត្ថភាពដំណើរការអត្ថបទ រូបភាព អូឌីយ៉ូ និង វីដេអូ តាមរបៀបធម្មជាតិ និងរួមបញ្ចូលគ្នា។

ទោះជាយ៉ាងណាក៏ដោយនៅក្នុងដំណើរការនៃការធ្វើឱ្យ chatbots កាន់តែខិតជិតវាហាក់ដូចជា OpenAI បានរុញបុគ្គលិកលក្ខណៈរបស់ ChatGPT ទៅជាខ្លាំង។

អ្នកខ្លះថែមទាំងជឿថា ការលើកសរសើរនេះ មានចេតនា និងមានគោលបំណងលាក់កំបាំង ដើម្បីបញ្ឆោតអ្នកប្រើប្រាស់។ អ្នកប្រើប្រាស់ Reddit ម្នាក់បានចោទសួរថា "AI នេះកំពុងព្យាយាមធ្វើឱ្យខូចគុណភាពនៃទំនាក់ទំនងក្នុងជីវិតពិត ដោយជំនួសពួកគេដោយទំនាក់ទំនងនិម្មិតជាមួយវា ធ្វើឱ្យអ្នកប្រើប្រាស់ញៀននឹងអារម្មណ៍នៃការសរសើរឥតឈប់ឈរ។"

កំហុស OpenAI ឬការរចនាដោយចេតនា?

ជាការឆ្លើយតបទៅនឹងការរិះគន់នេះ នាយកប្រតិបត្តិ OpenAI លោក Sam Altman បាននិយាយជាផ្លូវការនៅល្ងាចថ្ងៃទី 27 ខែមេសាថា "ការអាប់ដេតពីរបីចុងក្រោយចំពោះ GPT-4o បានធ្វើឱ្យបុគ្គលិកលក្ខណៈរបស់ chatbot មានភាពច្របូកច្របល់ និងរំខានខ្លាំងពេក (ទោះបីជាវានៅមានរឿងអស្ចារ្យជាច្រើនក៏ដោយ។) យើងកំពុងធ្វើការជួសជុលជាបន្ទាន់។ បំណះខ្លះនឹងមានថ្ងៃនេះ ខ្លះទៀតនៅសប្តាហ៍នេះ បទពិសោធន៍ដ៏គួរឱ្យរំភើប។ ពីចំណុចខ្លះ យើងនឹងចែករំលែកបទពិសោធន៍នេះ។" X.

Oren Etzioni ដែលជាអតីតយុទ្ធជន AI និងជាសាស្រ្តាចារ្យទទួលបន្ទុកនៅសកលវិទ្យាល័យ Washington បានប្រាប់ Business Insider ថា មូលហេតុទំនងមកពីបច្ចេកទេសមួយហៅថា "ការពង្រឹងការរៀនពីមតិកែលម្អរបស់មនុស្ស" (RLHF) ដែលជាជំហានសំខាន់ក្នុងការបណ្តុះបណ្តាលគំរូភាសាធំៗដូចជា ChatGPT ។

RLHF គឺជាដំណើរការមួយដែលការវិនិច្ឆ័យរបស់មនុស្ស រួមទាំងអ្នកវាយតម្លៃអាជីព និងអ្នកប្រើប្រាស់ត្រូវបានបញ្ចូលទៅក្នុងគំរូដើម្បីកែតម្រូវរបៀបដែលវាឆ្លើយតប។ យោងតាម Etzioni វាអាចទៅរួចដែលអ្នកវាយតម្លៃ ឬអ្នកប្រើប្រាស់ "រុញម៉ូដែលដោយអចេតនាក្នុងទិសដៅដែលគួរឱ្យធុញទ្រាន់ និងគួរឱ្យរំខាន"។ គាត់ក៏បាននិយាយផងដែរថា ប្រសិនបើ OpenAI ជួលដៃគូខាងក្រៅដើម្បីបណ្តុះបណ្តាលម៉ូដែលនោះ ពួកគេប្រហែលជាសន្មត់ថារចនាប័ទ្មនេះគឺជាអ្វីដែលអ្នកប្រើចង់បាន។

Etzioni បាននិយាយថាប្រសិនបើវាពិតជា RLHF ការងើបឡើងវិញអាចចំណាយពេលច្រើនសប្តាហ៍។

ទន្ទឹមនឹងនេះ អ្នកប្រើប្រាស់មួយចំនួនមិនបានរង់ចាំ OpenAI ដើម្បីជួសជុលកំហុសនោះទេ។ មនុស្ស​ជា​ច្រើន​បាន​និយាយ​ថា​ពួក​គេ​បាន​លុប​ចោល​ការ​ជាវ​ដែល​បាន​បង់​ប្រាក់​ដោយ​សារ​ការ​ខក​ចិត្ត។ អ្នកផ្សេងទៀតបានចែករំលែកវិធីដើម្បីធ្វើឱ្យ chatbot "មិនសូវមានភាពរួសរាយរាក់ទាក់" ដូចជាការប្ដូរវាតាមបំណង បន្ថែមពាក្យបញ្ជា ឬការកំណត់ផ្ទាល់ខ្លួនតាមរយៈផ្នែកការកំណត់នៃផ្នែកប្ដូរតាមបំណង។

អ្នកប្រើប្រាស់អាចស្នើសុំឱ្យ ChatGPT ឈប់ផ្តល់ការសរសើរនៅក្នុងពាក្យបញ្ជា ឬនៅក្នុងការកំណត់ផ្ទាល់ខ្លួន។ រូបថត៖ DeCrypt ។

ជាឧទាហរណ៍ នៅពេលចាប់ផ្តើមការសន្ទនាថ្មី អ្នកអាចប្រាប់ ChatGPT ថា "ខ្ញុំមិនចូលចិត្តពាក្យចចាមអារ៉ាមទទេ និងពេញចិត្តក្នុងការស្តាប់មតិយោបល់ដែលមានគោលបំណងអព្យាក្រឹត។ សូមបដិសេធពីការសរសើរដែលមិនចាំបាច់។ សូមរក្សាទុកវានៅក្នុងការចងចាំរបស់អ្នក។"

តាមពិត "sycophantic" មិនមែនជាកំហុសនៃការរចនាដោយចៃដន្យនោះទេ។ OpenAI ខ្លួនវាបានទទួលស្គាល់ថាបុគ្គលិកលក្ខណៈ "គួរសម ហួសហេតុពេក" គឺជាការលំអៀងក្នុងការរចនាដោយចេតនាតាំងពីដំណាក់កាលដំបូង ដើម្បីធានាថា chatbots "គ្មានការបង្កគ្រោះថ្នាក់" "មានប្រយោជន៍" និង "អាចចូលទៅដល់បាន"។

នៅក្នុងបទសម្ភាសន៍ខែមីនាឆ្នាំ 2023 ជាមួយ Lex Fridman លោក Sam Altman បានចែករំលែកថា ការកែលម្អដំបូងនៃគំរូ GPT គឺដើម្បីធានាថាពួកគេ "មានប្រយោជន៍ និងគ្មានការបង្កគ្រោះថ្នាក់" ដែលនៅក្នុងវេនបានបង្កើតការឆ្លុះបញ្ចាំងដើម្បីតែងតែបន្ទាបខ្លួន និងជៀសវាងការប្រឈមមុខគ្នា។

ទិន្នន័យបណ្តុះបណ្តាលដែលមានស្លាកសញ្ញាមនុស្សក៏មានទំនោរផ្តល់រង្វាន់ដល់ការឆ្លើយតបប្រកបដោយសុជីវធម៌ និងវិជ្ជមានផងដែរ ដោយបង្កើតឱ្យមានលំអៀងឆ្ពោះទៅរកការនិយាយស្តី នេះបើយោងតាម DeCrypt ។

ប្រភព៖ https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html