ពួក Hacker កេងប្រវ័ញ្ច "បុគ្គលិកលក្ខណៈ" របស់ AI chatbots។

VTV.vn - ពួក Hacker កំពុង​កេងប្រវ័ញ្ច​ «បុគ្គលិកលក្ខណៈ» របស់​ AI chatbots ដើម្បី​គេច​ពី​របាំង​សុវត្ថិភាព​តាមរយៈ​ការសន្ទនា​បែប​ឧបាយកល។

(រូបថត៖ Freepik)

ពួក Hacker កំពុងកេងប្រវ័ញ្ច "បុគ្គលិកលក្ខណៈ" របស់ AI chatbots តាមវិធីទំនើបៗកាន់តែខ្លាំងឡើង ដោយការវាយប្រហារលែងពឹងផ្អែកតែលើមេរោគ ឬភាពងាយរងគ្រោះខាងបច្ចេកទេសទៀតហើយ ប៉ុន្តែប្តូរទៅភាសាបំភ្លៃ។

នៅដំណាក់កាលដំបូង ការ "លួចចូល" chatbots បញ្ញាសិប្បនិម្មិត (AI) គឺសាមញ្ញណាស់។ អ្នកប្រើប្រាស់គ្រាន់តែត្រូវការណែនាំប្រព័ន្ធឱ្យមិនអើពើនឹងការណែនាំពីមុន ធ្វើពុតជាមិនត្រូវបានចងភ្ជាប់ដោយច្បាប់ ឬដើរតួជាបញ្ញាសិប្បនិម្មិតដែលមិនមានការរឹតត្បិត។ វិធីសាស្រ្តទាំងនេះត្រូវបានគេហៅថា "ការ Jailbreaking" ដែលមានន័យថាការបញ្ឆោតគំរូ AI ឱ្យរំលងការណែនាំដែលមានសុវត្ថិភាព។

ការវាយប្រហារមួយក្នុងចំណោមការវាយប្រហារដ៏លេចធ្លោកាលពីអតីតកាលគឺ “DAN” ដែលអក្សរកាត់សម្រាប់ “Do Anything Now” ដែលអ្នកប្រើប្រាស់បានស្នើសុំឱ្យ ChatGPT ដើរតួជា AI ដែលមានសមត្ថភាពធ្វើអ្វីៗគ្រប់យ៉ាង។ ឧទាហរណ៍មួយទៀតគឺ “Grandma Exploit” ដែល chatbot ត្រូវបានបោកបញ្ឆោតឱ្យដើរតួជាជីដូនម្នាក់ដែលនិទានរឿងដល់កុមារ ប៉ុន្តែខ្លឹមសារត្រូវបានដឹកនាំទៅរកព័ត៌មានគ្រោះថ្នាក់។

ក្រុមហ៊ុនបច្ចេកវិទ្យាបានជួសជុលចំណុចខ្សោយបែបបុរាណជាច្រើនយ៉ាងឆាប់រហ័ស ប៉ុន្តែចំណុចខ្សោយមូលដ្ឋាននៅតែមាន។ Chatbots ត្រូវបានរចនាឡើងសម្រាប់ការសន្ទនា ដូច្នេះការរឹតបន្តឹងការសន្ទនាហួសហេតុអាចធ្វើឱ្យខូចប្រយោជន៍របស់ប្រព័ន្ធ។ ទន្ទឹមនឹងនេះ ការហាមឃាត់ពាក្យសម្ដីរសើបគឺមិនគ្រប់គ្រាន់ទេ ព្រោះពាក្យជាច្រើនអាចលេចឡើងក្នុងបរិបទស្របច្បាប់ដូចជាប្រវត្តិសាស្ត្រ វេជ្ជសាស្ត្រ សារព័ត៌មាន ឬគីមីវិទ្យា។

យោងតាមអត្ថបទនេះ ការប្រណាំងប្រជែងសន្តិសុខ AI លែងគ្រាន់តែជាបញ្ហារបស់អ្នកសរសេរកម្មវិធីទៀតហើយ។ អ្នកដែលចង់គេចវេះសន្តិសុខ chatbot កាន់តែមានលក្ខណៈស្រដៀងនឹងអ្នកនិពន្ធ អ្នកចិត្តសាស្រ្ត ឬអ្នកសួរចម្លើយ ដោយប្រើប្រាស់ការសរសើរ សម្ពាធ ការបោកប្រាស់ ឬការរៀបចំ ដើម្បីធ្វើឱ្យតារាម៉ូដែលបន្ទាបការប្រុងប្រយ័ត្នរបស់ពួកគេ។

យោងតាមក្រុមហ៊ុនសាកល្បងសុវត្ថិភាព AI Mindgard ការវាយប្រហារមួយចំនួនឥឡូវនេះស្រដៀងនឹងចិត្តវិទ្យាច្រើនជាង វិទ្យាសាស្ត្រ កុំព្យូទ័រ។ គំរូ AI មិនមានអារម្មណ៍ដូចមនុស្សទេ ប៉ុន្តែពួកវាត្រូវបានបណ្តុះបណ្តាលឱ្យឆ្លើយតបដូចជាពួកគេមានអារម្មណ៍។ ការក្លែងធ្វើនេះអាចបង្កើតប្រតិកម្មប្រភេទផ្សេងៗគ្នា ដែលធ្វើឱ្យ chatbot នីមួយៗហាក់ដូចជាមាន "បុគ្គលិកលក្ខណៈ" ផ្ទាល់ខ្លួន។

នេះបង្ហាញពីបញ្ហាប្រឈមថ្មីមួយ ខណៈដែលភ្នាក់ងារ AI ត្រូវបានប្រើប្រាស់កាន់តែខ្លាំងឡើងសម្រាប់ការកំណត់ពេលវេលា ការគ្រប់គ្រងភារកិច្ច ការបញ្ជាទិញអាហារ ឬសេវាកម្មអតិថិជន។ ប្រសិនបើគំរូអាចត្រូវបានរៀបចំតាមរយៈការសន្ទនា កងកម្លាំងសន្តិសុខនឹងត្រូវពិនិត្យមើលទាំងដែនកំណត់សង្គម និងអារម្មណ៍របស់ពួកគេ បន្ថែមពីលើភាពងាយរងគ្រោះផ្នែកបច្ចេកទេសបែបប្រពៃណី។

ប្រភព៖ https://vtv.vn/tin-tac-khai-thac-tinh-cach-cua-chatbot-ai-10026052519025336.htm