អ្នកប្រើប្រាស់ ChatGPT ប្រឈមនឹងហានិភ័យនៃការលួចព័ត៌មានរបស់ពួកគេ។

មុខងារ​ចងចាំ​រយៈពេល​វែង​របស់ ChatGPT គឺជា​មុខងារ​ថ្មី​មួយ​ដែល​បាន​ណែនាំ​ដោយ OpenAI ក្នុង​ខែកុម្ភៈ ឆ្នាំ 2024 និង​បាន​ពង្រីក​នៅ​ខែកញ្ញា។

ថ្មីៗនេះ អ្នកស្រាវជ្រាវសន្តិសុខ Johann Rehberger បានបង្ហាញពីភាពងាយរងគ្រោះធ្ងន់ធ្ងរមួយដែលទាក់ទងនឹងមុខងារនេះ។

តាមរបាយការណ៍ មុខងារថ្មីនេះអនុញ្ញាតឱ្យ chatbots រក្សាទុកព័ត៌មានពីការសន្ទនាពីមុន។ នេះលុបបំបាត់តម្រូវការសម្រាប់អ្នកប្រើប្រាស់ក្នុងការបញ្ចូលព័ត៌មានឡើងវិញដូចជាអាយុ ចំណាប់អារម្មណ៍ ឬមតិផ្ទាល់ខ្លួនរាល់ពេលដែលពួកគេជជែកគ្នា។ ទោះជាយ៉ាងណាក៏ដោយ មុខងារនេះបានក្លាយជាចំណុចខ្សោយដែលអ្នកវាយប្រហារអាចកេងប្រវ័ញ្ចបាន។

អ្នកប្រើប្រាស់ ChatGPT ប្រឈមនឹងហានិភ័យនៃការលួចព័ត៌មានរបស់ពួកគេ។

លោក Johann Rehberger បានចង្អុលបង្ហាញថា ពួក Hacker អាចប្រើបច្ចេកទេសចាក់បញ្ចូលព័ត៌មានរហ័ស — ដោយដាក់ការណែនាំព្យាបាទទៅក្នុងអង្គចងចាំ AI ដោយបង្ខំវាឱ្យធ្វើតាមបញ្ជា។ ពាក្យបញ្ជាទាំងនេះនឹងត្រូវបានបញ្ជូនតាមរយៈខ្លឹមសារដែលមិនគួរឱ្យទុកចិត្តដូចជាអ៊ីមែល ឯកសារ ឬគេហទំព័រ។

នៅពេលដែលការចងចាំមិនពិតទាំងនេះត្រូវបានរក្សាទុក បញ្ញាសិប្បនិម្មិត (AI) នឹងបន្តប្រើប្រាស់វាជាព័ត៌មានពិតនៅក្នុងការសន្ទនាជាមួយអ្នកប្រើប្រាស់។ នេះអាចនាំឱ្យមានការប្រមូល និងប្រើប្រាស់ទិន្នន័យផ្ទាល់ខ្លួនរបស់អ្នកប្រើប្រាស់ដោយគ្មានការអនុញ្ញាត។

Rehberger បានផ្តល់ឧទាហរណ៍ជាក់លាក់មួយដោយផ្ញើតំណភ្ជាប់ដែលមានរូបភាពព្យាបាទដែលបណ្តាលឱ្យ ChatGPT រក្សាទុកអង្គចងចាំមិនពិត។ ព័ត៌មាននេះនឹងប៉ះពាល់ដល់ការឆ្លើយតបជាបន្តបន្ទាប់របស់ ChatGPT។ អ្វីដែលសំខាន់នោះ រាល់ការបញ្ចូលរបស់អ្នកប្រើប្រាស់ក៏នឹងត្រូវបានផ្ញើទៅកាន់ម៉ាស៊ីនមេរបស់ពួក Hacker ផងដែរ។

ដូច្នេះ ដើម្បីធ្វើឱ្យការវាយប្រហារសកម្ម អ្នកលួចចូលប្រព័ន្ធគ្រាន់តែត្រូវបញ្ចុះបញ្ចូលអ្នកប្រើប្រាស់ ChatGPT ឱ្យចុចលើតំណភ្ជាប់ដែលមានរូបភាពព្យាបាទ។ បន្ទាប់មក ការសន្ទនាទាំងអស់របស់អ្នកប្រើប្រាស់ជាមួយ ChatGPT នឹងត្រូវបានបញ្ជូនបន្តទៅកាន់ម៉ាស៊ីនមេរបស់អ្នកវាយប្រហារដោយមិនបន្សល់ទុកដានណាមួយឡើយ។

នៅក្នុងខែឧសភា ឆ្នាំ២០២៤ បន្ទាប់ពីរកឃើញចំណុចខ្សោយនេះ លោក Rehberger បានរាយការណ៍វាទៅ OpenAi ប៉ុន្តែក្រុមហ៊ុនបានច្រានចោលវាថាជាចំណុចខ្សោយសុវត្ថិភាព។ បន្ទាប់ពីទទួលបានភស្តុតាងដែលថាទិន្នន័យអ្នកប្រើប្រាស់អាចត្រូវបានគេលួច ក្រុមហ៊ុនបានចេញផ្សាយបំណះបណ្តោះអាសន្នលើ ChatGPT កំណែគេហទំព័រ។

ទោះបីជាបញ្ហានេះត្រូវបានដោះស្រាយជាបណ្ដោះអាសន្នក៏ដោយ លោក Rehberger បានសង្កត់ធ្ងន់ថា ខ្លឹមសារដែលមិនគួរឱ្យទុកចិត្តនៅតែអាចប្រើការចាក់បញ្ចូលព័ត៌មានមិនពិតទៅក្នុងអង្គចងចាំរយៈពេលវែងរបស់ ChatGPT។ នេះមានន័យថា ក្នុងករណីខ្លះ ពួក Hacker នៅតែអាចទាញយកប្រយោជន៍ពីភាពងាយរងគ្រោះនេះដើម្បីរក្សាទុកអង្គចងចាំដែលមានគំនិតអាក្រក់ក្នុងគោលបំណងលួចព័ត៌មានផ្ទាល់ខ្លួនជាអចិន្ត្រៃយ៍។

OpenAI ណែនាំអ្នកប្រើប្រាស់ឱ្យពិនិត្យមើលទិន្នន័យដែលបានរក្សាទុករបស់ ChatGPT ជាប្រចាំ ដើម្បីរកមើលព័ត៌មានមិនពិតណាមួយ។ ក្រុមហ៊ុនក៏ផ្តល់ការណែនាំលម្អិតអំពីរបៀបគ្រប់គ្រង និងលុបទិន្នន័យដែលបានរក្សាទុកនៅក្នុងឧបករណ៍នេះផងដែរ។

ប្រភព៖ https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html