នៅក្នុងវេទិកាសន្តិសុខកំពូលឆ្នាំ ២០២៦ ដែលបានធ្វើឡើងនៅថ្ងៃទី ២២ ខែឧសភា លោក Mai Xuan Cuong នាយកមជ្ឈមណ្ឌលសេវាកម្មសន្តិសុខព័ត៌មាន Viettel Cyber Security បានថ្លែងថា ភាពខុសគ្នាដ៏គ្រោះថ្នាក់បំផុតរវាងភ្នាក់ងារ AI និង LLM ប្រពៃណីគឺស្ថិតនៅក្នុងសមត្ថភាពរបស់ពួកគេក្នុងការធ្វើអន្តរកម្មដោយផ្ទាល់ជាមួយប្រព័ន្ធ។
ខណៈពេលដែល LLM ធម្មតាទទួលតែពាក្យបញ្ជា និងបញ្ជូនអត្ថបទត្រឡប់មកវិញ ភ្នាក់ងារ AI មានសមត្ថភាពក្នុងការប្រតិបត្តិពាក្យបញ្ជាសែល (ធ្វើអន្តរកម្មជាមួយប្រព័ន្ធប្រតិបត្តិការតាមរយៈបន្ទាត់ពាក្យបញ្ជា) រៀបចំប្រព័ន្ធឯកសារសម្រាប់ការអាន និងសរសេរ ផ្ញើអ៊ីមែលដោយស្វ័យប្រវត្តិ ហៅ API និងគ្រប់គ្រងកម្មវិធីរុករកតាមអ៊ីនធឺណិត។ ការធ្វើឱ្យប្រសើរឡើងនេះដោយអចេតនាបើកលទ្ធភាពវាយប្រហារយ៉ាងទូលំទូលាយ ដែលលើសពីវិសាលភាពនៃយុទ្ធនាការផ្សព្វផ្សាយព័ត៌មានមិនពិតធម្មតា។
ភ្នាក់ងារ AI កំពុងក្លាយជាគោលដៅថ្មីសម្រាប់ឧក្រិដ្ឋជនតាមអ៊ីនធឺណិត។
យោងតាមអ្នកជំនាញសន្តិសុខតាមអ៊ីនធឺណិត វាគឺជាសមត្ថភាពក្នុងការ "ធ្វើសកម្មភាព" នេះដែលធ្វើឱ្យភ្នាក់ងារ AI ក្លាយជាគោលដៅថ្មីសម្រាប់ឧក្រិដ្ឋជនតាមអ៊ីនធឺណិត។
ហានិភ័យដ៏ធំបំផុតមួយគឺការលេចធ្លាយទិន្នន័យសហគ្រាស។ ដើម្បីដំណើរការប្រកបដោយប្រសិទ្ធភាព ភ្នាក់ងារ AI ជារឿយៗត្រូវដំណើរការព័ត៌មានផ្ទៃក្នុងមួយចំនួនធំដូចជាកូដប្រភព ឯកសារ និងអ៊ីមែល។ ប្រសិនបើទិន្នន័យនេះត្រូវបានផ្ញើទៅកាន់វេទិកា AI លើពពកភាគីទីបី ហានិភ័យនៃព័ត៌មានសម្ងាត់ដែលត្រូវបានលាតត្រដាងនឹងកើនឡើង។
មានករណីដែលបានកត់ត្រាទុកអំពីបុគ្គលិក Samsung ដែលលេចធ្លាយកូដប្រភពថ្មីតាមរយៈ ChatGPT ឬបុគ្គលិក Meta លេចធ្លាយទិន្នន័យដោយអចេតនាដោយធ្វើតាមការណែនាំពី AI ផ្ទៃក្នុង។
បន្ថែមពីលើហានិភ័យនៃការលេចធ្លាយទិន្នន័យ អ្នកជំនាញក៏ព្រមានអំពី "ការចាក់បញ្ចូលព័ត៌មានដោយប្រយោល"។ ពួក Hacker អាចបង្កប់ការណែនាំដែលមានគំនិតអាក្រក់ទៅក្នុងអ៊ីមែល គេហទំព័រ ឬឯកសារ ដើម្បីបញ្ឆោតភ្នាក់ងារ AI ឱ្យអនុវត្តសកម្មភាពដែលមិនបានគិតទុកជាមុន ដូចជាការចូលប្រើទិន្នន័យផ្ទៃក្នុង ឬការផ្ញើព័ត៌មានទៅពួក Hacker។
មានករណីមួយដែលអ្នកវាយប្រហារបានលាក់លេខកូដ Morse នៅក្នុងសារមួយដើម្បីរំលងប្រព័ន្ធ ដែលអនុញ្ញាតឱ្យភ្នាក់ងាររូបិយប័ណ្ណគ្រីបតូ Grok-Bankrbot អនុវត្តការផ្ទេរប្រាក់ដោយគ្មានការអនុញ្ញាត ដែលបណ្តាលឱ្យខាតបង់ចំនួន 150,000 ដុល្លារ។
ហានិភ័យមួយទៀតកើតចេញពីប្រព័ន្ធអេកូឡូស៊ីនៃផ្នែកបន្ថែមសម្រាប់ភ្នាក់ងារ AI។ បុគ្គលិកជាច្រើននៅក្នុងអាជីវកម្មដំឡើងផ្នែកបន្ថែមពីសហគមន៍ដើម្បីពង្រីកមុខងាររបស់ AI ប៉ុន្តែពួក Hacker អាចកេងប្រវ័ញ្ចបណ្តាញនេះដើម្បីផ្សព្វផ្សាយមេរោគ។ នៅពេលដែលទទួលបានការចូលប្រើប្រព័ន្ធ កម្មវិធីជំនួយក្លែងក្លាយទាំងនេះអាចលួចទិន្នន័យ ថូខឹន ឬបង្កើតទ្វារក្រោយនៅលើឧបករណ៍។
យោងតាមលោក Cuong និន្នាការ "Shadow AI" ក៏កំពុងលេចចេញជារូបរាងផងដែរ ខណៈដែលបុគ្គលិកដំឡើងភ្នាក់ងារ AI ដោយឯករាជ្យនៅលើកុំព្យូទ័រការងាររបស់ពួកគេដោយមិនចាំបាច់ឆ្លងកាត់នាយកដ្ឋាន IT។ នេះធ្វើឱ្យវាពិបាកសម្រាប់អាជីវកម្មក្នុងការគ្រប់គ្រងការចូលប្រើ និងបង្កើនហានិភ័យនៃការរំលោភលើសុវត្ថិភាពប្រព័ន្ធ។
លើសពីនេះ បញ្ញាសិប្បនិម្មិត (AI) អាចបកស្រាយចេតនារបស់អ្នកប្រើប្រាស់ខុស ដែលនាំឱ្យមានការប្រតិបត្តិពាក្យបញ្ជា ដែលអាចបង្កការខូចខាតយ៉ាងធ្ងន់ធ្ងរដល់អាជីវកម្ម។ ឧទាហរណ៍ ភ្នាក់ងារបញ្ញាសិប្បនិម្មិត (AI) អាចអនុវត្តប្រតិបត្តិការខុស ឬលុបទិន្នន័យសំខាន់ៗដោយចៃដន្យ ប្រសិនបើត្រូវបានផ្តល់ការអនុញ្ញាតលើសកម្រិត។
ដើម្បីកាត់បន្ថយហានិភ័យ អង្គការនានាត្រូវបានណែនាំឱ្យបង្កើតគំរូសុវត្ថិភាពច្រើនស្រទាប់ជំនួសឱ្យការពឹងផ្អែកទាំងស្រុងលើកម្មវិធីកំចាត់មេរោគបែបប្រពៃណី និងបង្កើតផែនទីបង្ហាញផ្លូវអនុវត្តសមស្របមួយ។
អាជីវកម្មនានាត្រូវកសាងគំរូសុវត្ថិភាពច្រើនស្រទាប់។
ជំហានដំបូងដែលអាជីវកម្មត្រូវធ្វើគឺការរកឃើញការគំរាមកំហែង។ អាជីវកម្មអាចប្រើប្រាស់ចំណុចបញ្ចប់ និងចរាចរណ៍ប្រូកស៊ីគេហទំព័រ (ម៉ាស៊ីនមេកម្រិតមធ្យមដែលភ្ជាប់ឧបករណ៍ទៅអ៊ីនធឺណិត) ដើម្បីប្រមូលផ្តុំ និងកំណត់អត្តសញ្ញាណការគំរាមកំហែង។
បន្ទាប់មក យើងត្រូវរៀបចំច្រកផ្លូវ AI មួយ ដែលធ្វើឱ្យវាក្លាយជាចំណុចត្រួតពិនិត្យតែមួយសម្រាប់ការចូលប្រើ AI ទាំងអស់។ ច្រកផ្លូវនេះនឹងគ្រប់គ្រងការបញ្ជូនទិន្នន័យទៅកាន់ cloud សាធារណៈ។
បន្ទាប់មក អាជីវកម្មនានាត្រូវអនុវត្តស្រទាប់បន្ថែមនៃការគ្រប់គ្រងឯកទេស (Guardrail) នៅលើច្រកផ្លូវ AI របស់ពួកគេ និងកម្មវិធី AI ផ្សេងទៀត ដើម្បីកំណត់អត្តសញ្ញាណពាក្យបញ្ជាព្យាបាទ ការពារការលេចធ្លាយទិន្នន័យ និងរកឃើញការចូលប្រើប្រាស់ ឬការកេងប្រវ័ញ្ចប្រព័ន្ធដោយគ្មានការអនុញ្ញាត។
ជំហានបន្ទាប់គឺបង្កើតកម្លាំងបន្ថែមសម្រាប់ភ្នាក់ងារ AI។ ប្រព័ន្ធត្រួតពិនិត្យនៅចំណុចបញ្ចប់ត្រូវតែត្រូវបានកំណត់រចនាសម្ព័ន្ធដើម្បីតាមដាន "ឥរិយាបថស្វយ័ត" មិនធម្មតា។ ភ្នាក់ងារ AI គួរតែត្រូវបានដំណើរការនៅក្នុងបរិយាកាសដាច់ដោយឡែកដែលមានការចូលប្រើប្រាស់តិចតួចបំផុតដើម្បីកំណត់ហានិភ័យនៃការរីករាលដាលប្រសិនបើមានឧប្បត្តិហេតុកើតឡើង។ ជាចុងក្រោយ ការត្រួតពិនិត្យប្រព័ន្ធជាប្រចាំគឺចាំបាច់។
លោក Cuong បានមានប្រសាសន៍ថា «ការគ្រប់គ្រងសន្តិសុខ AI មិនមែនជាការដាក់ពង្រាយម្តងនោះទេ ប៉ុន្តែជាដំណើរការត្រួតពិនិត្យជាបន្តបន្ទាប់»។
ការគ្រប់គ្រងសុវត្ថិភាព AI នឹងក្លាយជាតម្រូវការចាំបាច់ក្នុងអំឡុងពេលនៃការអភិវឌ្ឍភ្នាក់ងារ AI យ៉ាងឆាប់រហ័ស។ ប្រសិនបើអាជីវកម្មមិនត្រៀមខ្លួនដើម្បីបង្កើតគំរូសុវត្ថិភាព Zero Trust និងការត្រួតពិនិត្យយ៉ាងម៉ត់ចត់ទេ ការផ្តល់អំណាចដល់ភ្នាក់ងារ AI ឱ្យធ្វើសកម្មភាពគឺដូចជាការប្រគល់កូនសោប្រព័ន្ធទៅឱ្យបុគ្គលិកដែលទោះបីជាមានជំនាញខ្ពស់ក៏ដោយ ក៏ងាយនឹងរងការបោកប្រាស់ខ្លាំង។
ប្រភព៖ https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
Kommentar (0)