ທຸລະກິດສາມາດເຮັດຫຍັງໄດ້ແດ່ເພື່ອຫຼີກລ່ຽງການຖືກ "ຫັນມາຕໍ່ຕ້ານ" ໂດຍຕົວແທນ AI?

DNVN - AI ກຳລັງພັດທະນາຈາກຮູບແບບພາສາງ່າຍໆ (LLMs) ທີ່ຮູ້ພຽງແຕ່ວິທີ "ສົນທະນາ" ໄປສູ່ຕົວແທນ AI - "ຜູ້ຊ່ວຍດິຈິຕອນ" - ທີ່ສາມາດປະຕິບັດໜ້າວຽກທີ່ສັບສົນໂດຍອັດຕະໂນມັດ, ໂດຍສັນຍາວ່າຈະກາຍເປັນກຳລັງແຮງງານດິຈິຕອນທີ່ມີປະສິດທິພາບໃນອະນາຄົດ. ຢ່າງໃດກໍຕາມ, ການໃຫ້ສິດອຳນາດແກ່ AI ໃນການກະທຳ ກຳລັງເປີດຄວາມສ່ຽງດ້ານການໂຈມຕີໃໝ່ຫຼາຍຢ່າງ, ເຊິ່ງເປັນໄພຂົ່ມຂູ່ຕໍ່ຄວາມປອດໄພຂອງຂໍ້ມູນຂອງທຸລະກິດຕ່າງໆ.

ໃນເວທີປາໄສ Security Summit 2026 ທີ່ຈັດຂຶ້ນໃນວັນທີ 22 ພຶດສະພາ, ທ່ານ Mai Xuan Cuong - ຜູ້ອຳນວຍການສູນບໍລິການຄວາມປອດໄພຂໍ້ມູນຂ່າວສານ, Viettel Cyber ​​​​Security, ໄດ້ກ່າວວ່າ ຄວາມແຕກຕ່າງທີ່ອັນຕະລາຍທີ່ສຸດລະຫວ່າງຕົວແທນ AI ແລະ LLM ແບບດັ້ງເດີມ ແມ່ນຢູ່ໃນຄວາມສາມາດໃນການພົວພັນໂດຍກົງກັບລະບົບ.

ໃນຂະນະທີ່ LLM ແບບດັ້ງເດີມພຽງແຕ່ຮັບຄຳສັ່ງ ແລະ ສົ່ງຄືນຂໍ້ຄວາມ, ຕົວແທນ AI ມີຄວາມສາມາດໃນການປະຕິບັດຄຳສັ່ງ shell (ພົວພັນກັບລະບົບປະຕິບັດການຜ່ານບັນທັດຄຳສັ່ງ), ຈັດການລະບົບໄຟລ໌ສຳລັບການອ່ານ ແລະ ຂຽນ, ສົ່ງອີເມວໂດຍອັດຕະໂນມັດ, ໂທຫາ API ແລະ ຄວບຄຸມໂປຣແກຣມທ່ອງເວັບ. ການອັບເກຣດນີ້ເປີດຄວາມເປັນໄປໄດ້ໃນການໂຈມຕີທີ່ກວ້າງຂວາງຂຶ້ນໂດຍບໍ່ໄດ້ຕັ້ງໃຈ, ເຊິ່ງເກີນຂອບເຂດຂອງການໂຄສະນາເຜີຍແຜ່ຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງທົ່ວໄປ.

ທ່ານ ມາຍຊວນເກື່ອງ - ຜູ້ອຳນວຍການສູນບໍລິການຄວາມປອດໄພຂໍ້ມູນຂ່າວສານ, ບໍລິສັດ Viettel Cyber ​​​​Security.

ຕົວແທນ AI ກຳລັງກາຍເປັນເປົ້າໝາຍໃໝ່ສຳລັບອາດຊະຍາກອນທາງໄຊເບີ.

ອີງຕາມຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພທາງໄຊເບີ, ມັນແມ່ນຄວາມສາມາດໃນການ "ກະທຳ" ນີ້ທີ່ເຮັດໃຫ້ຕົວແທນ AI ກາຍເປັນເປົ້າໝາຍໃໝ່ສຳລັບອາດຊະຍາກອນທາງໄຊເບີ.

ໜຶ່ງໃນຄວາມສ່ຽງທີ່ໃຫຍ່ທີ່ສຸດແມ່ນການຮົ່ວໄຫຼຂອງຂໍ້ມູນວິສາຫະກິດ. ເພື່ອດຳເນີນງານຢ່າງມີປະສິດທິພາບ, ຕົວແທນ AI ມັກຈະຕ້ອງປະມວນຜົນຂໍ້ມູນພາຍໃນຈຳນວນຫຼວງຫຼາຍເຊັ່ນ: ລະຫັດແຫຼ່ງຂໍ້ມູນ, ເອກະສານ ແລະ ອີເມວ. ຖ້າຂໍ້ມູນນີ້ຖືກສົ່ງໄປຫາແພລດຟອມ AI ໃນຄລາວຂອງພາກສ່ວນທີສາມ, ຄວາມສ່ຽງຂອງຂໍ້ມູນລັບທີ່ຈະຖືກເປີດເຜີຍຈະເພີ່ມຂຶ້ນ.

ມີການບັນທຶກກໍລະນີທີ່ພະນັກງານ Samsung ຮົ່ວໄຫຼລະຫັດແຫຼ່ງຂໍ້ມູນໃໝ່ຜ່ານ ChatGPT, ຫຼືພະນັກງານ Meta ຮົ່ວໄຫຼຂໍ້ມູນໂດຍບໍ່ໄດ້ຕັ້ງໃຈໂດຍການປະຕິບັດຕາມຄຳແນະນຳຈາກ AI ພາຍໃນ.

ນອກເໜືອໄປຈາກຄວາມສ່ຽງຂອງການຮົ່ວໄຫຼຂອງຂໍ້ມູນ, ຜູ້ຊ່ຽວຊານຍັງເຕືອນກ່ຽວກັບ "ການສີດຂໍ້ມູນທາງອ້ອມ." ແຮກເກີສາມາດຝັງຄຳແນະນຳທີ່ເປັນອັນຕະລາຍເຂົ້າໃນອີເມວ, ເວັບໄຊທ໌ ຫຼື ເອກະສານເພື່ອຫຼອກລວງຕົວແທນ AI ໃຫ້ປະຕິບັດການກະທຳທີ່ບໍ່ຕັ້ງໃຈ, ເຊັ່ນ: ການເຂົ້າເຖິງຂໍ້ມູນພາຍໃນ ຫຼື ການສົ່ງຂໍ້ມູນໄປຫາແຮກເກີ.

ມີກໍລະນີທີ່ຜູ້ໂຈມຕີໄດ້ເຊື່ອງລະຫັດ Morse ໃນຂໍ້ຄວາມເພື່ອຂ້າມລະບົບ, ເຊິ່ງເຮັດໃຫ້ຕົວແທນສະກຸນເງິນດິຈິຕອນ Grok-Bankrbot ສາມາດໂອນເງິນໂດຍບໍ່ໄດ້ຮັບອະນຸຍາດ, ເຊິ່ງສົ່ງຜົນໃຫ້ສູນເສຍເງິນ 150,000 ໂດລາ.

ຄວາມສ່ຽງອີກອັນໜຶ່ງແມ່ນມາຈາກລະບົບນິເວດຂອງສ່ວນຂະຫຍາຍສຳລັບຕົວແທນ AI. ພະນັກງານຫຼາຍຄົນພາຍໃນທຸລະກິດຕິດຕັ້ງສ່ວນຂະຫຍາຍຈາກຊຸມຊົນເພື່ອຂະຫຍາຍໜ້າທີ່ຂອງ AI, ແຕ່ແຮກເກີສາມາດໃຊ້ປະໂຫຍດຈາກຊ່ອງທາງນີ້ເພື່ອເຜີຍແຜ່ມັນແວ. ເມື່ອໄດ້ຮັບການເຂົ້າເຖິງລະບົບແລ້ວ, ປລັກອິນປອມເຫຼົ່ານີ້ສາມາດລັກຂໍ້ມູນ, ໂທເຄັນ ຫຼື ສ້າງປະຕູຫຼັງໃນອຸປະກອນໄດ້.

ອີງຕາມທ່ານ Cuong, ແນວໂນ້ມ "Shadow AI" ຍັງເກີດຂຶ້ນຍ້ອນວ່າພະນັກງານຕິດຕັ້ງຕົວແທນ AI ໃນຄອມພິວເຕີເຮັດວຽກຂອງເຂົາເຈົ້າເອງໂດຍບໍ່ຕ້ອງຜ່ານພະແນກໄອທີ. ສິ່ງນີ້ເຮັດໃຫ້ທຸລະກິດຕ່າງໆຍາກທີ່ຈະຄວບຄຸມການເຂົ້າເຖິງ ແລະ ເພີ່ມຄວາມສ່ຽງຂອງການລະເມີດຄວາມປອດໄພຂອງລະບົບ.

ນອກຈາກນັ້ນ, AI ສາມາດຕີຄວາມໝາຍຄວາມຕັ້ງໃຈຂອງຜູ້ໃຊ້ຜິດ, ເຊິ່ງນຳໄປສູ່ການປະຕິບັດຄຳສັ່ງທີ່ອາດຈະສ້າງຄວາມເສຍຫາຍຢ່າງຫຼວງຫຼາຍຕໍ່ທຸລະກິດ. ຕົວຢ່າງ, ຕົວແທນ AI ອາດຈະປະຕິບັດການດຳເນີນງານທີ່ຜິດພາດ ຫຼື ລຶບຂໍ້ມູນສຳຄັນໂດຍບັງເອີນຖ້າໄດ້ຮັບອະນຸຍາດຫຼາຍເກີນໄປ.

ເພື່ອຫຼຸດຜ່ອນຄວາມສ່ຽງ, ອົງກອນຕ່າງໆຄວນສ້າງຮູບແບບຄວາມປອດໄພຫຼາຍຊັ້ນແທນທີ່ຈະອີງໃສ່ຊອບແວປ້ອງກັນໄວຣັສແບບດັ້ງເດີມຢ່າງດຽວ ແລະ ພັດທະນາແຜນທີ່ການຈັດຕັ້ງປະຕິບັດທີ່ເໝາະສົມ.

ທຸລະກິດຕ່າງໆຈຳເປັນຕ້ອງສ້າງຮູບແບບຄວາມປອດໄພຫຼາຍຊັ້ນ.

ຂັ້ນຕອນທຳອິດທີ່ທຸລະກິດຕ້ອງເຮັດຄືການກວດຫາໄພຂົ່ມຂູ່. ທຸລະກິດສາມາດໃຊ້ຈຸດສິ້ນສຸດ ແລະ ການຈະລາຈອນເວັບພຣັອກຊີ (ເຊີບເວີລະດັບກາງທີ່ເຊື່ອມຕໍ່ອຸປະກອນຕ່າງໆກັບອິນເຕີເນັດ) ເພື່ອລວບລວມ ແລະ ລະບຸໄພຂົ່ມຂູ່ຕ່າງໆ.

ຕໍ່ໄປ, ພວກເຮົາຈຳເປັນຕ້ອງຕັ້ງຄ່າປະຕູ AI, ເຮັດໃຫ້ມັນເປັນຈຸດຄວບຄຸມດຽວສຳລັບການເຂົ້າເຖິງ AI ທັງໝົດ. ປະຕູນີ້ຈະຄວບຄຸມການສົ່ງຂໍ້ມູນໄປຫາຄລາວສາທາລະນະ.

ຕໍ່ມາ, ທຸລະກິດຕ່າງໆຈຳເປັນຕ້ອງຈັດຕັ້ງປະຕິບັດຊັ້ນການຄວບຄຸມພິເສດເພີ່ມເຕີມ (Guardrail) ໃນປະຕູ AI ຂອງເຂົາເຈົ້າ ແລະ ແອັບພລິເຄຊັນ AI ອື່ນໆເພື່ອລະບຸຄຳສັ່ງທີ່ເປັນອັນຕະລາຍ, ປ້ອງກັນການຮົ່ວໄຫຼຂອງຂໍ້ມູນ, ແລະ ກວດຫາການເຂົ້າເຖິງ ຫຼື ການຂູດຮີດລະບົບໂດຍບໍ່ໄດ້ຮັບອະນຸຍາດ.

ຂັ້ນຕອນຕໍ່ໄປແມ່ນການສ້າງກຳລັງເສີມສຳລັບຕົວແທນ AI. ລະບົບຕິດຕາມກວດກາຢູ່ຈຸດສິ້ນສຸດຕ້ອງໄດ້ຮັບການຕັ້ງຄ່າໃຫ້ຕິດຕາມ "ພຶດຕິກຳທີ່ເປັນເອກະລາດ" ທີ່ຜິດປົກກະຕິ. ຕົວແທນ AI ຄວນໄດ້ຮັບການປະຕິບັດງານໃນສະພາບແວດລ້ອມທີ່ໂດດດ່ຽວທີ່ມີການເຂົ້າເຖິງໜ້ອຍທີ່ສຸດເພື່ອຈຳກັດຄວາມສ່ຽງໃນການແຜ່ລະບາດຖ້າມີເຫດການເກີດຂຶ້ນ. ສຸດທ້າຍ, ການຕິດຕາມກວດກາລະບົບເປັນປະຈຳແມ່ນສິ່ງຈຳເປັນ.

ທ່ານ Cuong ກ່າວວ່າ "ການຄຸ້ມຄອງຄວາມປອດໄພຂອງ AI ບໍ່ແມ່ນການນຳໃຊ້ຄັ້ງດຽວ, ແຕ່ເປັນຂະບວນການຕິດຕາມກວດກາຢ່າງຕໍ່ເນື່ອງ".

ການຄຸ້ມຄອງຄວາມປອດໄພຂອງ AI ຈະກາຍເປັນຂໍ້ກຳນົດທີ່ຈຳເປັນໃນໄລຍະເວລາຂອງການພັດທະນາຕົວແທນ AI ຢ່າງໄວວາ. ຖ້າທຸລະກິດບໍ່ໄດ້ກຽມພ້ອມທີ່ຈະສ້າງຮູບແບບຄວາມປອດໄພ Zero Trust ແລະ ການຕິດຕາມກວດກາຢ່າງເຂັ້ມງວດ, ການສ້າງຄວາມເຂັ້ມແຂງໃຫ້ຕົວແທນ AI ປະຕິບັດກໍຄືກັບການມອບກະແຈລະບົບໃຫ້ກັບພະນັກງານຜູ້ທີ່ມີທັກສະສູງ, ແຕ່ມີຄວາມອ່ອນໄຫວຕໍ່ການຫຼອກລວງ.

ສະຫງົບ

ແຫຼ່ງຂໍ້ມູນ: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445