ແຮກເກີໃຊ້ປະໂຫຍດຈາກ "ບຸກຄະລິກກະພາບ" ຂອງ AI chatbots.

VTV.vn - ແຮກເກີກຳລັງໃຊ້ປະໂຫຍດຈາກ "ບຸກຄະລິກກະພາບ" ຂອງ AI chatbot ເພື່ອຫຼີກລ່ຽງອຸປະສັກດ້ານຄວາມປອດໄພຜ່ານການສົນທະນາທີ່ມີການຫຼອກລວງ.

(ຮູບພາບ: Freepik)

ແຮກເກີກຳລັງໃຊ້ປະໂຫຍດຈາກ "ບຸກຄະລິກກະພາບ" ຂອງ AI chatbot ໃນວິທີທີ່ຊັບຊ້ອນຂຶ້ນເລື້ອຍໆ, ໂດຍການໂຈມຕີບໍ່ໄດ້ອີງໃສ່ມັນແວ ຫຼື ຊ່ອງໂຫວ່ທາງເທັກນິກເທົ່ານັ້ນ, ແຕ່ປ່ຽນໄປໃຊ້ພາສາທີ່ຫຼອກລວງ.

ໃນໄລຍະຕົ້ນໆ, ການ "ແຮັກ" chatbot AI ແມ່ນຂ້ອນຂ້າງງ່າຍດາຍ. ຜູ້ໃຊ້ພຽງແຕ່ຕ້ອງການສັ່ງໃຫ້ລະບົບບໍ່ສົນໃຈຄຳແນະນຳກ່ອນໜ້ານີ້, ທຳທ່າວ່າບໍ່ໄດ້ຖືກຜູກມັດໂດຍກົດລະບຽບ, ຫຼື ສະແດງບົດບາດເປັນປັນຍາປະດິດທີ່ບໍ່ມີຂໍ້ຈຳກັດ. ວິທີການເຫຼົ່ານີ້ເອີ້ນວ່າ "jailbreaking," ຊຶ່ງໝາຍເຖິງການຫຼອກລວງຮູບແບບ AI ໃຫ້ຂ້າມຄຳແນະນຳທີ່ປອດໄພ.

ໜຶ່ງໃນປະເພດການໂຈມຕີທີ່ໂດດເດັ່ນໃນອະດີດແມ່ນ “DAN,” ຫຍໍ້ມາຈາກ “Do Anything Now,” ເຊິ່ງຜູ້ໃຊ້ໄດ້ຂໍໃຫ້ ChatGPT ສະແດງບົດບາດເປັນ AI ທີ່ສາມາດເຮັດຫຍັງກໍ່ໄດ້. ຕົວຢ່າງອີກອັນໜຶ່ງແມ່ນ “ການຂູດຮີດຂອງແມ່ຕູ້,” ບ່ອນທີ່ chatbot ຖືກຫຼອກໃຫ້ສະແດງບົດບາດເປັນແມ່ຕູ້ເລົ່າເລື່ອງໃຫ້ເດັກນ້ອຍຟັງ, ແຕ່ເນື້ອຫາຈະຖືກນຳໄປສູ່ຂໍ້ມູນທີ່ເປັນອັນຕະລາຍ.

ບໍລິສັດເທັກໂນໂລຢີໄດ້ແກ້ໄຂຊ່ອງໂຫວ່ແບບເກົ່າແກ່ຫຼາຍຢ່າງຢ່າງວ່ອງໄວ, ແຕ່ຈຸດອ່ອນທີ່ຕິດພັນຍັງຄົງຢູ່. Chatbots ຖືກອອກແບບມາສຳລັບການສົນທະນາ, ສະນັ້ນການຈຳກັດການສົນທະນາຫຼາຍເກີນໄປສາມາດເຮັດໃຫ້ປະໂຫຍດຂອງລະບົບຫຼຸດລົງ. ໃນຂະນະດຽວກັນ, ການຫ້າມຄຳສັບທີ່ລະອຽດອ່ອນພຽງແຕ່ບໍ່ພຽງພໍ, ຍ້ອນວ່າຄຳສັບຫຼາຍຄຳສາມາດປາກົດຢູ່ໃນສະພາບການທີ່ຖືກຕ້ອງຕາມກົດໝາຍເຊັ່ນ: ປະຫວັດສາດ, ການແພດ, ວາລະສານ, ຫຼື ເຄມີສາດ.

ອີງຕາມບົດຄວາມ, ການແຂ່ງຂັນດ້ານຄວາມປອດໄພຂອງ AI ບໍ່ແມ່ນພຽງແຕ່ບັນຫາຂອງໂປຣແກຣມເມີອີກຕໍ່ໄປ. ຜູ້ທີ່ຊອກຫາທາງຫຼີກລ່ຽງຄວາມປອດໄພຂອງ chatbot ກຳລັງຄ້າຍຄືກັບນັກຂຽນ, ນັກຈິດຕະວິທະຍາ, ຫຼື ຜູ້ສອບສວນຫຼາຍຂຶ້ນ, ໂດຍໃຊ້ຄຳຍ້ອງຍໍ, ຄວາມກົດດັນ, ການຫຼອກລວງ, ຫຼື ການຫມູນໃຊ້ເພື່ອເຮັດໃຫ້ຕົວແບບຫຼຸດລະດັບຄວາມປອດໄພລົງ.

ອີງຕາມບໍລິສັດທົດສອບຄວາມປອດໄພຂອງ AI Mindgard, ການໂຈມຕີບາງຢ່າງໃນປັດຈຸບັນຄ້າຍຄືກັບຈິດຕະວິທະຍາຫຼາຍກວ່າ ວິທະຍາສາດ ຄອມພິວເຕີ. ຮູບແບບ AI ບໍ່ມີອາລົມຄືກັບມະນຸດ, ແຕ່ພວກມັນໄດ້ຮັບການຝຶກອົບຮົມໃຫ້ຕອບສະໜອງຄືກັບວ່າພວກມັນມີ. ການຈຳລອງນີ້ສາມາດສ້າງປະຕິກິລິຍາປະເພດຕ່າງໆ, ເຮັດໃຫ້ແຕ່ລະ chatbot ເບິ່ງຄືວ່າມີ "ບຸກຄະລິກກະພາບ" ຂອງຕົນເອງ.

ສິ່ງນີ້ສະແດງໃຫ້ເຫັນເຖິງສິ່ງທ້າທາຍໃໝ່ ຍ້ອນວ່າຕົວແທນ AI ຖືກນໍາໃຊ້ເພີ່ມຂຶ້ນສໍາລັບການກໍານົດເວລາ, ການຄຸ້ມຄອງວຽກງານ, ການສັ່ງອາຫານ ຫຼື ການບໍລິການລູກຄ້າ. ຖ້າຮູບແບບສາມາດຖືກປັບແຕ່ງຜ່ານການສົນທະນາ, ກອງກໍາລັງຮັກສາຄວາມປອດໄພຈະຕ້ອງກວດສອບທັງຂໍ້ຈໍາກັດທາງສັງຄົມ ແລະ ອາລົມຂອງເຂົາເຈົ້າ, ນອກເໜືອໄປຈາກຄວາມສ່ຽງທາງດ້ານເຕັກນິກແບບດັ້ງເດີມ.

ແຫຼ່ງຂໍ້ມູນ: https://vtv.vn/tin-tac-khai-thac-tinh-cach-cua-chatbot-ai-10026052519025336.htm