ຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພ 'ຫຼອກລວງ' ChatGPT ໃຫ້ຂຽນມັນແວ.

[ໂຄສະນາ_1]

ປັນຍາປະດິດ (AI) ເຊັ່ນ ChatGPT ໄດ້ຮັບຄວາມນິຍົມທົ່ວໂລກນັບຕັ້ງແຕ່ຕົ້ນປີ 2023, ແຕ່ມັນບໍ່ໄດ້ຖືກນໍາໃຊ້ເພື່ອຈຸດປະສົງໃນທາງບວກສະເໝີໄປ. ເມື່ອບໍ່ດົນມານີ້, ຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພໄດ້ຄົ້ນພົບວິທີການສັ່ງໃຫ້ ChatGPT ສ້າງລະຫັດທີ່ເປັນອັນຕະລາຍໃນລະຫວ່າງການທົດສອບ.

ທ່ານ Aaron Mulgrew, ຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພທີ່ Forcepoint, ໄດ້ແບ່ງປັນຄວາມສ່ຽງຂອງການຂຽນລະຫັດທີ່ເປັນອັນຕະລາຍໂດຍໃຊ້ chatbot ສອງພາສາຂອງ OpenAI. ເຖິງແມ່ນວ່າ ChatGPT ຖືກອອກແບບມາເພື່ອປ້ອງກັນບໍ່ໃຫ້ຜູ້ໃຊ້ຮ້ອງຂໍໃຫ້ AI ອອກແບບມັນແວ, ແຕ່ທ່ານ Aaron ໄດ້ພົບຊ່ອງໂຫວ່ໂດຍການສ້າງຄຳສັ່ງ (ການກະຕຸ້ນເຕືອນ) ສຳລັບປັນຍາປະດິດເພື່ອຂຽນລະຫັດເປັນແຖວ. ເມື່ອລວມເຂົ້າກັນ, ທ່ານ Aaron ໄດ້ຮັບຮູ້ວ່າລາວມີເຄື່ອງມືປະຕິບັດທີ່ບໍ່ສາມາດກວດພົບໄດ້ ເຊິ່ງມີຄວາມຊັບຊ້ອນຫຼາຍຈົນສາມາດແຂ່ງຂັນກັບມັນແວທີ່ກ້າວໜ້າທີ່ສຸດໃນປະຈຸບັນ.

Từng dòng lệnh riêng lẻ do ChatGPT tạo ra khi kết hợp lại có thể trở thành mã độc tinh vi — ລະຫັດແຕ່ລະແຖວທີ່ສ້າງຂຶ້ນໂດຍ ChatGPT, ເມື່ອລວມເຂົ້າກັນ, ສາມາດກາຍເປັນມັນແວທີ່ຊັບຊ້ອນໄດ້.

ການຄົ້ນພົບຂອງ Mulgrew ເປັນສັນຍານເຕືອນກ່ຽວກັບທ່າແຮງໃນການໃຊ້ປະໂຫຍດຈາກ AI ເພື່ອສ້າງມັນແວອັນຕະລາຍໂດຍບໍ່ຕ້ອງມີກຸ່ມແຮັກໃດໆ, ແລະໂດຍບໍ່ມີຜູ້ສ້າງຂຽນລະຫັດເອງເຖິງແມ່ນວ່າຈະບໍ່ມີເລີຍ.

ມັນແວຂອງ Mulgrew ຖືກປອມຕົວເປັນແອັບພລິເຄຊັນເດັສທັອບ, ແຕ່ມັນສາມາດເປີດໃຊ້ງານໄດ້ໂດຍອັດຕະໂນມັດໃນອຸປະກອນ Windows. ເມື່ອຢູ່ໃນລະບົບປະຕິບັດການ, ມັນແວຈະ "ແຊກຊຶມ" ໄຟລ໌ທັງໝົດ, ລວມທັງເອກະສານ Word, ໄຟລ໌ຮູບພາບ, ແລະ PDF, ເພື່ອຄົ້ນຫາຂໍ້ມູນເພື່ອລັກ.

ເມື່ອມັນໄດ້ຮັບຂໍ້ມູນທີ່ມັນຕ້ອງການແລ້ວ, ໂປຣແກຣມຈະແຍກມັນອອກ ແລະ ຝັງມັນໄວ້ໃນໄຟລ໌ຮູບພາບໃນຄອມພິວເຕີ. ເພື່ອຫຼີກເວັ້ນການກວດພົບ, ຮູບພາບເຫຼົ່ານີ້ຈະຖືກອັບໂຫລດໄປຍັງໂຟນເດີໃນບ່ອນເກັບຂໍ້ມູນຄລາວຂອງ Google Drive. ມັນແວຈະກາຍເປັນມີພະລັງຫຼາຍເພາະວ່າ Mulgrew ສາມາດປັບແຕ່ງ ແລະ ປັບປຸງຄຸນສົມບັດຂອງມັນເພື່ອຫຼີກລ່ຽງການກວດພົບຜ່ານຄຳສັ່ງງ່າຍໆທີ່ໃສ່ໃນ ChatGPT.

ເຖິງແມ່ນວ່ານີ້ແມ່ນຜົນມາຈາກການທົດສອບສ່ວນຕົວໂດຍຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພ ແລະ ບໍ່ມີການໂຈມຕີໃດໆຢູ່ນອກພື້ນທີ່ທົດສອບ, ຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພທາງໄຊເບີຍັງຮັບຮູ້ເຖິງອັນຕະລາຍຂອງກິດຈະກຳຕ່າງໆໂດຍໃຊ້ ChatGPT. Mulgrew ກ່າວວ່າຕົວລາວເອງບໍ່ມີປະສົບການຫຼາຍໃນການຂຽນໂປຣແກຣມ, ແຕ່ປັນຍາປະດິດຂອງ OpenAI ຍັງບໍ່ມີປະສິດທິພາບ ຫຼື ສະຫຼາດພຽງພໍທີ່ຈະຢຸດການທົດສອບຂອງລາວ.

[ໂຄສະນາ_2]
ລິ້ງແຫຼ່ງຂໍ້ມູນ