ອິສຣາແອລ: ເຕືອນວ່າຜູ້ຊ່ວຍ AI ສາມາດກາຍເປັນຕົວຮ້າຍທີ່ເປັນອັນຕະລາຍເພື່ອໂຈມຕີຜູ້ໃຊ້

ອິສຣາແອລໄດ້ເປີດເຜີຍການຄົ້ນພົບຊ່ອງໂຫວ່ Zero Click ໃນ ChatGPT ທີ່ສາມາດເຮັດໃຫ້ແຮກເກີສາມາດຄວບຄຸມຂໍ້ມູນ ແລະການສົນທະນາໄດ້ໂດຍທີ່ຜູ້ໃຊ້ບໍ່ຮູ້, ເປັນໄພຂົ່ມຂູ່ຕໍ່ຄວາມປອດໄພຂອງເຄືອຂ່າຍ.

ບໍລິສັດດ້ານຄວາມປອດໄພທາງອິນເຕີເນັດຂອງອິສຣາແອລ Zenity ໄດ້ເປີດເຜີຍຊ່ອງໂຫວ່ “Zero Click” ທຳອິດໃນການບໍລິການ ChatGPT ຂອງ OpenAI. ປະເພດຂອງການໂຈມຕີນີ້ບໍ່ໄດ້ຮຽກຮ້ອງໃຫ້ຜູ້ໃຊ້ດໍາເນີນການໃດໆເຊັ່ນການຄລິກໃສ່ການເຊື່ອມຕໍ່, ເປີດໄຟລ໌, ຫຼືມີສ່ວນຮ່ວມໃນການໂຕ້ຕອບທີ່ຕັ້ງໃຈ, ແຕ່ຍັງສາມາດເຂົ້າເຖິງບັນຊີແລະຮົ່ວຂໍ້ມູນລະອຽດອ່ອນ.

ອີງຕາມນັກຂ່າວ VNA ໃນ Tel Aviv, ທ່ານ Mikhail Bergori, ຜູ້ຮ່ວມກໍ່ຕັ້ງແລະ CTO ຂອງ Zenity, ໄດ້ອະທິບາຍໂດຍກົງວ່າແຮກເກີພຽງແຕ່ຕ້ອງການທີ່ຢູ່ອີເມວຂອງຜູ້ໃຊ້ເພື່ອຄວບຄຸມການສົນທະນາຢ່າງສົມບູນ - ລວມທັງເນື້ອຫາໃນອະດີດແລະອະນາຄົດ, ປ່ຽນຈຸດປະສົງຂອງການສົນທະນາ, ແລະແມ້ກະທັ້ງການຄວບຄຸມ ChatGPT ເພື່ອປະຕິບັດຕາມຄວາມປາດຖະຫນາຂອງແຮກເກີ.

ໃນການນໍາສະເຫນີຂອງພວກເຂົາ, ນັກຄົ້ນຄວ້າໄດ້ສະແດງໃຫ້ເຫັນວ່າ ChatGPT ທີ່ຖືກປະນີປະນອມສາມາດກາຍເປັນ "ນັກສະແດງທີ່ເປັນອັນຕະລາຍ" ທີ່ສາມາດປະຕິບັດຢ່າງລັບໆຕໍ່ຜູ້ໃຊ້. ແຮກເກີສາມາດເຮັດໃຫ້ chatbot ແນະນໍາຜູ້ໃຊ້ດາວໂຫລດຊອບແວທີ່ຕິດເຊື້ອໄວຣັດ, ໃຫ້ຄໍາແນະນໍາທາງທຸລະກິດທີ່ເຂົ້າໃຈຜິດ, ຫຼືເຂົ້າເຖິງໄຟລ໌ທີ່ເກັບໄວ້ໃນ Google Drive ຖ້າບັນຊີຂອງຜູ້ໃຊ້ເຊື່ອມຕໍ່.

ຂະບວນການທັງຫມົດເກີດຂຶ້ນໂດຍຜູ້ໃຊ້ບໍ່ຮູ້. ຊ່ອງໂຫວ່ໄດ້ຖືກແກ້ໄຂຢ່າງຄົບຖ້ວນຫຼັງຈາກ Zenity ແຈ້ງໃຫ້ OpenAI.

ນອກເຫນືອຈາກ ChatGPT, Zenity ຍັງໄດ້ສະແດງໃຫ້ເຫັນການໂຈມຕີທີ່ຄ້າຍຄືກັນກັບເວທີຜູ້ຊ່ວຍ AI ທີ່ນິຍົມອື່ນໆ. ໃນ Copilot Studio ຂອງ Microsoft, ນັກຄົ້ນຄວ້າໄດ້ຄົ້ນພົບວິທີການຮົ່ວໄຫລຂອງຖານຂໍ້ມູນ CRM ທັງຫມົດ.

ສໍາລັບ Salesforce Einstein, ແຮກເກີສາມາດສ້າງຄໍາຮ້ອງຂໍການບໍລິການປອມເພື່ອປ່ຽນເສັ້ນທາງການສື່ສານຂອງລູກຄ້າທັງຫມົດໄປຫາທີ່ຢູ່ອີເມວພາຍໃຕ້ການຄວບຄຸມຂອງພວກເຂົາ.

Google Gemini ແລະ Microsoft 365 Copilot ຍັງຖືກປ່ຽນເປັນ "ນັກສະແດງທີ່ເປັນສັດຕູ", ປະຕິບັດການໂຈມຕີ phishing ແລະຮົ່ວຂໍ້ມູນລະອຽດອ່ອນຜ່ານອີເມວແລະເຫດການປະຕິທິນ.

ໃນຕົວຢ່າງອື່ນ, ເຄື່ອງມືພັດທະນາຊອບແວ Cursor, ເມື່ອປະສົມປະສານກັບ Jira MCP, ຍັງຖືກຂູດຮີດເພື່ອລັກຂໍ້ມູນຂອງນັກພັດທະນາຜ່ານ "ປີ້."

Zenity ກ່າວວ່າບາງບໍລິສັດ, ລວມທັງ OpenAI ແລະ Microsoft, ໄດ້ປ່ອຍຕົວແກ້ໄຂຢ່າງໄວວາຫຼັງຈາກໄດ້ຮັບການເຕືອນ. ຢ່າງໃດກໍຕາມ, ຄົນອື່ນໄດ້ປະຕິເສດທີ່ຈະແກ້ໄຂບັນຫາ, ການໂຕ້ຖຽງວ່າພຶດຕິກໍາດັ່ງກ່າວແມ່ນ "ລັກສະນະການອອກແບບ" ແທນທີ່ຈະເປັນຄວາມສ່ຽງດ້ານຄວາມປອດໄພ.

ສິ່ງທ້າທາຍອັນໃຫຍ່ຫຼວງໃນປັດຈຸບັນ, ອີງຕາມການ Mikhail Bergori, ແມ່ນວ່າຜູ້ຊ່ວຍ AI ບໍ່ພຽງແຕ່ປະຕິບັດວຽກງານທີ່ງ່າຍດາຍ, ແຕ່ຍັງກາຍເປັນ "ຫນ່ວຍງານດິຈິຕອນ" ທີ່ເປັນຕົວແທນຂອງຜູ້ໃຊ້ - ສາມາດເປີດໂຟນເດີ, ສົ່ງໄຟລ໌ແລະເຂົ້າເຖິງອີເມວ. ລາວໄດ້ເຕືອນວ່ານີ້ແມ່ນຄ້າຍຄື "ສະຫວັນ" ສໍາລັບແຮກເກີ, ເຊິ່ງມີຫຼາຍຈຸດຂອງການຂູດຮີດ.

Ben Kaliger, ຜູ້ຮ່ວມກໍ່ຕັ້ງແລະ CEO ຂອງ Zenity, ເນັ້ນຫນັກວ່າການຄົ້ນຄວ້າຂອງບໍລິສັດສະແດງໃຫ້ເຫັນວ່າວິທີການຮັກສາຄວາມປອດໄພໃນປະຈຸບັນແມ່ນບໍ່ເຫມາະສົມສໍາລັບວິທີການຂອງຜູ້ຊ່ວຍ AI ອີກຕໍ່ໄປ. ລາວໄດ້ຮຽກຮ້ອງໃຫ້ອົງການຈັດຕັ້ງປ່ຽນແປງວິທີການຂອງພວກເຂົາແລະລົງທຶນໃນການແກ້ໄຂພິເສດເພື່ອໃຫ້ສາມາດຄວບຄຸມແລະຕິດຕາມກິດຈະກໍາຂອງ "ຕົວແທນ".

Zenity ໄດ້ຖືກສ້າງຕັ້ງຂຶ້ນໃນປີ 2021. ໃນປັດຈຸບັນມັນມີພະນັກງານປະມານ 110 ຄົນໃນທົ່ວໂລກ, 70 ຄົນເຮັດວຽກຢູ່ໃນຫ້ອງການ Tel Aviv ຂອງຕົນ. ລູກຄ້າຂອງ Zenity ປະກອບມີຫຼາຍບໍລິສັດ Fortune 100 ແລະແມ້ກະທັ້ງບໍລິສັດ Fortune 5./.

(ຫວຽດນາມ+)

ທີ່ມາ: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp