ຊ່ອງໂຫວ່ທີ່ຮ້າຍແຮງຢູ່ໃນ ChatGPT ແລະຊຸດຂອງຜູ້ຊ່ວຍ AI: ຜູ້ໃຊ້ຖືກຫລອກລວງ, ຂໍ້ມູນຖືກຮົ່ວໄຫລ ...

ຈາກຊ່ອງໂຫວ່ນີ້, ແຮກເກີສາມາດເຮັດໃຫ້ ChatGPT ແນະນໍາຜູ້ໃຊ້ດາວໂຫລດຊອບແວທີ່ມີເຊື້ອໄວຣັສ, ໃຫ້ຄໍາແນະນໍາທຸລະກິດທີ່ບໍ່ຖືກຕ້ອງ, ເຖິງແມ່ນວ່າການເຂົ້າເຖິງໄຟລ໌ໃນ Google Drive ...

ຊ່ອງໂຫວ່ 'Zero Click' ແມ່ນແຕ່ເຮັດໃຫ້ແຮກເກີສາມາດຄວບຄຸມ ChatGPT ໃຫ້ເຮັດຕາມທີ່ເຂົາເຈົ້າຕ້ອງການ - ພາບປະກອບ: AFP

ບໍລິສັດຄວາມປອດໄພທາງອິນເຕີເນັດຂອງອິສຣາແອລ Zenity ໄດ້ເປີດເຜີຍຊ່ອງໂຫວ່ “Zero Click” ທຳອິດທີ່ຄົ້ນພົບໃນການບໍລິການ ChatGPT ຂອງ OpenAI.

ປະເພດຂອງການໂຈມຕີນີ້ບໍ່ໄດ້ຮຽກຮ້ອງໃຫ້ຜູ້ໃຊ້ປະຕິບັດການໃດໆເຊັ່ນການຄລິກໃສ່ການເຊື່ອມຕໍ່, ເປີດໄຟລ໌, ຫຼືມີສ່ວນຮ່ວມໃນການໂຕ້ຕອບໂດຍເຈດຕະນາ, ແຕ່ຍັງສາມາດເຂົ້າເຖິງບັນຊີແລະຮົ່ວຂໍ້ມູນລະອຽດອ່ອນ.

Mikhail Bergori, ຜູ້ຮ່ວມກໍ່ຕັ້ງ ແລະ CTO ຂອງ Zenity, ໄດ້ສະແດງໃຫ້ເຫັນໂດຍກົງວ່າແຮກເກີທີ່ມີພຽງແຕ່ທີ່ຢູ່ອີເມວຂອງຜູ້ໃຊ້ສາມາດຄວບຄຸມການສົນທະນາໄດ້ຢ່າງສົມບູນແບບ - ລວມທັງເນື້ອຫາໃນອະດີດແລະອະນາຄົດ, ປ່ຽນຈຸດປະສົງຂອງການສົນທະນາ, ແລະເຖິງແມ່ນວ່າຈະຈັດການ ChatGPT ເພື່ອປະຕິບັດຫນ້າທີ່ຂອງແຮກເກີ.

ໃນການນໍາສະເຫນີຂອງພວກເຂົາ, ນັກຄົ້ນຄວ້າໄດ້ສະແດງໃຫ້ເຫັນວ່າ ChatGPT ທີ່ຖືກປະນີປະນອມສາມາດກາຍເປັນ "ນັກສະແດງທີ່ເປັນອັນຕະລາຍ" ທີ່ປະຕິບັດຢ່າງລັບໆຕໍ່ຜູ້ໃຊ້. ແຮກເກີສາມາດເຮັດໃຫ້ ChatGPT ແນະນໍາຜູ້ໃຊ້ດາວໂຫລດຊອບແວທີ່ຕິດເຊື້ອໄວຣັດ, ໃຫ້ຄໍາແນະນໍາທາງທຸລະກິດທີ່ເຂົ້າໃຈຜິດ, ຫຼືເຂົ້າເຖິງໄຟລ໌ທີ່ເກັບໄວ້ໃນ Google Drive ຖ້າບັນຊີຂອງຜູ້ໃຊ້ຖືກເຊື່ອມຕໍ່. ທັງໝົດນີ້ເກີດຂຶ້ນໂດຍບໍ່ຮູ້ຕົວຂອງຜູ້ໃຊ້.

ຊ່ອງໂຫວ່ໄດ້ຖືກແກ້ໄຂຢ່າງຄົບຖ້ວນຫຼັງຈາກ Zenity ແຈ້ງໃຫ້ OpenAI.

ນອກເຫນືອຈາກ ChatGPT, Zenity ຍັງໄດ້ສະແດງໃຫ້ເຫັນການໂຈມຕີທີ່ຄ້າຍຄືກັນກັບເວທີຜູ້ຊ່ວຍ AI ທີ່ນິຍົມອື່ນໆ. ໃນ Copilot Studio ຂອງ Microsoft, ນັກຄົ້ນຄວ້າໄດ້ຄົ້ນພົບວິທີການຮົ່ວໄຫລຂອງຖານຂໍ້ມູນ CRM ທັງຫມົດ.

ສໍາລັບ Salesforce Einstein, ແຮກເກີສາມາດສ້າງຄໍາຮ້ອງຂໍການບໍລິການປອມເພື່ອປ່ຽນເສັ້ນທາງການສື່ສານຂອງລູກຄ້າທັງຫມົດໄປຫາທີ່ຢູ່ອີເມວພາຍໃຕ້ການຄວບຄຸມຂອງພວກເຂົາ.

Google Gemini ແລະ Microsoft 365 Copilot ຍັງໄດ້ປ່ຽນເປັນ "ນັກສະແດງທີ່ເປັນສັດຕູ", ປະຕິບັດການໂຈມຕີ phishing ແລະຮົ່ວຂໍ້ມູນລະອຽດອ່ອນຜ່ານອີເມວແລະເຫດການປະຕິທິນ.

ໃນຕົວຢ່າງອື່ນ, ເຄື່ອງມືພັດທະນາຊອບແວ Cursor ເມື່ອປະສົມປະສານກັບ Jira MCP ຍັງຖືກຂູດຮີດເພື່ອລັກຂໍ້ມູນປະຈໍາຕົວຂອງນັກພັດທະນາຜ່ານ "ຕົ໋ວ".

Zenity ກ່າວວ່າບາງບໍລິສັດ, ເຊັ່ນ OpenAI ແລະ Microsoft, ໄດ້ປ່ອຍຕົວແກ້ໄຂຢ່າງໄວວາຫຼັງຈາກໄດ້ຮັບການເຕືອນ. ຢ່າງໃດກໍຕາມ, ຄົນອື່ນປະຕິເສດທີ່ຈະແກ້ໄຂບັນຫາ, ການໂຕ້ຖຽງວ່າພຶດຕິກໍາດັ່ງກ່າວແມ່ນ "ລັກສະນະການອອກແບບ" ແທນທີ່ຈະເປັນຄວາມສ່ຽງດ້ານຄວາມປອດໄພ.

ສິ່ງທ້າທາຍອັນໃຫຍ່ຫຼວງໃນປັດຈຸບັນ, ອີງຕາມການ Mikhail Bergori, ແມ່ນວ່າຜູ້ຊ່ວຍ AI ບໍ່ພຽງແຕ່ປະຕິບັດວຽກງານທີ່ງ່າຍດາຍ, ແຕ່ຍັງກາຍເປັນ "ຫນ່ວຍງານດິຈິຕອນ" ທີ່ເປັນຕົວແທນຂອງຜູ້ໃຊ້ - ສາມາດເປີດໂຟນເດີ, ສົ່ງໄຟລ໌ແລະເຂົ້າເຖິງອີເມວ. ລາວໄດ້ເຕືອນວ່ານີ້ແມ່ນຄ້າຍຄື "ສະຫວັນ" ສໍາລັບແຮກເກີ, ເຊິ່ງມີຫຼາຍຈຸດຂອງການຂູດຮີດ.

Ben Kaliger, ຜູ້ຮ່ວມກໍ່ຕັ້ງແລະ CEO ຂອງ Zenity, ເນັ້ນຫນັກວ່າການຄົ້ນຄວ້າຂອງບໍລິສັດສະແດງໃຫ້ເຫັນວ່າວິທີການຮັກສາຄວາມປອດໄພໃນປະຈຸບັນແມ່ນບໍ່ເຫມາະສົມສໍາລັບວິທີການຂອງຜູ້ຊ່ວຍ AI ອີກຕໍ່ໄປ. ລາວໄດ້ຮຽກຮ້ອງໃຫ້ອົງການຈັດຕັ້ງປ່ຽນແປງວິທີການຂອງພວກເຂົາແລະລົງທຶນໃນການແກ້ໄຂພິເສດເພື່ອໃຫ້ສາມາດຄວບຄຸມແລະຕິດຕາມກິດຈະກໍາຂອງ "ຕົວແທນ".

Zenity ໄດ້ຖືກສ້າງຕັ້ງຂຶ້ນໃນປີ 2021. ໃນປັດຈຸບັນມັນມີພະນັກງານປະມານ 110 ຄົນໃນທົ່ວໂລກ, 70 ຄົນເຮັດວຽກຢູ່ໃນຫ້ອງການ Tel Aviv ຂອງຕົນ. ລູກຄ້າຂອງ Zenity ປະກອບມີຫຼາຍບໍລິສັດ Fortune 100 ແລະແມ້ກະທັ້ງບໍລິສັດ Fortune 5.

ກັບໄປທີ່ຫົວຂໍ້

VNA

ທີ່ມາ: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm