Dark AI ເຮັດວຽກຢູ່ນອກມາດຕະຖານຄວາມປອດໄພ, ມັກຈະອະນຸຍາດໃຫ້ມີພຶດຕິກໍາເຊັ່ນ: ການສໍ້ໂກງ, ການຫມູນໃຊ້, ການໂຈມຕີທາງອິນເຕີເນັດ, ຫຼືການຂຸດຄົ້ນຂໍ້ມູນໂດຍບໍ່ມີການຕິດຕາມຢ່າງໃກ້ຊິດ.
"ນັກສະແດງທີ່ບໍ່ດີຍັງໃຊ້ AI ເພື່ອເພີ່ມຄວາມສາມາດໃນການໂຈມຕີຂອງພວກເຂົາ. ຮູບແບບການລ່ວງລະເມີດ AI ທົ່ວໄປທີ່ສຸດໃນມື້ນີ້ແມ່ນການປະກົດຕົວຂອງແບບຈໍາລອງ Black Hat GPT. ເຫຼົ່ານີ້ແມ່ນຕົວແບບ AI ທີ່ຖືກພັດທະນາໂດຍສະເພາະຫຼືດັດແປງເພື່ອຮັບໃຊ້ຈຸດປະສົງທີ່ຜິດກົດຫມາຍເຊັ່ນ: ການສ້າງ malware, ຮ່າງອີເມວ phishing, ການສ້າງສຽງແລະວິດີໂອ ປອມ . Kaspersky.
Black Hat GPTs ສາມາດມີຢູ່ເປັນຕົວແບບ AI ສ່ວນຕົວ ຫຼືເຄິ່ງສ່ວນຕົວເຕັມຮູບແບບ. ບາງຕົວຢ່າງທີ່ໂດດເດັ່ນລວມມີ WormGPT, DarkBard, FraudGPT, ແລະ Xanthorox… ທັງໝົດຖືກອອກແບບເພື່ອຮັບໃຊ້ອາຊະຍາກຳທາງອິນເຕີເນັດ, ການສໍ້ໂກງ, ແລະລະບົບອັດຕະໂນມັດທີ່ເປັນອັນຕະລາຍ.
Lozhkin ເປີດເຜີຍວ່າ ຕອນນີ້ຜູ້ຊ່ຽວຊານ Kaspersky ກໍາລັງບັນທຶກທ່າອ່ຽງທີ່ໜ້າເປັນຫ່ວງຍິ່ງຂຶ້ນ, ໂດຍກຸ່ມການໂຈມຕີທາງອິນເຕີເນັດຂອງລັດ ຫຼື ລັດຖະບານ ທີ່ໜູນຫຼັງໄດ້ເລີ່ມໃຊ້ຕົວແບບພາສາຂະໜາດໃຫຍ່ (LLMs) ໃນການໂຄສະນາຫາສຽງຂອງພວກເຂົາ.
"OpenAI ປະກາດເມື່ອບໍ່ດົນມານີ້ວ່າມັນໄດ້ຂັດຂວາງການໂຄສະນາທີ່ມີອິດທິພົນທີ່ລັບໆແລະການໂຈມຕີທາງອິນເຕີເນັດຫຼາຍກວ່າ 20 ທີ່ໃຊ້ເຄື່ອງມື AI ຂອງມັນ. ພວກເຮົາຈະສືບຕໍ່ເຫັນຜູ້ໂຈມຕີທີ່ສະຫລາດທີ່ກໍາລັງປະກອບອາວຸດ AI, ເປັນໄພຂົ່ມຂູ່ຕໍ່ລະບົບນິເວດທັງພາກລັດແລະເອກະຊົນ. ນີ້ແມ່ນແນວໂນ້ມທີ່ຫນ້າເປັນຫ່ວງທີ່ອົງການຈັດຕັ້ງທັງຫມົດຕ້ອງກຽມພ້ອມ, "Lozhkin ເວົ້າ.
ອີງຕາມບົດລາຍງານຂອງ OpenAI, ນັກສະແດງທີ່ເປັນອັນຕະລາຍໄດ້ເລີ່ມຕົ້ນທີ່ຈະຂຸດຄົ້ນຄວາມສາມາດຂອງຕົວແບບການຮຽນຮູ້ເຄື່ອງຈັກຂະຫນາດໃຫຍ່ (LLMs) ເພື່ອຫລອກລວງຜູ້ເຄາະຮ້າຍແລະຂ້າມຊັ້ນຄວາມປອດໄພແບບດັ້ງເດີມ. ພວກເຂົາສາມາດສ້າງຂໍ້ຄວາມປອມທີ່ຫນ້າເຊື່ອຖື, ສົ່ງຂໍ້ຄວາມໄປຫາຜູ້ຖືກເຄາະຮ້າຍເປັນຈໍານວນຫລາຍ, ແລະຜະລິດເນື້ອຫາໃນຫລາຍພາສາ.
ເພື່ອສ້າງຄວາມເຂັ້ມແຂງປ້ອງກັນໄພຂົ່ມຂູ່ຕໍ່ Dark AI, ຜູ້ຊ່ຽວຊານ Kaspersky ແນະນໍາວ່າ: ການນໍາໃຊ້ວິທີແກ້ໄຂຄວາມປອດໄພຮຸ່ນຕໍ່ໄປເຊັ່ນ Kaspersky Next ເພື່ອກວດພົບ malware ທີ່ສ້າງໂດຍ AI ແລະຄວບຄຸມຄວາມສ່ຽງໃນລະບົບຕ່ອງໂສ້ການສະຫນອງ. ນຳໃຊ້ເຄື່ອງມືສືບລັບໄພຂົ່ມຂູ່ແບບສົດໆເພື່ອຕິດຕາມການຂູດຮີດທີ່ຂັບເຄື່ອນດ້ວຍ AI. ການເສີມສ້າງການຄວບຄຸມການເຂົ້າເຖິງແລະການຝຶກອົບຮົມພະນັກງານເພື່ອຈໍາກັດ Shadow AI ແລະຄວາມສ່ຽງຂອງການຮົ່ວໄຫລຂອງຂໍ້ມູນ. ສ້າງຕັ້ງສູນປະຕິບັດງານຄວາມປອດໄພ (SOC) ເພື່ອຕິດຕາມໄພຂົ່ມຂູ່ແລະຕອບສະຫນອງຕໍ່ເຫດການຢ່າງໄວວາ.
ທີ່ມາ: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html
(0)