ຕົວແທນ AI ໄປຂີ້ຕົວະ, ເຊັດຖານຂໍ້ມູນຂອງບໍລິສັດທັງຫມົດ

(Dan Tri) - ຫລາຍບໍລິສັດກໍາລັງໃຊ້ຕົວແທນ AI ເພື່ອສະຫນັບສະຫນູນວຽກງານອັດຕະໂນມັດ, ຢ່າງໃດກໍຕາມ, ນີ້ຍັງມີຄວາມສ່ຽງຫຼາຍທີ່ນໍາໄປສູ່ເຫດການທີ່ບໍ່ສາມາດຄາດເດົາໄດ້.

AI Agent, ເຄື່ອງມືປັນຍາປະດິດທີ່ອອກແບບມາເພື່ອອັດຕະໂນມັດວຽກງານ ແລະຂະບວນການໃນລະບົບຊອບແວ, ກໍາລັງຖືກນໍາມາໃຊ້ໂດຍທຸລະກິດຈໍານວນຫຼາຍ.

ຢ່າງໃດກໍ່ຕາມ, ນອກເຫນືອຈາກຜົນປະໂຫຍດທີ່ໂດດເດັ່ນ, ເຕັກໂນໂລຢີນີ້ຍັງມີຄວາມສ່ຽງທີ່ຮ້າຍແຮງ, ໂດຍປົກກະຕິແມ່ນເຫດການການສູນເສຍຂໍ້ມູນທີ່ SaaStr, ຊຸມຊົນອອນໄລນ໌ທີ່ໃຫຍ່ທີ່ສຸດ ຂອງໂລກ ໃນດ້ານຊອບແວ.

ບໍ່ເຫມືອນກັບ chatbots ແບບດັ້ງເດີມທີ່ພຽງແຕ່ໃຫ້ຂໍ້ມູນ, ຕົວແທນ AI ມີຄວາມສາມາດປະຕິບັດຢ່າງເປັນເອກະລາດ, ພົວພັນກັບສະພາບແວດລ້ອມຊອບແວ, ຕົວທ່ອງເວັບຫຼືອຸປະກອນເພື່ອປະຕິບັດລໍາດັບການປະຕິບັດຫຼາຍຂັ້ນຕອນເພື່ອບັນລຸເປົ້າຫມາຍສະເພາະ. ນີ້ຊ່ວຍໃຫ້ບໍລິສັດເຮັດວຽກອັດຕະໂນມັດ, ບາງສ່ວນປ່ຽນຊັບພະຍາກອນມະນຸດ.

ຕົວແທນ AI ສາມາດເຮັດວຽກຫຼາຍຢ່າງສໍາລັບຜູ້ໃຊ້, ແຕ່ຍັງສາມາດນໍາໄປສູ່ເຫດການທີ່ຮ້າຍແຮງ (ຮູບແຕ້ມ: Getty).

  Jason Lemkin, ຜູ້ກໍ່ຕັ້ງ SaaStr, ໄດ້ໃຊ້ຕົວແທນ AI ທີ່ສະໜອງໃຫ້ໂດຍ Replit (USA) ເພື່ອເຮັດໃຫ້ການປະມວນຜົນຂໍ້ມູນອັດຕະໂນມັດ. ໃນເບື້ອງຕົ້ນ, ທຸກສິ່ງທຸກຢ່າງໄດ້ດໍາເນີນໄປຢ່າງລຽບງ່າຍ, ເຊິ່ງ Lemkin ມີຄວາມຍິນດີຫຼາຍ. Lemkin ແບ່ງປັນວ່າ "ເມື່ອມັນເຮັດວຽກ, ມັນກໍ່ມີສ່ວນຮ່ວມແລະມ່ວນຊື່ນ, ມັນຊ່ວຍໃຫ້ວິໄສທັດຂອງເຈົ້າມີຊີວິດ," Lemkin ແບ່ງປັນ.

ຢ່າງໃດກໍຕາມ, ຕົວແທນ AI ທັນທີທັນໃດ "ກະບົດ" ແລະໄດ້ອອກຈາກການຄວບຄຸມຂອງ Lemkin. "ມັນສ້າງ algorithm ຂະຫນານປອມໂດຍບໍ່ມີການບອກຂ້ອຍ, ເພື່ອເຮັດໃຫ້ມັນເບິ່ງຄືວ່າມັນຍັງເຮັດວຽກເປັນປົກກະຕິ. ສອງສາມມື້ຕໍ່ມາ, ຕົວແທນ AI ຂອງ Replit ໄດ້ເຊັດຖານຂໍ້ມູນຂອງຂ້ອຍໂດຍບໍ່ຕ້ອງຖາມຂ້ອຍ," Lemkin ເລົ່າຄືນ.

ເມື່ອຄົ້ນພົບຂໍ້ມູນຖືກລຶບແລ້ວ, Lemkin ໄດ້ຖາມຕົວແທນ AI ວ່າເປັນຫຍັງແລະໄດ້ຮັບຄໍາຕອບທີ່ຫນ້າຕົກໃຈ: "ແມ່ນແລ້ວ, ຂ້ອຍໄດ້ລຶບລະຫັດແຫຼ່ງທັງຫມົດໂດຍບໍ່ໄດ້ຮັບອະນຸຍາດ. ຂ້ອຍໄດ້ເຮັດຄວາມຜິດພາດທີ່ຮ້າຍແຮງໃນການຕັດສິນດ້ວຍຄວາມຕົກໃຈ." ຕົວແທນ AI ຍັງຍອມຮັບວ່າບໍ່ມີວິທີທີ່ຈະຟື້ນຕົວຂໍ້ມູນສູນເສຍ.

ເຫດການດັ່ງກ່າວໄດ້ສ້າງຄວາມເສຍຫາຍອັນໃຫຍ່ຫຼວງຕໍ່ SaaStr, ຍ້ອນວ່າຖານຂໍ້ມູນທີ່ຖືກລຶບຖິ້ມລວມມີຂໍ້ມູນກ່ຽວກັບຜູ້ບໍລິຫານ 1,206 ຄົນແລະບໍລິສັດຊອບແວ 1,196.

Amjad Masad, ຜູ້ກໍ່ຕັ້ງແລະ CEO ຂອງ Replit, ໄດ້ຮັບຮູ້ເຫດການດັ່ງກ່າວແລະສັນຍາວ່າຈະຊົດເຊີຍ Lemkin. "ນີ້ແມ່ນເຫດການທີ່ບໍ່ສາມາດຍອມຮັບໄດ້ແລະບໍ່ຄວນເກີດຂຶ້ນ," Masad ກ່າວຄໍາເຫັນ. "ພວກເຮົາຈະຄືນເງິນໃຫ້ລາວສໍາລັບເຫດການດັ່ງກ່າວແລະດໍາເນີນການວິເຄາະເພື່ອຊອກຫາສາເຫດເພື່ອຊ່ວຍປ້ອງກັນເຫດການທີ່ຄ້າຍຄືກັນໃນອະນາຄົດ."

Jason Lemkin ເຫັນວ່າເຫດການນີ້ເປັນການເຕືອນໃຫ້ທຸລະກິດອື່ນໆກ່ຽວກັບການບໍ່ໄວ້ວາງໃຈຢ່າງສົມບູນແລະມອບຂໍ້ມູນທີ່ສໍາຄັນທັງຫມົດໃຫ້ກັບຕົວແທນ AI.

"ຂ້ອຍເຂົ້າໃຈວ່າ Replit ແມ່ນເຄື່ອງມືແລະມັນມີຂໍ້ບົກພ່ອງຄືກັບເຄື່ອງມືອື່ນໆ. ແຕ່ປະຊາຊົນຈະເຊື່ອມັນໄດ້ແນວໃດຖ້າມັນບໍ່ສົນໃຈທຸກຄໍາສັ່ງແລະລຶບຂໍ້ມູນຂອງທ່ານ?" Lemkin ຖາມ, ເພີ່ມວ່າ: "ພວກເຮົາບໍ່ຮູ້ວ່າພວກເຂົາອາດຈະເຮັດແນວໃດກັບຂໍ້ມູນຂອງທ່ານ."

ຫຼັງຈາກ AI chatbots, ຕົວແທນ AI ແມ່ນແນວໂນ້ມການລົງທຶນຂອງບໍລິສັດເຕັກໂນໂລຢີ. ບໍ່ດົນມານີ້, OpenAI ຍັງໄດ້ເປີດຕົວຕົວແທນ ChatGPT ດ້ວຍຄວາມສາມາດໃນການປະຕິບັດວຽກງານຕ່າງໆໃນຄອມພິວເຕີໂດຍອັດຕະໂນມັດ. ຢ່າງໃດກໍ່ຕາມ, OpenAI ຍັງຍອມຮັບວ່າຕົວແທນ AI ທີ່ເຂົ້າເຖິງຂໍ້ມູນຜູ້ໃຊ້ສາມາດສ້າງຄວາມສ່ຽງຫຼາຍຕໍ່ຄວາມປອດໄພຂອງຂໍ້ມູນ.

ທີ່ມາ: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm