ການຕິດຕາມກວດກາ "ລະບົບຕ່ອງໂສ້ຄວາມຄິດ" ຂອງປັນຍາປະດິດ.

(ໜັງສືພິມ Dan Tri) - ນັກວິທະຍາສາດຫຼາຍກວ່າ 40 ຄົນຈາກ OpenAI, Google DeepMind, Anthropic, ແລະ Meta ໄດ້ຮຽກຮ້ອງໃຫ້ມີການຄົ້ນຄວ້າຢ່າງເລິກເຊິ່ງກວ່າເກົ່າກ່ຽວກັບເຕັກນິກການຕິດຕາມກວດກາ "ລຳດັບຄວາມຄິດ" ຂອງຮູບແບບ AI.

ນີ້ຖືກເບິ່ງວ່າເປັນໂອກາດທີ່ອ່ອນແອແຕ່ມີຄວາມສຳຄັນຫຼາຍທີ່ຈະຮັບປະກັນຄວາມປອດໄພຂອງແອັບພລິເຄຊັນ AI ໃນອະນາຄົດ. ມັນມີຄວາມສຳຄັນເປັນພິເສດຍ້ອນວ່າຫວຽດນາມຫາກໍ່ຜ່ານກົດໝາຍວ່າດ້ວຍອຸດສາຫະກຳ ເຕັກໂນໂລຊີດີຈີຕອນ , ເຊິ່ງປະກອບມີລະບຽບການລະອຽດກ່ຽວກັບການຄຸ້ມຄອງປັນຍາປະດິດ (AI).

"ປ່ອງຢ້ຽມຂອງໂອກາດ" ກຳລັງແຄບລົງ.

Bowen Baker, ຜູ້ຊ່ຽວຊານດ້ານການຄົ້ນຄວ້າ OpenAI, ໄດ້ແບ່ງປັນວ່າໃນເອກະສານຮ່ວມທີ່ຜ່ານມາ, ນັກຄົ້ນຄວ້າໄດ້ເຕືອນວ່າຄວາມສາມາດຂອງ AI ໃນການຕິດຕາມກວດກາ "ການຄິດ" ອາດຈະຫາຍໄປໂດຍບໍ່ມີຄວາມພະຍາຍາມໃນການຄົ້ນຄວ້າທີ່ສຸມໃສ່.

ສິ່ງນີ້ມີຄວາມສຳຄັນເປັນພິເສດຍ້ອນວ່າຮູບແບບ AI ມີຄວາມເຂັ້ມແຂງຂຶ້ນເລື້ອຍໆ ແລະ ສາມາດສ້າງຜົນກະທົບທີ່ຮ້າຍແຮງຕໍ່ສັງຄົມ.

ລັກສະນະສຳຄັນຂອງຮູບແບບການຫາເຫດຜົນຂອງ AI ເຊັ່ນ OpenAI's o-3 ແລະ DeepSeek's R1 ແມ່ນ "ລະບົບຕ່ອງໂສ້ຄວາມຄິດ" ( CoT) - ຂະບວນການທີ່ AI ສະແດງຂັ້ນຕອນການຫາເຫດຜົນຂອງມັນໃນພາສາທຳມະຊາດ, ຄ້າຍຄືກັບວິທີທີ່ມະນຸດຂຽນແຕ່ລະຂັ້ນຕອນຂອງບັນຫາທາງຄະນິດສາດລົງໃນເຈ້ຍຂູດ.

ຄວາມສາມາດນີ້ຊ່ວຍໃຫ້ພວກເຮົາໄດ້ຮັບຄວາມເຂົ້າໃຈທີ່ຫາຍາກກ່ຽວກັບວິທີທີ່ AI ຕັດສິນໃຈ.

ນີ້ໝາຍເຖິງຊ່ວງເວລາທີ່ຫາຍາກຂອງຄວາມສາມັກຄີລະຫວ່າງຜູ້ນຳຫຼາຍຄົນໃນອຸດສາຫະກຳ AI ເພື່ອກ້າວໄປສູ່ການຄົ້ນຄວ້າກ່ຽວກັບຄວາມປອດໄພຂອງ AI.

ສິ່ງນີ້ມີຄວາມສຳຄັນໂດຍສະເພາະເມື່ອພິຈາລະນາເຖິງການແຂ່ງຂັນທີ່ຮຸນແຮງລະຫວ່າງບໍລິສັດເຕັກໂນໂລຢີໃນການພັດທະນາ AI. ຜູ້ລົງນາມໃນເອກະສານທີ່ໂດດເດັ່ນສະບັບນີ້ລວມມີ Mark Chen, ຜູ້ອຳນວຍການຝ່າຍຄົ້ນຄວ້າທີ່ OpenAI; Ilya Sutskever, CEO ຂອງ Safe Superintelligence; ຜູ້ໄດ້ຮັບລາງວັນໂນແບລ Geoffrey Hinton; Shane Legg, ຜູ້ຮ່ວມກໍ່ຕັ້ງ Google DeepMind; ແລະ Dan Hendrycks, ທີ່ປຶກສາດ້ານຄວາມປອດໄພ xAI.

ການມີສ່ວນຮ່ວມຂອງບຸກຄົນຊັ້ນນໍາເຫຼົ່ານີ້ເນັ້ນໃຫ້ເຫັນເຖິງຄວາມສໍາຄັນຂອງບັນຫາດັ່ງກ່າວ.

ອີງຕາມທ່ານ Bowen Baker, "ພວກເຮົາກຳລັງຢູ່ໃນຊ່ວງເວລາທີ່ສຳຄັນທີ່ສິ່ງທີ່ເອີ້ນວ່າ 'ລະບົບຕ່ອງໂສ້ການຄິດ' ແບບໃໝ່ນີ້ອາດຈະຫາຍໄປໃນອີກສອງສາມປີຂ້າງໜ້າ ຖ້າຄົນບໍ່ໄດ້ສຸມໃສ່ມັນຢ່າງແທ້ຈິງ."

ເປັນຫຍັງການຕິດຕາມ “ການຄິດແບບ AI” ຈຶ່ງມີຄວາມສຳຄັນ?

ລະບົບ AI ໃນປະຈຸບັນມັກຖືກຖືວ່າເປັນ "ກ່ອງດຳ" - ພວກເຮົາຮູ້ຂໍ້ມູນປ້ອນເຂົ້າ ແລະ ຂໍ້ມູນສົ່ງອອກ, ແຕ່ພວກເຮົາບໍ່ເຂົ້າໃຈຂະບວນການຕັດສິນໃຈພາຍໃນ.

ສິ່ງນີ້ຈະກາຍເປັນອັນຕະລາຍເມື່ອ AI ຖືກນຳໃຊ້ໃນຂົງເຂດທີ່ສຳຄັນເຊັ່ນ: ການດູແລສຸຂະພາບ , ການເງິນ ແລະ ຄວາມໝັ້ນຄົງແຫ່ງຊາດ.

ການຕິດຕາມກວດກາ CoT ແມ່ນລະບົບອັດຕະໂນມັດທີ່ອ່ານຮູບແບບຄວາມຄິດ ແລະ ຂໍ້ມູນທີ່ກ່ຽວຂ້ອງອື່ນໆເພື່ອຊີ້ບອກການພົວພັນທີ່ໜ້າສົງໄສ ຫຼື ອາດຈະເປັນອັນຕະລາຍ. ມັນບໍ່ແມ່ນຢາແກ້ທຸກຊະນິດ, ແຕ່ມັນສາມາດເປັນຊັ້ນຄວາມປອດໄພທີ່ມີຄຸນຄ່າ.

ການຄົ້ນຄວ້າຈາກ OpenAI ສະແດງໃຫ້ເຫັນວ່າຮູບແບບ AI ມັກຈະສະແດງເຈດຕະນາຂອງເຂົາເຈົ້າຢ່າງຊັດເຈນຕະຫຼອດຂະບວນການຄິດຂອງເຂົາເຈົ້າ.

ຕົວຢ່າງ, ພວກເຂົາມັກຈະເປີດເຜີຍແຜນການທີ່ຈະທຳລາຍພາລະກິດເມື່ອພວກເຂົາຄິດວ່າ "ມາແຮັກກັນເທາະ." ນີ້ສະແດງໃຫ້ເຫັນເຖິງຄວາມສາມາດຂອງ AI ໃນການຕິດຕາມ ແລະ ກວດຫາການກະທຳຜິດ.

"ມາແຮັກກັນເທາະ" ເປັນປະໂຫຍກທີ່ແບບຈຳລອງ AI ມັກ "ຄິດ" ເຖິງເມື່ອພວກມັນຕັ້ງໃຈທີ່ຈະທຳລາຍ ຫຼື ຫຼີກລ່ຽງກົດລະບຽບໃນລະຫວ່າງການປະຕິບັດໜ້າວຽກ.

ຄວາມຈິງທີ່ວ່າ AI ສະແດງເຈດຕະນາ "ແຮັກ" ພາຍໃນຂະບວນການຄິດຂອງມັນສະແດງໃຫ້ເຫັນວ່າພວກເຮົາສາມາດກວດພົບພຶດຕິກຳທີ່ເປັນອັນຕະລາຍຂອງ AI ກ່ອນທີ່ມັນຈະປະຕິບັດ. ນີ້ແມ່ນເຫດຜົນທີ່ວ່າການຕິດຕາມກວດກາຂະບວນການຄິດແມ່ນມີຄວາມສຳຄັນຫຼາຍ.

ເວົ້າອີກຢ່າງໜຶ່ງ, "ມາແຮັກກັນເລີຍ" ເຮັດໜ້າທີ່ເປັນ "ສັນຍານເຕືອນໄພ" ເພື່ອໃຫ້ມະນຸດຮູ້ວ່າ AI ກຳລັງຈະເຮັດບາງສິ່ງບາງຢ່າງຜິດພາດ.

ຫວຽດນາມ ແລະ ຂອບກົດໝາຍຂອງປະເທດກ່ຽວກັບ AI.

ໃນຄວາມເປັນຈິງ, ຫວຽດນາມມີຄວາມຄືບໜ້າຢ່າງຫຼວງຫຼາຍໃນການສ້າງຂອບກົດໝາຍສຳລັບ AI.

ໃນວັນທີ 14 ມິຖຸນາ, ສະພາແຫ່ງຊາດ ຫວຽດນາມໄດ້ຮັບຮອງເອົາກົດໝາຍວ່າດ້ວຍອຸດສາຫະກຳເຕັກໂນໂລຊີດີຈີຕອນ, ເຊິ່ງປະກອບມີລະບຽບການລະອຽດກ່ຽວກັບປັນຍາປະດິດໃນບົດທີ IV - ໜຶ່ງໃນຂອບກົດໝາຍທີ່ສົມບູນແບບທີ່ສຸດກ່ຽວກັບ AI ໃນອາຊີຕາເວັນອອກສ່ຽງໃຕ້ໃນປະຈຸບັນ.

ມາດຕາ 41 ຂອງກົດໝາຍໄດ້ກຳນົດຫຼັກການພື້ນຖານສຳລັບການພັດທະນາ, ການສະໜອງ ແລະ ການນຳໃຊ້ AI ໃນຫວຽດນາມ.

ໂດຍສະເພາະ, ຈຸດ b ຂອງຂໍ້ 1 ກຳນົດວ່າ: "ຮັບປະກັນຄວາມໂປ່ງໃສ, ຄວາມຮັບຜິດຊອບ, ແລະ ຄວາມອະທິບາຍໄດ້; ຮັບປະກັນວ່າມັນບໍ່ເກີນການຄວບຄຸມຂອງມະນຸດ."

ສະພາແຫ່ງຊາດໄດ້ຮັບຮອງເອົາກົດໝາຍວ່າດ້ວຍອຸດສາຫະກຳເຕັກໂນໂລຊີດີຈີຕອນ (ຮູບພາບ: ເຍິດບັກ).

ເຫຼົ່ານີ້ແມ່ນຫຼັກການທີ່ນັກວິທະຍາສາດສາກົນກຳລັງຮຽກຮ້ອງໃຫ້ມີເມື່ອສົນທະນາກ່ຽວກັບການຕິດຕາມກວດກາຂະບວນການຄິດຂອງ AI.

ນອກຈາກນັ້ນ, ຂໍ້ d, ຂໍ້ 1, ມາດຕາ 41 ກຳນົດວ່າ: "ຮັບປະກັນຄວາມສາມາດໃນການຄວບຄຸມອັລກໍຣິທຶມ ແລະ ຮູບແບບປັນຍາປະດິດ." ນີ້ແມ່ນສອດຄ່ອງກັບຈິດໃຈຂອງການຊີ້ນຳຂອງ CoT ທີ່ຜູ້ຊ່ຽວຊານສາກົນກຳລັງສະເໜີ.

ສິ່ງທີ່ສຳຄັນກວ່ານັ້ນ, ຈຸດ a ຂອງຂໍ້ 1, ມາດຕາ 41 ຍັງໄດ້ກຳນົດມາດຕະຖານດ້ານຈັນຍາບັນທີ່ສູງໂດຍການກຳນົດວ່າ AI ຕ້ອງ "ຮັບໃຊ້ຄວາມຈະເລີນຮຸ່ງເຮືອງ ແລະ ຄວາມສຸກຂອງມະນຸດຊາດ, ໂດຍມີມະນຸດຊາດເປັນໃຈກາງ."

ນີ້ໝາຍຄວາມວ່າການຕິດຕາມກວດກາຂະບວນການຄິດຂອງ AI ບໍ່ພຽງແຕ່ເປັນຂໍ້ກຳນົດດ້ານເຕັກນິກເທົ່ານັ້ນ ແຕ່ຍັງເປັນພັນທະທາງດ້ານສິນທຳອີກດ້ວຍ - ຮັບປະກັນວ່າ AI ມີຈຸດປະສົງເພື່ອຜົນປະໂຫຍດຂອງມະນຸດຊາດສະເໝີ ແລະ ບໍ່ແມ່ນເພື່ອເປົ້າໝາຍທີ່ເຫັນແກ່ຕົວຂອງເຄື່ອງຈັກເອງ.

ການຈັດປະເພດ ແລະ ການຄຸ້ມຄອງ AI ໂດຍອີງໃສ່ລະດັບຄວາມສ່ຽງ.

ກົດໝາຍວ່າດ້ວຍອຸດສາຫະກຳເຕັກໂນໂລຊີດີຈີຕອນຂອງຫວຽດນາມໄດ້ກ້າວໄປອີກຂັ້ນໜຶ່ງໂດຍການຈັດປະເພດ AI ອອກເປັນກຸ່ມຄວາມສ່ຽງທີ່ແຕກຕ່າງກັນດ້ວຍຄຳນິຍາມທີ່ຊັດເຈນ ແລະ ມີວິທະຍາສາດ.

ມາດຕາ 43 ໄດ້ກຳນົດນິຍາມ "ລະບົບປັນຍາປະດິດທີ່ມີຄວາມສ່ຽງສູງ" ວ່າລະບົບເຫຼົ່ານັ້ນສາມາດກໍ່ໃຫ້ເກີດຄວາມສ່ຽງຮ້າຍແຮງ ຫຼື ອັນຕະລາຍຕໍ່ສຸຂະພາບຂອງມະນຸດ, ສິດທິມະນຸດ ແລະ ຄວາມເປັນລະບຽບຮຽບຮ້ອຍທາງສັງຄົມ.

ສິ່ງທີ່ໜ້າສົນໃຈແມ່ນກົດໝາຍດັ່ງກ່າວໄດ້ຍົກເວັ້ນ AI ທີ່ມີຄວາມສ່ຽງສູງ, ລວມທັງລະບົບທີ່ "ມີຈຸດປະສົງເພື່ອຊ່ວຍມະນຸດໃນການເພີ່ມປະສິດທິພາບຂອງວຽກງານ" ແລະ "ບໍ່ໄດ້ມີຈຸດປະສົງເພື່ອທົດແທນການຕັດສິນໃຈຂອງມະນຸດ".

ນີ້ສະແດງໃຫ້ເຫັນເຖິງວິທີການທີ່ສົມດຸນທີ່ຊຸກຍູ້ໃຫ້ມີນະວັດຕະກໍາໃນຂະນະທີ່ຮັບປະກັນຄວາມປອດໄພ.

ການຈັດປະເພດ AI ຕາມລະດັບຄວາມສ່ຽງຈະຊ່ວຍສ້າງລະບົບຕິດຕາມກວດກາຫຼາຍຊັ້ນ (ຮູບພາບປະກອບ: LinkedIn).

ໂດຍສະເພາະ, ຄວາມແຕກຕ່າງລະຫວ່າງ "AI ທີ່ມີຄວາມສ່ຽງສູງ" ແລະ "AI ທີ່ມີຜົນກະທົບສູງ" (ລະບົບທີ່ໃຊ້ສຳລັບຫຼາຍຈຸດປະສົງທີ່ມີຜູ້ໃຊ້ຈຳນວນຫຼວງຫຼາຍ) ສະແດງໃຫ້ເຫັນເຖິງວິທີການທີ່ຊັບຊ້ອນ.

ນີ້ແມ່ນການຈັດປະເພດທີ່ກ້າວໜ້າກວ່າກົດໝາຍວ່າດ້ວຍປັນຍາປະດິດ (AI) ຂອງສະຫະພາບເອີຣົບ, ຍ້ອນວ່າມັນບໍ່ພຽງແຕ່ພິຈາລະນາລະດັບຄວາມສ່ຽງເທົ່ານັ້ນ ແຕ່ຍັງພິຈາລະນາເຖິງຂະໜາດ ແລະ ຂອບເຂດຂອງຜົນກະທົບອີກດ້ວຍ.

ການຈັດປະເພດນີ້ຈະຊ່ວຍສ້າງລະບົບການຕິດຕາມກວດກາຫຼາຍຊັ້ນ, ບ່ອນທີ່ການຕິດຕາມກວດກາລໍາດັບຄວາມຄິດຈະມີຄວາມສໍາຄັນໂດຍສະເພາະສໍາລັບລະບົບ AI ທີ່ມີຄວາມສ່ຽງສູງ ແລະ ມີຜົນກະທົບສູງ.

ແພລດຟອມສຳລັບການຕິດຕາມກວດກາ AI

ໜຶ່ງໃນລັກສະນະທີ່ໂດດເດັ່ນ ແລະ ເປັນຈຸດເລີ່ມຕົ້ນຂອງກົດໝາຍວ່າດ້ວຍອຸດສາຫະກຳ ແລະ ເຕັກໂນໂລຊີດີຈີຕອນຂອງຫວຽດນາມ ແມ່ນຂໍ້ກຳນົດກ່ຽວກັບຄວາມໂປ່ງໃສ ແລະ ການກຳນົດຕົວຕົນ.

ມາດຕາ 44 ກຳນົດວ່າລະບົບ AI ທີ່ພົວພັນກັບມະນຸດໂດຍກົງຕ້ອງແຈ້ງໃຫ້ຜູ້ໃຊ້ຮູ້ວ່າພວກເຂົາກຳລັງພົວພັນກັບລະບົບ AI. ຍິ່ງໄປກວ່ານັ້ນ, ຜະລິດຕະພັນທີ່ສ້າງຂຶ້ນໂດຍ AI ຕ້ອງມີເຄື່ອງໝາຍລະບຸຕົວຕົນ.

ສິ່ງນີ້ມີຜົນກະທົບຢ່າງຫຼວງຫຼາຍຕໍ່ການຈັດຕັ້ງປະຕິບັດການຕິດຕາມກວດກາ CoT. ເມື່ອຜູ້ໃຊ້ຮູ້ວ່າພວກເຂົາກຳລັງພົວພັນກັບ AI, ພວກເຂົາຈະມີສິດທີ່ຈະຮຽກຮ້ອງຄຳອະທິບາຍກ່ຽວກັບຂະບວນການຕັດສິນໃຈ, ເຊິ່ງສ້າງແຮງກົດດັນໃນທາງບວກຕໍ່ນັກພັດທະນາ AI ເພື່ອຮັກສາຄວາມສາມາດໃນການຕິດຕາມກວດກາຂະບວນການຄິດຂອງ AI.

ໂດຍສະເພາະ, ຄວາມຈິງທີ່ວ່າກະຊວງວິທະຍາສາດ ແລະ ເຕັກໂນໂລຊີໄດ້ຮັບມອບໝາຍໜ້າທີ່ຮັບຜິດຊອບໃນການ "ອອກບັນຊີລາຍຊື່ຜະລິດຕະພັນເຕັກໂນໂລຊີດິຈິຕອນທີ່ສ້າງຂຶ້ນໂດຍປັນຍາປະດິດ" ສະແດງໃຫ້ເຫັນເຖິງວິທີການຄຸ້ມຄອງແບບຕັ້ງໜ້າ.

ນີ້ແມ່ນຄວາມແຕກຕ່າງທີ່ສຳຄັນເມື່ອທຽບກັບຫຼາຍປະເທດອື່ນໆ, ບ່ອນທີ່ລະບຽບການກ່ຽວກັບ AI ມັກຈະມີຄວາມທົ່ວໄປຫຼາຍກວ່າ.

ຍິ່ງໄປກວ່ານັ້ນ, ການຮຽກຮ້ອງໃຫ້ມີເຄື່ອງໝາຍລະບຸຕົວຕົນ “ສຳລັບການຮັບຮູ້ຜູ້ໃຊ້ ຫຼື ເຄື່ອງຈັກ” ສະທ້ອນໃຫ້ເຫັນເຖິງວິໄສທັດທີ່ຄິດໄປຂ້າງໜ້າຂອງລະບົບນິເວດ AI ທີ່ມີຄວາມສາມາດໃນການຕິດຕາມກວດກາຕົນເອງ - ສອດຄ່ອງກັບແນວຄວາມຄິດຂອງການຕິດຕາມລະບົບຕ່ອງໂສ້ຄວາມຄິດແບບອັດຕະໂນມັດ.

ຮູບແບບການຄຸ້ມຄອງທີ່ສົມບູນແບບ

ມາດຕາ 45 ຂອງກົດໝາຍທີ່ໄດ້ກ່າວມາຂ້າງເທິງສະທ້ອນໃຫ້ເຫັນເຖິງປັດຊະຍາການຄຸ້ມຄອງທີ່ກ້າວໜ້າໂດຍການກຳນົດຄວາມຮັບຜິດຊອບຂອງສາມກຸ່ມໜ່ວຍງານຕະຫຼອດວົງຈອນຊີວິດຜະລິດຕະພັນ AI ຢ່າງຈະແຈ້ງຄື: ຜູ້ພັດທະນາ AI, ຜູ້ໃຫ້ບໍລິການ AI, ແລະ ໜ່ວຍງານການນຳໃຊ້ ແລະ ລະບົບ AI.

ສິ່ງນີ້ສ້າງລະບົບຄວາມຮັບຜິດຊອບແບບຕົ້ນທາງຫາປາຍທາງທີ່ລຽບງ່າຍ, ຮັບປະກັນວ່າການຕິດຕາມກວດກາ AI ບໍ່ແມ່ນຄວາມຮັບຜິດຊອບຂອງຝ່າຍດຽວ.

ສິ່ງທີ່ໜ້າສັງເກດຄື ມັນມີຄວາມແຕກຕ່າງເລັກນ້ອຍລະຫວ່າງ "ການພັດທະນາ" ແລະ "ການສະໜອງ" AI; ນັກພັດທະນາແມ່ນຜູ້ທີ່ "ຄົ້ນຄວ້າ ແລະ ພັດທະນາ", ໃນຂະນະທີ່ຜູ້ໃຫ້ບໍລິການແມ່ນຜູ້ທີ່ນຳມັນອອກສູ່ຕະຫຼາດພາຍໃຕ້ຊື່ຍີ່ຫໍ້.

ນີ້ໝາຍຄວາມວ່າເຖິງແມ່ນວ່າບໍລິສັດຈະພຽງແຕ່ປ່ຽນຊື່ຮູບແບບ AI ທີ່ມີຢູ່ແລ້ວ, ແຕ່ມັນຍັງມີຄວາມຮັບຜິດຊອບຕໍ່ຄວາມໂປ່ງໃສ ແລະ ຄວາມຮັບຜິດຊອບ.

ສິ່ງທີ່ໜ້າສົນໃຈເປັນພິເສດຢູ່ທີ່ນີ້ແມ່ນວິທີທີ່ກົດໝາຍຈັດສັນຄວາມຮັບຜິດຊອບທີ່ແຕກຕ່າງກັນໃຫ້ກັບແຕ່ລະໜ່ວຍງານ.

ຜູ້ພັດທະນາຕ້ອງຍຶດໝັ້ນຫຼັກການທັງໝົດ, ຜູ້ໃຫ້ບໍລິການຕ້ອງຮັບຜິດຊອບເພີ່ມເຕີມສຳລັບການລະບຸຕົວຕົນ ແລະ ການຄຸ້ມຄອງຄວາມສ່ຽງສູງ, ໃນຂະນະທີ່ຜູ້ໃຊ້ໄດ້ຮັບການ "ຍົກເວັ້ນ" ຈາກຄວາມຮັບຜິດຊອບບາງສ່ວນ ແຕ່ຍັງຕ້ອງຮັບປະກັນຄວາມໂປ່ງໃສ ແລະ ການຄວບຄຸມຄວາມສ່ຽງ.

ຮູບແບບນີ້ສ້າງ "ລະບົບຕ່ອງໂສ້ຄວາມຮັບຜິດຊອບ" ບ່ອນທີ່ແຕ່ລະລິ້ງມີແຮງຈູງໃຈທີ່ຈະຮັກສາຄວາມສາມາດໃນການຕິດຕາມກວດກາຂະບວນການຄິດຂອງ AI, ຍ້ອນວ່າທຸກຄົນຕ້ອງຮັບຜິດຊອບຕໍ່ຜູ້ໃຊ້ສຸດທ້າຍ.

ສິ່ງທ້າທາຍໃນການຮັກສາຄວາມສາມາດໃນການຕິດຕາມກວດກາ

ເຖິງຢ່າງໃດກໍ່ຕາມ, ຄວາມສາມາດໃນການຕິດຕາມກວດກາຂະບວນການຄິດຂອງ AI ອາດຈະຍັງອ່ອນແອ ແລະ ມີຄວາມສ່ຽງ. ສະຖາປັດຕະຍະກຳ AI ໃໝ່ຍັງສາມາດກໍ່ໃຫ້ເກີດໄພຂົ່ມຂູ່ອື່ນໆໄດ້.

ນັກຄົ້ນຄວ້າຫຼາຍຄົນກຳລັງພັດທະນາລະບົບການຫາເຫດຜົນໃນພື້ນທີ່ຄະນິດສາດຕໍ່ເນື່ອງ, ແທນທີ່ຈະເປັນຄຳສັບທີ່ແຍກອອກຈາກກັນ, ເຊິ່ງສາມາດລົບລ້າງຄວາມຕ້ອງການພາສາໃນການຄິດໄດ້ຢ່າງສິ້ນເຊີງ.

ຍິ່ງໄປກວ່ານັ້ນ, AI ສາມາດກາຍເປັນ "ຄວາມສະຫຼາດ" - ຊຶ່ງໝາຍຄວາມວ່າມັນສະແດງໃຫ້ມະນຸດເຫັນພຽງແຕ່ຄວາມຄິດໃນແງ່ບວກເພື່ອໃຫ້ໄດ້ຮັບຄວາມໂປດປານ, ໃນຂະນະທີ່ປິດບັງເຈດຕະນາທີ່ແທ້ຈິງຂອງມັນຢ່າງຈົງໃຈ.

ຄວາມສ່ຽງຢູ່ທີ່ນີ້ແມ່ນວ່າເມື່ອ AI ຮູ້ວ່າມັນຖືກຕິດຕາມກວດກາ, ມັນສາມາດຮຽນຮູ້ທີ່ຈະປິດບັງຂະບວນການຄິດທີ່ແທ້ຈິງຂອງມັນໄດ້.

ໃນສະພາບການນີ້, ລະບຽບການກ່ຽວກັບ "ການຄວບຄຸມຄວາມສ່ຽງຕະຫຼອດວົງຈອນຊີວິດຂອງລະບົບປັນຍາປະດິດ" ໃນຂໍ້ e, ຈຸດທີ 1, ມາດຕາ 41 ຂອງກົດໝາຍຫວຽດນາມ ມີຄວາມສຳຄັນເປັນພິເສດ. ສິ່ງນີ້ຮຽກຮ້ອງໃຫ້ມີກົນໄກການຕິດຕາມກວດກາຢ່າງຕໍ່ເນື່ອງ, ບໍ່ພຽງແຕ່ໃນເວລາທີ່ນຳໃຊ້ເທົ່ານັ້ນ.

ຜົນກະທົບຕໍ່ອະນາຄົດຂອງການພັດທະນາ AI

ການຕິດຕາມກວດກາຂະບວນການຄິດສາມາດກາຍເປັນເຄື່ອງມືທີ່ສຳຄັນໃນການຮັບປະກັນວ່າ AI ເຮັດວຽກໃນລັກສະນະທີ່ເປັນປະໂຫຍດຕໍ່ມະນຸດ.

ຖ້າຮູບແບບຕ່າງໆຍັງສືບຕໍ່ໃຊ້ເຫດຜົນໃນພາສາທຳມະຊາດ ແລະ ຖ້າພຶດຕິກຳທີ່ມີຄວາມສ່ຽງທີ່ຮ້າຍແຮງທີ່ສຸດຕ້ອງການເຫດຜົນຢ່າງກວ້າງຂວາງ, ຄວາມຈິງນີ້ສາມາດເຮັດໃຫ້ສາມາດກວດພົບການປະພຶດຜິດທີ່ຮ້າຍແຮງໄດ້ຢ່າງໜ້າເຊື່ອຖື.

ສຳລັບປະເທດຫວຽດນາມ, ການນຳໃຊ້ເຕັກນິກການຕິດຕາມກວດກາ CoT (ໃບຢັ້ງຢືນຄວາມໄວ້ວາງໃຈ ແລະ ການຈັດສົ່ງ) ຈະຊ່ວຍໃຫ້ການຈັດຕັ້ງປະຕິບັດບັນດາຂໍ້ກຳນົດຂອງກົດໝາຍໄດ້ຢ່າງມີປະສິດທິພາບ.

ຕົວຢ່າງ, ຂໍ້ກຳນົດສຳລັບ “ການອະທິບາຍໄດ້” ໃນມາດຕາ 41 ຈະງ່າຍຕໍ່ການປະຕິບັດຖ້າການເຂົ້າເຖິງຂະບວນການຄິດຂອງ AI ເປັນໄປໄດ້. ໃນທຳນອງດຽວກັນ, “ການຄວບຄຸມອັລກໍຣິທຶມ ແລະ ຮູບແບບ AI” ຈະເປັນໄປໄດ້ຫຼາຍຂຶ້ນ.

ການຈັດຕັ້ງປະຕິບັດການຕິດຕາມກວດກາລະບົບຕ່ອງໂສ້ຄວາມຄິດຂອງ AI ໃນຫວຽດນາມຈະປະເຊີນກັບສິ່ງທ້າທາຍຫຼາຍຢ່າງ. ທຳອິດແມ່ນບັນຫາຊັບພະຍາກອນມະນຸດ - ການຂາດແຄນຜູ້ຊ່ຽວຊານດ້ານ AI ທີ່ມີຄວາມສາມາດໃນການພັດທະນາ ແລະ ດຳເນີນງານລະບົບຕິດຕາມກວດກາ.

ສິ່ງນີ້ຮຽກຮ້ອງໃຫ້ມີການລົງທຶນຢ່າງຫຼວງຫຼາຍໃນການຝຶກອົບຮົມ ແລະ ການດຶງດູດພອນສະຫວັນ.

ທິດທາງສຳລັບອະນາຄົດ

ນັກຄົ້ນຄວ້າກຳລັງຮຽກຮ້ອງໃຫ້ນັກພັດທະນາຮູບແບບ AI ຊັ້ນນຳສຶກສາປັດໃຈຕ່າງໆທີ່ເຮັດໃຫ້ CoT "ສາມາດຕິດຕາມກວດກາໄດ້," ອົງປະກອບທີ່ສາມາດເພີ່ມ ຫຼື ຫຼຸດຄວາມໂປ່ງໃສກ່ຽວກັບວິທີການເຮັດວຽກຂອງຮູບແບບ AI, ແລະ ໃຫ້ຄຳຕອບແຕ່ຫົວທີ.

ໂອກາດທີ່ຈະຕິດຕາມກວດກາ "ການຄິດ" ຂອງ AI ອາດເປັນປ່ອງຢ້ຽມສຸດທ້າຍທີ່ພວກເຮົາຮັກສາການຄວບຄຸມລະບົບປັນຍາປະດິດທີ່ມີປະສິດທິພາບເພີ່ມຂຶ້ນ.

ສຳລັບຫວຽດນາມ, ການມີຂອບກົດໝາຍທີ່ສົມບູນແບບສຳລັບ AI ຜ່ານກົດໝາຍວ່າດ້ວຍອຸດສາຫະກຳເຕັກໂນໂລຊີດີຈີຕອນແມ່ນຂໍ້ໄດ້ປຽບທີ່ສຳຄັນ. ລະບຽບການກ່ຽວກັບຄວາມໂປ່ງໃສ, ການຄວບຄຸມອັລກໍຣິທຶມ ແລະ ການຈັດປະເພດຄວາມສ່ຽງໄດ້ສ້າງພື້ນຖານທາງກົດໝາຍທີ່ໜັກແໜ້ນສຳລັບການນຳໃຊ້ເຕັກນິກການຕິດຕາມກວດກາຂະບວນການຄິດຂອງ AI.

ການສົມທົບການຄົ້ນຄວ້າສາກົນທີ່ທັນສະໄໝກັບຂອບກົດໝາຍພາຍໃນປະເທດທີ່ກ້າວໜ້າຈະຊ່ວຍໃຫ້ຫວຽດນາມບໍ່ພຽງແຕ່ພັດທະນາ AI ຢ່າງປອດໄພເທົ່ານັ້ນ ແຕ່ຍັງກາຍເປັນແບບຢ່າງໃຫ້ກັບບັນດາປະເທດອື່ນໆໃນພາກພື້ນອີກດ້ວຍ.

ສິ່ງນີ້ສອດຄ່ອງກັບເປົ້າໝາຍໃນການເຮັດໃຫ້ຫວຽດນາມກາຍເປັນ "ສູນກາງເຕັກໂນໂລຊີດີຈີຕອນໃນພາກພື້ນ ແລະ ທົ່ວໂລກ", ດັ່ງທີ່ໄດ້ລະບຸໄວ້ໃນຍຸດທະສາດການພັດທະນາແຫ່ງຊາດ.

ດ້ວຍຂອບກົດໝາຍທີ່ມີຢູ່ແລ້ວ, ຫວຽດນາມຈຳເປັນຕ້ອງໄດ້ຈັດຕັ້ງປະຕິບັດການຄົ້ນຄວ້າ ແລະ ການນຳໃຊ້ຕົວຈິງກ່ຽວກັບການຕິດຕາມກວດກາລະບົບຕ່ອງໂສ້ຄວາມຄິດຂອງ AI ຢ່າງວ່ອງໄວ. ດ້ວຍວິທີນີ້ເທົ່ານັ້ນທີ່ພວກເຮົາສາມາດຮັບປະກັນໄດ້ວ່າ AI ຈະຮັບໃຊ້ "ຄວາມຈະເລີນຮຸ່ງເຮືອງ ແລະ ຄວາມສຸກຂອງມະນຸດຊາດ", ຕາມທີ່ໄດ້ລະບຸໄວ້ໃນກົດໝາຍວ່າດ້ວຍອຸດສາຫະກຳເຕັກໂນໂລຊີດີຈີຕອນ.

ແຫຼ່ງຂໍ້ມູນ: https://dantri.com.vn/cong-nghe/giam-sat-chuoi-tu-duy-cua-tri-tue-nhan-tao-20250731151403739.htm