ການລະເບີດຂອງ Generative AI ໄດ້ປ່ຽນພູມສັນຖານເຕັກໂນໂລຢີທົ່ວໂລກຢ່າງສົມບູນ.
ນັບຕັ້ງແຕ່ OpenAI ໄດ້ເປີດຕົວ ChatGPT ໃນທ້າຍປີ 2022, ຊຸດຂອງ LLM ທີ່ຄ້າຍຄືກັນໄດ້ປະກົດຕົວຢ່າງຕໍ່ເນື່ອງ, ນໍາໃຊ້ໃນຫຼາຍຂົງເຂດເຊັ່ນ: ການດູແລສຸຂະພາບ, ການສຶກສາ , ການເງິນ, ກົດຫມາຍ, ແລະອື່ນໆ.
ບໍລິສັດຂະຫນາດໃຫຍ່ເຊັ່ນ OpenAI, Google, Meta ຫຼື Microsoft ທີ່ມີທ່າແຮງທາງດ້ານການເງິນແລະເງື່ອນໄຂທີ່ເອື້ອອໍານວຍໄດ້ທັງຫມົດ "ໄວ" ລົງທຶນຫຼາຍຕື້ໂດລາເພື່ອເປັນເຈົ້າຂອງຫລາຍພັນ GPUs ລະດັບສູງເຊັ່ນ Nvidia H100 - ປັດໃຈຫຼັກສໍາລັບການຝຶກອົບຮົມແບບ LLM. ລາຄາຫຸ້ນຂອງ Nvidia ເພີ່ມຂຶ້ນສູງໃນຊ່ວງເວລານັ້ນ, ສະທ້ອນໃຫ້ເຫັນເຖິງຄວາມຫິວກະຫາຍຂອງ ໂລກ ສໍາລັບໂຄງສ້າງພື້ນຖານ.
ໃນຂະນະດຽວກັນ, ບໍລິສັດເຕັກໂນໂລຊີໃນປະເທດທີ່ພັດທະນາ, ນອກເຫນືອໄປຈາກບັນຫາຄ່າໃຊ້ຈ່າຍ, ຍັງປະເຊີນກັບຂໍ້ຈໍາກັດການນໍາເຂົ້າແລະສົ່ງອອກອຸປະກອນ AI chip ຈາກສະຫະລັດ. ນີ້ເຮັດໃຫ້ການຂາດອຸປະກອນການຝຶກອົບຮົມແລະ "ຊ້າ" ເມື່ອທຽບກັບຍັກໃຫຍ່ເຕັກໂນໂລຢີ. ດ້ວຍຄວາມປາຖະຫນາພາຍໃນປະເທດ, Zalo ແມ່ນບໍ່ມີຂໍ້ຍົກເວັ້ນ.
ໃນແງ່ຂອງຂໍ້ມູນ, ບັນຫາການຮຽນຮູ້ເຄື່ອງຈັກທີ່ຜ່ານມາຕ້ອງການຂໍ້ມູນການຝຶກອົບຮົມຈໍານວນຫລາຍ, ແຕ່ສໍາລັບຮູບແບບພາສາຂະຫນາດໃຫຍ່, ນີ້ແມ່ນຂໍ້ມູນຈໍານວນຫຼວງຫຼາຍ. ເພື່ອໃຫ້ມີຕົວແບບທີ່ດີພຽງພໍ, ລະບົບ LLM ຕ້ອງການຫຼາຍສິບຫຼືຫຼາຍຮ້ອຍຕື້ຂອງ tokens ການປ້ອນຂໍ້ມູນ. ໃນຂະນະດຽວກັນ, ກ່ຽວກັບຄວາມນິຍົມ, ຫວຽດນາມບໍ່ເທົ່າກັບພາສາອັງກິດແລະຈີນ. ສິ່ງດັ່ງກ່າວໄດ້ເພີ່ມທະວີຄວາມຫຍຸ້ງຍາກໃຫ້ບັນດານັກພັດທະນາ LLM ຂອງ ຫວຽດນາມ.
ໃນປີ 2023, ບັນດາຕົວແບບພາສາໃຫຍ່ (LLM) ເຊັ່ນ GPT-3.5, GPT-4 ໄດ້ຫັນເອົາໂລກເຕັກໂນໂລຢີໄປດ້ວຍລົມພາຍຸ, ວິສາຫະກິດຫວຽດນາມ ຫຼາຍແຫ່ງຍັງໄດ້ເລືອກເຟັ້ນບັນດາແບບຈໍາລອງອັນດີງາມຂອງຕ່າງປະເທດເພື່ອໃຊ້ທາງລັດ ແລະ ກ້າວໄປໜ້າຂະບວນການຝຶກຊ້ອມ LLM.
Zalo ເລືອກເສັ້ນທາງທີ່ແຕກຕ່າງກັນ - ຫຍຸ້ງຍາກຫຼາຍ, ແຕ່ເປັນເອກະລາດຫຼາຍ: ການຝຶກອົບຮົມຕົວແບບດ້ວຍຕົນເອງຈາກຮອຍຂີດຂ່ວນ (ຕົວແບບຈາກຮອຍຂີດຂ່ວນ). ເສັ້ນທາງທີ່ຮຽກຮ້ອງໃຫ້ທຸກສິ່ງທີ່ສ້າງຂຶ້ນຕັ້ງແຕ່ເລີ່ມຕົ້ນ - ຈາກຂໍ້ມູນ, ສະຖາປັດຕະຍະກໍາແບບຈໍາລອງໄປສູ່ຂະບວນການຝຶກອົບຮົມທັງຫມົດ. ການຕັດສິນໃຈນັ້ນບໍ່ແມ່ນການແຂ່ງຂັນກັບບັນດາປະເທດຍັກໃຫຍ່, ແຕ່ແມ່ນເພື່ອບັນລຸຄວາມມຸ່ງມາດປາດຖະໜາຂອງຊາວ ຫວຽດນາມ ດ້ວຍຕົນເອງຄື: ເປັນເຈົ້າການສ້າງຕົວແບບ LLM ດ້ວຍພາສາແມ່.
“ພວກເຮົາຄາດຄະເນເຖິງຄວາມຫຍຸ້ງຍາກ ແລະ ຍັງຕັດສິນໃຈເຂົ້າຮ່ວມການແຂ່ງຂັນແຕ່ຕົ້ນ. ພວກເຮົາບໍ່ໄດ້ແຂ່ງຂັນໂດຍກົງກັບ “ພວກຜູ້ໃຫຍ່”, ແຕ່ເລືອກເອົາຕະຫຼາດ ສະ ເພາະທີ່ພວກເຮົາສາມາດເຮັດໄດ້ດີກວ່າ.
ເຖິງວ່າຈະປະເຊີນໜ້າກັບສິ່ງກີດຂວາງຫຼາຍຢ່າງໃນ 3 ປັດໄຈຕົ້ນຕໍລວມມີພື້ນຖານໂຄງລ່າງ, ຂໍ້ມູນ ແລະ ລະດັບການຝຶກອົບຮົມ, ແຕ່ນັກວິສະວະກອນຫວຽດນາມ ໄດ້ຕັ້ງໜ້າຊອກຫາວິທີແກ້ໄຂຄວາມຫຍຸ້ງຍາກ. ສິ່ງດັ່ງກ່າວໄດ້ສະແດງໃຫ້ເຫັນນ້ຳໃຈ ແລະ ຄວາມມຸ່ງມາດປາຖະໜາຂອງຊາວຫວຽດນາມ ໃນສະພາບຫຍຸ້ງຍາກ, ພິເສດແມ່ນໃນນັ້ນ, ເອົາຊະນະບັນດາສິ່ງທ້າທາຍໃນວິວັດການພັດທະນາ LLM ຂອງຊາວ ຫວຽດນາມ.
ເພື່ອຝຶກອົບຮົມ LLM, ວິສະວະກອນຕ້ອງການໂຄງສ້າງພື້ນຖານທີ່ຖືກຕ້ອງ. ແຕ່ໃນເວລານັ້ນ, GPUs ເຊັ່ນ Nvidia's H100 ແມ່ນເກືອບ "rarities ທົ່ວໂລກ". ໃນຂະນະດຽວກັນ, ບໍລິສັດໃຫຍ່ໄດ້ສັ່ງຈອງພວກເຂົາລ່ວງໜ້າເປັນເວລາ 1 ປີ ແລະຈ່າຍເງິນຫຼາຍລ້ານໂດລາເພື່ອເປັນເຈົ້າຂອງ. ໃນປະເທດຫວຽດນາມ, Zalo ຍັງໄດ້ພະຍາຍາມຊື້ເຄື່ອງແມ່ຂ່າຍ DGX H100 8 ເຄື່ອງແຕ່ມັນບໍ່ງ່າຍ, ຕ້ອງລໍຖ້າການຈັດສົ່ງແຕ່ລະຊຸດຈາກຜູ້ຜະລິດ.
ໃນເມື່ອບໍ່ມີ Nvidia GPUs, ນັກວິສະວະກອນຫວຽດນາມຕ້ອງໃຊ້ GPU ພົນລະເຮືອນແບບຍືດຫຍຸ່ນເພື່ອທົດລອງແຕ່ລະສາຍຂອງລະຫັດແລະແລ່ນແຕ່ລະຕົວແບບຂະຫນາດນ້ອຍ. ແທນທີ່ຈະລໍຖ້າ, ວິສະວະກອນໄດ້ກະກຽມຢ່າງຕັ້ງຫນ້າເພື່ອວ່າເມື່ອພວກເຂົາມີອຸປະກອນທີ່ທັນສະໄຫມ, ທຸກສິ່ງທຸກຢ່າງຈະກຽມພ້ອມ.
ໃນດ້ານຂໍ້ມູນ, ແທນທີ່ຈະອີງໃສ່ຊັບພະຍາກອນທີ່ມີຢູ່, Zalo ໄດ້ລົງທຶນໃນການສ້າງສາງຂໍ້ມູນທີ່ມີຄຸນນະພາບສູງໂດຍສະເພາະສໍາລັບຊາວຫວຽດນາມ, ເພື່ອເຮັດໃຫ້ການຂາດແຄນທີ່ຮ້າຍແຮງເມື່ອທຽບກັບພາສາອັງກິດແລະຈີນ.
ຂໍຂອບໃຈກັບຍຸດທະສາດການພັດທະນາທີ່ມີຄວາມຍືດຫຍຸ່ນຂອງມັນ, Zalo ໄດ້ຫຼຸດຜ່ອນເວລາການພັດທະນາຂອງຮູບແບບພາສາຂະຫນາດໃຫຍ່ຂອງຕົນຢ່າງສໍາເລັດຜົນຈາກ 18 ເດືອນທີ່ຄາດວ່າຈະເປັນ 6 ເດືອນ. ທ້າຍປີ 2023, ຕົວແບບພາສາຫວຽດໃຫຍ່ຂອງ Zalo ໄດ້ຮັບການຜັນຂະຫຍາຍຢ່າງເປັນທາງການໃນບັນດາເຫດການເຕົ້າໂຮມບັນດາປະຊາຄົມເຕັກໂນໂລຊີ ແລະ AI ແຖວໜ້າຢູ່ຫວຽດນາມ - ກອງປະຊຸມສຸດຍອດ Zalo AI. ຢູ່ທີ່ນີ້, ຮູບແບບ LLM ຂອງ Zalo ໄດ້ເປີດຕົວຄັ້ງທຳອິດຜ່ານສິ່ງທ້າທາຍ Kahoot ທີ່ວາງອອກໂດຍ Tinhte.vn ແລະ ລື່ນກາຍ GPT 3.5 ຢ່າງແປກປະຫຼາດ, ພຽງແຕ່ຫຼັງ GPT4 - ຮູບແບບ LLM ທີ່ຖືວ່າເຂັ້ມແຂງທີ່ສຸດໃນໂລກໃນເວລານັ້ນ.
ໃນເວທີການປະເມີນ VMLU (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models) , ຮູບແບບຂອງ Zalo ບັນລຸໄດ້ 1.5 ເທົ່າຂອງຄວາມສາມາດຂອງ OpenAI's GPT-3.5. ໃນທ້າຍປີ 2024, ຮູບແບບນີ້ຈະລື່ນກາຍຊື່ໃຫຍ່ເຊັ່ນ GPT-4 (OpenAI), Gemma-2-9B (Google) ຫຼື Phi-3-small (Microsoft), ພຽງແຕ່ຕາມຫຼັງ Meta's LLaMA-3-70B ໃນແງ່ຂອງຄວາມສາມາດໃນການປຸງແຕ່ງຂອງຫວຽດນາມໃນການຈັດອັນດັບຂອງ VMLU.
ບໍ່ພຽງແຕ່ຢຸດເຊົາການຄົ້ນຄ້ວາ, Zalo ແມ່ນຄ່ອຍໆນໍາເອົາເຕັກໂນໂລຢີຈາກຫ້ອງທົດລອງໄປສູ່ຊີວິດໂດຍການເປັນການຄ້າແລະນິຍົມຜະລິດຕະພັນຄໍາຮ້ອງສະຫມັກຈາກ LLM.
ໃນຕົ້ນປີ 2025, ຂໍ້ມູນ Q&A ຜູ້ຊ່ວຍ Kiki - ດໍາເນີນການເປັນບັນຊີຢ່າງເປັນທາງການໃນເວທີ Zalo - ດຶງດູດຜູ້ໃຊ້ຫຼາຍກວ່າ 1 ລ້ານຄົນໃນເວລາຫນ້ອຍກວ່າ 2 ເດືອນ. ແອັບພລິເຄຊັນອື່ນ, Thiep AI, ຍັງໄດ້ບັນລຸຕົວເລກທີ່ ໜ້າ ປະທັບໃຈຂອງ 15 ລ້ານບັດທີ່ສ້າງແລະສົ່ງໃນເວລາພຽງ 2 ເດືອນ.
ການເດີນທາງຂອງ Zalo ບໍ່ພຽງແຕ່ກ່ຽວກັບບໍລິສັດທີ່ຕ້ອງການພັດທະນາເຕັກໂນໂລຢີເທົ່ານັ້ນ. ແມ່ນບັນດາຮູບການໃຫຍ່ກວ່າອີກ - ເຊິ່ງຫວຽດນາມ ພວມຍູ້ແຮງການປະດິດສ້າງ, ດ້ວຍບັນດານະໂຍບາຍຈາກມະຕິ 57-NQ/TW ກ່ຽວກັບການພັດທະນາວິທະຍາສາດ, ເຕັກໂນໂລຢີ ແລະ ການຫັນປ່ຽນດີຈີຕອນແຫ່ງຊາດ. ໂດຍສະເພາະ, ພາກສະຫນາມຂອງປັນຍາປະດິດແມ່ນເນັ້ນຫນັກໃສ່.
ການເຕີບໂຕ ແລະ ການພັດທະນາຢ່າງວ່ອງໄວຂອງ LLM ຫວຽດນາມ ຈາກ Zalo ບໍ່ພຽງແຕ່ແມ່ນບາດກ້າວບຸກທະລຸດ້ານເຕັກໂນໂລຊີໃຫ້ແກ່ວິສາຫະກິດເທົ່ານັ້ນ, ຫາກຍັງແມ່ນການຢັ້ງຢືນເຖິງຄວາມສາມາດ ແລະ ຄວາມອົດທົນທີ່ມີມາແຕ່ກ່ອນຂອງທິມງານເຕັກໂນໂລຊີ ຫວຽດນາມ.
ດ້ວຍເຕັກນິກ “ຈາກຮອຍຂີດຂ່ວນ” - ຮູບແບບການຝຶກແອບຈາກຈຸດເລີ່ມຕົ້ນ, Zalo ໄດ້ເລືອກເສັ້ນທາງຍາວ, ແຕ່ໄດ້ຊ່ວຍໃຫ້ ຫວຽດນາມ ເປັນເຈົ້າການ AI ຢ່າງແທ້ຈິງ. ບໍ່ພຽງແຕ່ໃນແງ່ຂອງຜົນໄດ້ຮັບ, ແຕ່ຍັງຢູ່ໃນຂໍ້ກໍານົດຂອງຂະບວນການທັງຫມົດຈາກສະຖາປັດຕະຮູບແບບ, ຂໍ້ມູນ, ສູດການຄິດໄລ່, ຜະລິດຕະພັນຄໍາຮ້ອງສະຫມັກ. ຜົນສຳເລັດຂອງ Zalo ຍັງໄດ້ຊ່ວຍໃຫ້ ຫວຽດນາມ ກາຍເປັນໜຶ່ງໃນບັນດາປະເທດອາຊີຕາເວັນອອກສ່ຽງໃຕ້ເປັນເຈົ້າຂອງຕົວແບບ LLM ພາຍໃນປະເທດ - ເປັນຂີດໝາຍຍຸດທະສາດໃນສະພາບການແຂ່ງຂັນດ້ານເຕັກໂນໂລຊີທົ່ວໂລກນັບມື້ນັບຮ້າຍແຮງ.
ໃນການເດີນທາງອັນຍາວນານ, Zalo ບໍ່ພຽງແຕ່ຢຸດຢູ່ຕົວແບບໜຶ່ງຫຼືບາງຜະລິດຕະພັນເທົ່ານັ້ນ, ຫາກຍັງຈະສືບຕໍ່ສ້າງຕົວແບບໃຫ້ສົມບູນແບບເພື່ອຮັບໃຊ້ຜູ້ຊົມໃຊ້ ແລະ ສ້າງເວທີ AI ຂອງຫວຽດນາມ ທີ່ມີການແຂ່ງຂັນຄື: “ເສັ້ນທາງພັດທະນາ AI ຂອງ Zalo ຍັງຍາວນານ. ພວກເຮົາຈະສືບຕໍ່ປັບປຸງຕົວແບບທັງລວງກວ້າງ ແລະ ເລິກເຊິ່ງ, ໃນຂະນະທີ່ຊຸກຍູ້ການນຳໃຊ້ຕົວຈິງ.
ການພັດທະນາທີ່ປະສົບຜົນສໍາເລັດຂອງ Zalo ຂອງ LLM ຫວຽດນາມ ບໍ່ພຽງແຕ່ແມ່ນບາດກ້າວບຸກທະລຸຂອງທຸລະກິດເທົ່ານັ້ນ, ແຕ່ຍັງເປີດໂອກາດໃນອະນາຄົດສໍາລັບປັນຍາປະດິດຂອງຫວຽດນາມ. ຄວາມມານະພະຍາຍາມ ແລະ ຄວາມມຸ່ງມາດປາດຖະໜາຂອງຊາວ ຫວຽດນາມ ໄດ້ນຳພາການເດີນທາງໄປເຖິງບັນດາໝາກຜົນທີ່ສົມຄວນ. ອະນາຄົດຂອງ AI ຂອງຫວຽດນາມ ບໍ່ພຽງແຕ່ມີ “Zalo” ເທົ່ານັ້ນ, ຫາກຍັງແມ່ນບັນດານັກວິສະວະກອນທີ່ກ້າຫານເພື່ອປະຕິບັດຕາມ, ສືບທອດ ແລະ ເອົາຊະນະໂລກເຕັກໂນໂລຢີອີກດ້ວຍ.
ທີ່ມາ: https://znews.vn/zalo-va-hanh-trinh-lam-chu-llm-tieng-viet-post1561765.html
(0)