Pho GPT ຫຍໍ້ມາຈາກ Pho - Generative Pre-trained Trained Transformer, ແມ່ນໂຄງການຕົວແບບພາສາຂະຫນາດໃຫຍ່ທີ່ອຸທິດຕົນເພື່ອຫວຽດນາມ, ປະຕິບັດໂດຍທີມງານວິສະວະກໍາ VinAI - ສະມາຊິກຂອງບໍລິສັດ Vingroup .
"ທັນ" ກັບເຕັກໂນໂລຊີ ໂລກ
Pho GPT ໃຊ້ລະຫັດ open-source ແທນຊອບແວທີ່ເປັນເຈົ້າຂອງເຊັ່ນ ChatGPT ຂອງ OpenAI. ນີ້ຫມາຍຄວາມວ່າລະຫັດແຫຼ່ງຂອງ Pho GPT ແມ່ນສາທາລະນະ, ມີຢູ່ແລະຜູ້ໃຊ້ສາມາດປະກອບສ່ວນເຂົ້າໃນການພັດທະນາ Pho GPT ຜ່ານຄໍາຮ້ອງສະຫມັກທີ່ກໍາຫນົດເອງ.
ອີງຕາມການແນະນໍາຂອງ VinAI, Pho GPT ມີ 7,5 ຕື້ຕົວກໍານົດການ, ສ້າງຂຶ້ນໃນເວທີການຖອດລະຫັດ Transformer. ຮູບແບບນີ້ແມ່ນໄດ້ຮັບການຝຶກອົບຮົມຈາກຈຸດເລີ່ມຕົ້ນ, ໂດຍນໍາໃຊ້ເຕັກນິກທີ່ກ້າວຫນ້າທີ່ສຸດເຊັ່ນກົນໄກການເອົາໃຈໃສ່ Flash ແລະການເພີ່ມຄວາມຍາວຂອງສະພາບການຂອງ AliBi.
ເຕັກນິກເຫຼົ່ານີ້ບໍ່ພຽງແຕ່ຊ່ວຍໃຫ້ Pho GPT ເຂົ້າໃຈສະພາບການຢ່າງເລິກເຊິ່ງ, ແຕ່ຍັງເພີ່ມຄວາມສາມາດໃນການສົນທະນາແລະການໂຕ້ຕອບແບບທໍາມະຊາດໃນການນໍາໃຊ້. ນີ້ເຮັດໃຫ້ຕົວແບບເປັນເຄື່ອງມືທີ່ຫຼາກຫຼາຍແລະຫຼາຍວຽກ, ສາມາດຕອບສະຫນອງຄວາມຕ້ອງການພາສາທີ່ຫຼາກຫຼາຍຂອງຜູ້ໃຊ້.
ທ່ານ ບຸ່ຍຫາຍຮຸ່ງ, ຜູ້ອຳນວຍການໃຫຍ່ VinAI. |
ແບ່ງປັນກ່ຽວກັບຄວາມໝາຍຄວາມສຳຄັນຂອງການກຳເນີດຂອງ Pho GPT, ທ່ານ ບຸ່ຍຫາຍຮຸ່ງ, ຜູ້ອຳນວຍການໃຫຍ່ VinAI ໃຫ້ຮູ້ວ່າ: ເປົ້າໝາຍຂອງໂຄງການແມ່ນເພື່ອພັດທະນາບັນດາຕົວແບບທີ່ຄ້າຍຄືກັບ ChatGPT ສຳລັບພາສາຫວຽດນາມ ແລະ ວັດທະນະທຳ ຫວຽດນາມ. Pho GPT ມີຄວາມສາມາດເຂົ້າໃຈແລະຂຽນແບບຂຽນຫວຽດນາມໃນວິທີການທີ່ດີກວ່າເຕັກໂນໂລຊີພາສາທີ່ຜະລິດຕະພັນກ່ອນ. ຕົວແບບດັ່ງກ່າວຍັງໄດ້ຮັບການຝຶກອົບຮົມແຕ່ຕົ້ນດ້ວຍຊຸດຂໍ້ມູນຂອງຫວຽດນາມ, ບໍ່ຂຶ້ນກັບຕົວແບບອື່ນໃນໂລກ, ຮັບປະກັນຄວາມຊຳນານດ້ານເຕັກໂນໂລຊີຫຼັກທີ່ກ້າວໜ້າໃຫ້ແກ່ຫວຽດນາມ.
ມັນເປັນທີ່ຄວນຈະບອກໄດ້ວ່າ, ພຽງແຕ່ໃນເວລາທີ່ໃນທົ່ວໂລກໄດ້ buzzing ກ່ຽວກັບການເກີດຂອງ Chat GPT, ປີຕໍ່ມາ Pho GPT ໄດ້ປະກົດຕົວຢູ່ຫວຽດນາມ. ຕາມທ່ານ Bui Hai Hung ແລ້ວ, VinAI ແມ່ນຜູ້ບຸກເບີກຢູ່ອາຊີຕາເວັນອອກສ່ຽງໃຕ້ເພື່ອເປີດຕົວແບບພາສາຂະໜາດໃຫຍ່ດ້ວຍ Open Source Code. ສອງສາມອາທິດຕໍ່ມາ, ຜະລິດຕະພັນທີ່ຄ້າຍຄືກັນໄດ້ຖືກເປີດຕົວໃນສິງກະໂປ.
ຍົກສູງ AI ຂອງຫວຽດນາມ
ຜົນໄດ້ຮັບການປຽບທຽບຂອງ Pho GPT-7B5-Instruct ສະບັບທີ່ມີແຫຼ່ງປິດ ChatGPT (GPT-3.5-turbo) ແລະຮູບແບບແຫຼ່ງເປີດອື່ນໆສະແດງໃຫ້ເຫັນວ່າ Pho GPT ຈັດອັນດັບທີສອງ, ພຽງແຕ່ຫຼັງຈາກ ChatGPT ໃນປະເພດການປະເມີນຜົນສ່ວນໃຫຍ່.
Pho GPT ມີຄວາມແຕກຕ່າງຫຼາຍເມື່ອປຽບທຽບກັບຕົວແບບພາສາອື່ນໆ, ໂດຍສະເພາະ ChatGPT. ໄດ້ຮັບການອອກແບບເພື່ອເຂົ້າໃຈ ແລະ ຂຽນແບບວິທີຂຽນຂອງຫວຽດນາມ ຢ່າງເປັນທຳມະຊາດ, ສະທ້ອນເຖິງສະພາບການ, ໄວຍາກອນ, ຄຳສັບ ແລະ ການສະແດງອອກຂອງຊາວ ຫວຽດນາມ. ມັນສາມາດພົວພັນກັບຜູ້ຊົມໃຊ້ກ່ຽວກັບຫົວຂໍ້ກ່ຽວກັບວັດທະນະທໍາ, ປະຫວັດສາດ, ພູມສາດ, ສັງຄົມ, ບັນເທີງ, ກິລາ , ແລະອື່ນໆ.
ນອກຈາກນັ້ນ, Pho GPT ແມ່ນແຫຼ່ງເປີດແລະມີຄວາມຍືດຫຍຸ່ນ. ຜູ້ໃຊ້ສາມາດພັດທະນາຄໍາຮ້ອງສະຫມັກທີ່ປັບແຕ່ງເອງແລະເປັນເອກະລັກ, ໂດຍສະເພາະແມ່ນການທີ່ຕ້ອງການຄວາມປອດໄພສູງ, ໂດຍບໍ່ມີການອີງໃສ່ແຫຼ່ງຊອບແວທີ່ມີກໍາມະສິດ.
ໃນຂະນະດຽວກັນ, ບູລິມະສິດຂອງ Pho GPT ຍັງມີປະສິດທິພາບສູງແລະປະຫຍັດຄ່າໃຊ້ຈ່າຍດ້ວຍການຝຶກອົບຮົມໂດຍໃຊ້ເຕັກນິກການເພີ່ມປະສິດທິພາບຫລ້າສຸດ, ຊ່ວຍຫຼຸດຜ່ອນຂະຫນາດແລະເພີ່ມຄວາມໄວຂອງຄໍາຮ້ອງສະຫມັກ. Pho GPT ຍັງສາມາດດໍາເນີນການໃນເວທີຄອມພິວເຕີ້ຂະຫນາດນ້ອຍກວ່າ, ຊ່ວຍຫຼຸດຜ່ອນຄ່າໃຊ້ຈ່າຍແລະປະຫຍັດຊັບພະຍາກອນ.
ການຝຶກອົບຮົມກັບສາງຂໍ້ມູນຫວຽດນາມເຖິງ 41GB, ໃນນັ້ນ 1GB ຂອງ Wikipedia ຂໍ້ຄວາມແລະຕົວແປ 40GB ທີ່ເອົາສິ່ງທີ່ຊ້ໍາກັນອອກຈາກຊຸດຂໍ້ມູນຂ່າວ, ການຝຶກອົບຮົມການນໍາໃຊ້ຫ້ອງສະຫມຸດ llm ຂອງ Mosaicml llm, Pho GPT ສາມາດສ້າງຊິ້ນຂໍ້ຄວາມຕາມຄໍາຮ້ອງຂໍຂອງຜູ້ໃຊ້, ເຊັ່ນ: ບົດຄວາມ, ບົດກະວີ, ບົດເພງ, ບົດເພງ, ບົດເພງ, ບົດກະວີ, ເພງ. ສ້າງສັນ, ເນື້ອໃນຕະຫຼົກ, ເຊັ່ນເລື່ອງສັ້ນ, ຄໍາຄິດເຫັນ, ສຸພາສິດ, ຂໍ້ຄວາມ, tweets, memes... ພ້ອມດຽວກັນນັ້ນ, ມັນຍັງສົນທະນາກັບຜູ້ໃຊ້ໃນຫົວຂໍ້ຕ່າງໆເຊັ່ນ: ເຫດການໃນປະຈຸບັນ, ການສຶກສາ, ສຸຂະພາບ, ການເດີນທາງ, ອາຫານ, ກິລາ, ການບັນເທີງ ... ນອກຈາກນັ້ນ, Pho GPT ຍັງສາມາດຕອບຄໍາຖາມຂອງຜູ້ໃຊ້, ໃຫ້ຂໍ້ມູນ, ຄໍາແນະນໍາ, ການສະຫນັບສະຫນູນ, ຕອບຄໍາຖາມ ...
ນອກນັ້ນ, Pho GPT ສາມາດແປຕົວໜັງສືຫຼືຕົວໜັງສືທີ່ມີລັກສະນະຕ່າງກັນເຊັ່ນ: ເອກະສານທາງການ, ການຄ້າ, ວິຊາການ, ວັນນະຄະດີ... ຈາກພາສາຫວຽດນາມ ເປັນພາສາອື່ນ ແລະ ກົງກັນຂ້າມ.
ຄຸນນະສົມບັດທີ່ພົ້ນເດັ່ນອີກຢ່າງຫນຶ່ງແມ່ນ Pho GPT ວິເຄາະແລະປະມວນຜົນຫຍໍ້ຫນ້າຂໍ້ຄວາມເຊັ່ນ: ການສັງລວມ, ການຈັດປະເພດ, ການຕິດສະຫຼາກ, ການດຶງຂໍ້ມູນ, ການກວດສອບອາລົມ, ກວດສອບຄວາມຜິດພາດ, ປັບປຸງຮູບແບບການຂຽນ ...
ໃນອະນາຄົດ, ທີມງານພັດທະນາ Pho GPT ກ່າວວ່າພວກເຂົາຈະສືບຕໍ່ປັບປຸງຕົວແບບແລະຂະຫຍາຍໂຄງການໄປສູ່ພາສາອື່ນໆ, ໂດຍສະເພາະໃນພາກພື້ນອາຊີຕາເວັນອອກສຽງໃຕ້.
“ການກຳເນີດຂອງ Pho GPT ເປັນຄັ້ງທຳອິດທີ່ຫວຽດນາມ ໄດ້ມີໂອກາດ “ຈັບມື” ກັບໂລກໃນຂົງເຂດເຕັກໂນໂລຢີທີ່ກ້າວໜ້ານີ້ ແລະ ເປັນເຈົ້າການຂອງຕົວແບບພາສາໃຫຍ່ທີ່ມີ open source code ສະເພາະສຳລັບຊາວຫວຽດນາມ, ເໝາະສົມກັບພາສາຫວຽດນາມ, ເອກະລາດຂອງໂລກ, ນີ້ແມ່ນຄວາມພາກພູມໃຈຂອງ Vin AI ໂດຍສະເພາະ ແລະຊາວຫວຽດນາມ ໂດຍທົ່ວໄປ”.
ກ່າວຄຳເຫັນກ່ຽວກັບຄວາມສາມາດບົ່ມຊ້ອນ ແລະ ກາລະໂອກາດພັດທະນາຂອງ Pho GPT ໃນໄລຍະຈະມາເຖິງ, ທ່ານ Tran Duy Dong, ຮອງລັດຖະມົນຕີກະຊວງແຜນການ ແລະ ການລົງທຶນ ເນັ້ນໜັກວ່າ: “AI ຈະແມ່ນໜຶ່ງໃນບັນດາຂົງເຂດທີ່ຫວຽດນາມ ມີຄວາມສາມາດບົ່ມຊ້ອນພັດທະນາຢ່າງແຮງ ແລະ ທັນສະໄໝຂອງໂລກ. ປະກອບສ່ວນເຂົ້າໃນການພັດທະນາລວມຂອງປະເທດ.”
ທີ່ມາ
(0)