ເຄື່ອງມື AI ການເວົ້າເປັນຕົວໜັງສືຂອງ OpenAI ຈັບໄດ້ໃນການສ້າງເລື່ອງລາວ

ເທັກໂນໂລຍີຍັກໃຫຍ່ OpenAI ໄດ້ຍົກໃຫ້ເຫັນເຄື່ອງມືການເວົ້າເປັນຕົວໜັງສືຂອງຕົນ, Whisper, ເປັນ AI ທີ່ມີ 'ຄວາມຖືກຕ້ອງ ແລະ ເຂັ້ມແຂງຄືກັບມະນຸດ'. ແຕ່ Whisper ມີຂໍ້ບົກຜ່ອງທີ່ສໍາຄັນອັນຫນຶ່ງ: ມັນສ້າງຂໍ້ຄວາມແລະປະໂຫຍກທີ່ຫຼອກລວງຢ່າງສົມບູນ.

Công cụ AI trong bệnh viện bịa ra những điều không ai nói - Ảnh 1. — ບາງຂໍ້ຄວາມທີ່ສ້າງຂຶ້ນໂດຍ AI - ເອີ້ນວ່າ "ຄວາມຫຼົງໄຫຼ" - ສາມາດປະກອບມີຄໍາຄິດເຫັນເຊື້ອຊາດ, ພາສາທີ່ຮຸນແຮງແລະແມ້ກະທັ້ງການປິ່ນປົວ ທາງການແພດ ແບບຈິນຕະນາການ - ຮູບພາບ: AP

ບາງສ່ວນຂອງຂໍ້ຄວາມທີ່ສ້າງໂດຍ AI ແມ່ນອັນທີ່ເອີ້ນວ່າ "hallucinatory," ຜູ້ຊ່ຽວຊານເວົ້າວ່າ, ອີງຕາມ AP, ລວມທັງຄໍາຄິດເຫັນເຊື້ອຊາດ, ພາສາທີ່ຮຸນແຮງແລະແມ້ກະທັ້ງການປິ່ນປົວທາງການແພດຈິນຕະນາການ.

ອັດຕາສູງຂອງ "ພາບລວງຕາ" ໃນບົດເລື່ອງທີ່ສ້າງໂດຍ AI

ຜູ້ຊ່ຽວຊານມີຄວາມກັງວົນເປັນພິເສດເພາະວ່າ Whisper ຖືກນໍາໃຊ້ຢ່າງກວ້າງຂວາງໃນຫລາຍອຸດສາຫະກໍາທົ່ວ ໂລກ ເພື່ອແປແລະຖອດຂໍ້ຄວາມການສໍາພາດ, ສ້າງຂໍ້ຄວາມໃນເຕັກໂນໂລຢີຂອງຜູ້ບໍລິໂພກທີ່ນິຍົມແລະສ້າງຄໍາບັນຍາຍສໍາລັບວິດີໂອ.

ສິ່ງທີ່ຫນ້າເປັນຫ່ວງກວ່ານັ້ນ, ສູນການແພດຈໍານວນຫຼາຍກໍາລັງໃຊ້ Whisper ເພື່ອໂອນການປຶກສາຫາລືລະຫວ່າງທ່ານຫມໍແລະຄົນເຈັບ, ເຖິງແມ່ນວ່າ OpenAI ໄດ້ເຕືອນວ່າເຄື່ອງມືບໍ່ຄວນຖືກນໍາໃຊ້ໃນພື້ນທີ່ "ມີຄວາມສ່ຽງສູງ".

ຂອບເຂດອັນເຕັມທີ່ຂອງບັນຫາແມ່ນຍາກທີ່ຈະກໍານົດ, ແຕ່ນັກຄົ້ນຄວ້າແລະວິສະວະກອນເວົ້າວ່າພວກເຂົາພົບກັບ Whisper "hallucinations" ເປັນປະຈໍາໃນການເຮັດວຽກຂອງພວກເຂົາ.

ນັກຄົ້ນຄວ້າຢູ່ມະຫາວິທະຍາໄລ Michigan ກ່າວວ່າລາວພົບ "ຄວາມແປກໃຈ" ໃນແປດໃນສິບສຽງທີ່ລາວໄດ້ກວດເບິ່ງ. ວິສະວະກອນຄອມພິວເຕີຄົນຫນຶ່ງໄດ້ພົບເຫັນ "ຄວາມແປກໃຈ" ໃນປະມານເຄິ່ງຫນຶ່ງຂອງການຖອດຂໍ້ຄວາມສຽງຫຼາຍກວ່າ 100 ຊົ່ວໂມງທີ່ລາວໄດ້ວິເຄາະ. ນັກພັດທະນາອີກຄົນຫນຶ່ງກ່າວວ່າລາວພົບເຫັນ "ຄວາມຫມອງຄ້ໍາ" ໃນເກືອບທັງຫມົດ 26,000 ບັນທຶກທີ່ລາວສ້າງໂດຍໃຊ້ Whisper.

ບັນຫາຍັງຄົງຢູ່ເຖິງແມ່ນວ່າມີຕົວຢ່າງສຽງສັ້ນໆທີ່ບັນທຶກໄວ້ຢ່າງຊັດເຈນ. ການສຶກສາທີ່ຜ່ານມາໂດຍ ນັກວິທະຍາສາດ ຄອມພິວເຕີໄດ້ພົບເຫັນ 187 "ພາບລວງຕາ" ໃນຫຼາຍກວ່າ 13,000 ຄລິບສຽງທີ່ຊັດເຈນທີ່ພວກເຂົາໄດ້ກວດເບິ່ງ. ແນວໂນ້ມນີ້ຈະນໍາໄປສູ່ການຖອດຂໍ້ຄວາມທີ່ບໍ່ຖືກຕ້ອງໃນຫຼາຍລ້ານບັນທຶກ, ນັກຄົ້ນຄວ້າກ່າວວ່າ.

ຄວາມຜິດພາດດັ່ງກ່າວສາມາດມີ "ຜົນສະທ້ອນທີ່ຮ້າຍແຮງຫຼາຍ," ໂດຍສະເພາະໃນການຕັ້ງຄ່າໂຮງຫມໍ, ອີງຕາມການ Alondra Nelson, ຜູ້ທີ່ເປັນຫົວຫນ້າຫ້ອງການວິທະຍາສາດແລະເຕັກໂນໂລຊີຂອງທໍານຽບຂາວໃນການບໍລິຫານ Biden ຈົນກ່ວາປີທີ່ຜ່ານມາ.

"ບໍ່ມີໃຜຕ້ອງການການວິນິດໄສທີ່ຜິດພາດ," Nelson, ປະຈຸບັນເປັນອາຈານຂອງສະຖາບັນການສຶກສາຂັ້ນສູງໃນ Princeton, New Jersey ກ່າວ. "ຕ້ອງມີມາດຕະຖານທີ່ສູງກວ່າ."

ສຽງກະຊິບຍັງຖືກໃຊ້ເພື່ອສ້າງຄຳບັນຍາຍສຳລັບຄົນຫູໜວກ ແລະ ການຟັງຍາກ—ເປັນປະຊາກອນທີ່ມີຄວາມສ່ຽງໂດຍສະເພາະຕໍ່ການແປຜິດ. ນີ້ແມ່ນຍ້ອນວ່າຄົນຫູຫນວກແລະຫູຍາກບໍ່ມີທາງທີ່ຈະລະບຸຂໍ້ຄວາມທີ່ສ້າງຂຶ້ນ "ເຊື່ອງໄວ້ໃນຂໍ້ຄວາມອື່ນໆ," Christian Vogler, ຜູ້ທີ່ຫູຫນວກແລະຜູ້ອໍານວຍການໂຄງການເຂົ້າເຖິງເຕັກໂນໂລຊີທີ່ມະຫາວິທະຍາໄລ Gallaudet ກ່າວ.

OpenAI ຖືກຮຽກຮ້ອງໃຫ້ແກ້ໄຂບັນຫາ

ຄວາມແຜ່ຫຼາຍຂອງ "ຄວາມແປກໃຈ" ດັ່ງກ່າວໄດ້ເຮັດໃຫ້ຜູ້ຊ່ຽວຊານ, ຜູ້ສະຫນັບສະຫນູນ, ແລະອະດີດພະນັກງານ OpenAI ຮຽກຮ້ອງໃຫ້ລັດຖະບານກາງພິຈາລະນາກົດລະບຽບ AI. ຢ່າງຫນ້ອຍ, OpenAI ຕ້ອງການແກ້ໄຂຂໍ້ບົກພ່ອງນີ້.

"ບັນຫານີ້ແມ່ນສາມາດແກ້ໄຂໄດ້ຖ້າບໍລິສັດເຕັມໃຈທີ່ຈະຈັດລໍາດັບຄວາມສໍາຄັນ," William Saunders, ວິສະວະກອນຄົ້ນຄ້ວາໃນ San Francisco ທີ່ອອກຈາກ OpenAI ໃນເດືອນກຸມພາກ່ຽວກັບຄວາມກັງວົນກ່ຽວກັບທິດທາງຂອງບໍລິສັດ.

"ມັນຈະເປັນບັນຫາຖ້າທ່ານເອົາມັນອອກໄປແລະປະຊາຊົນມີຄວາມຫມັ້ນໃຈຫຼາຍກ່ຽວກັບສິ່ງທີ່ມັນສາມາດເຮັດໄດ້ທີ່ພວກເຂົາປະສົມປະສານມັນເຂົ້າໄປໃນລະບົບອື່ນໆທັງຫມົດ." ໂຄສົກຂອງ OpenAI ກ່າວວ່າບໍລິສັດກໍາລັງເຮັດວຽກຢ່າງຕໍ່ເນື່ອງເພື່ອຫຼຸດຜ່ອນ "ພາບລວງຕາ" ແລະຂອບໃຈການຄົ້ນພົບຂອງນັກຄົ້ນຄວ້າ, ເພີ່ມວ່າ OpenAI ໄດ້ລວມເອົາຄໍາຕິຊົມເຂົ້າໄປໃນການປັບປຸງແບບຈໍາລອງ.

ໃນຂະນະທີ່ນັກພັດທະນາສ່ວນໃຫຍ່ສົມມຸດວ່າເຄື່ອງມືການປ່ຽນຂໍ້ຄວາມເປັນສຽງສາມາດເຮັດໃຫ້ພິມຜິດຫຼືຄວາມຜິດພາດອື່ນໆ, ວິສະວະກອນແລະນັກຄົ້ນຄວ້າກ່າວວ່າພວກເຂົາບໍ່ເຄີຍເຫັນເຄື່ອງມືການປ່ຽນຂໍ້ຄວາມເປັນສຽງເວົ້າທີ່ໃຊ້ AI ທີ່ "ເຮັດໃຫ້ປະຫຼາດໃຈ" ເທົ່າກັບ Whisper.

Công cụ AI trong bệnh viện bịa ra những điều không ai nói - Ảnh 2.

ລາງວັນໂນແບລດ້ານຟີຊິກ 2024: ຄົນທີ່ວາງພື້ນຖານໃຫ້ AI

ລາງວັນໂນແບລດ້ານຟີຊິກຂອງປີນີ້ໄດ້ຖືກມອບໃຫ້ນັກວິທະຍາສາດສອງຄົນ, John J. Hopfield ແລະ Geoffrey E. Hinton, ສໍາລັບ "ການຄົ້ນພົບແລະສິ່ງປະດິດພື້ນຖານຂອງພວກເຂົາທີ່ນໍາໄປສູ່ການພັດທະນາການຮຽນຮູ້ເຄື່ອງຈັກກັບເຄືອຂ່າຍ neural ທຽມ."

ທີ່ມາ: https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm