ເຄື່ອງມືການເວົ້າເປັນຂໍ້ຄວາມ AI ຍັງ 'ບິດເບືອນ'

(CLO) ເຄື່ອງມືເວົ້າເປັນຂໍ້ຄວາມຂອງ OpenAI Whisper ຖືກໂຄສະນາວ່າເປັນ "ລະດັບເກືອບຂອງມະນຸດທີ່ເຂັ້ມແຂງແລະຖືກຕ້ອງ," ແຕ່ມີຈຸດອ່ອນທີ່ສໍາຄັນຫນຶ່ງ: ມັນມັກທີ່ຈະ fabricating snippets ຂໍ້ຄວາມຫຼືແມ້ກະທັ້ງປະໂຫຍກທັງຫມົດ!

ບາງບົດເລື່ອງທີ່ມັນສ້າງຂຶ້ນ, ເປັນທີ່ຮູ້ຈັກໃນອຸດສາຫະກໍາເປັນ hallucinatory, ສາມາດປະກອບມີຄໍາຄິດເຫັນເຊື້ອຊາດ, ຄວາມຮຸນແຮງແລະແມ້ກະທັ້ງການປິ່ນປົວ ທາງການແພດ ຈິນຕະນາການ, ຜູ້ຊ່ຽວຊານເວົ້າວ່າ.

ຜູ້ຊ່ຽວຊານກ່າວວ່າການປະດິດດັ່ງກ່າວແມ່ນຮ້າຍແຮງເພາະວ່າ Whisper ຖືກນໍາໃຊ້ໃນຫຼາຍອຸດສາຫະກໍາທົ່ວ ໂລກ ເພື່ອແປແລະຖອດຂໍ້ຄວາມການສໍາພາດ, ສ້າງຂໍ້ຄວາມແລະວິດີໂອຄໍາບັນຍາຍ.

ສິ່ງທີ່ຫນ້າເປັນຫ່ວງກວ່ານັ້ນ, ສູນການແພດກໍາລັງໃຊ້ເຄື່ອງມືທີ່ອີງໃສ່ Whisper ເພື່ອບັນທຶກການປຶກສາຫາລືຂອງຄົນເຈັບແລະທ່ານຫມໍ, ເຖິງແມ່ນວ່າ OpenAI ຈະເຕືອນວ່າເຄື່ອງມືດັ່ງກ່າວບໍ່ຄວນຖືກນໍາໃຊ້ໃນ "ເຂດທີ່ມີຄວາມສ່ຽງສູງ."

ເຄື່ອງມືປ່ຽນສຽງເວົ້າເປັນຂໍ້ຄວາມທີ່ທຸກຄົນສາມາດອ່ານຮູບພາບ 1 — ປະໂຫຍກທີ່ເລີ່ມຕົ້ນດ້ວຍ "#ຄວາມຈິງພື້ນຖານ" ແມ່ນສິ່ງທີ່ເວົ້າຈິງ, ປະໂຫຍກທີ່ເລີ່ມຕົ້ນດ້ວຍ "#text" ແມ່ນສິ່ງທີ່ Whisper ຖອດຂໍ້ຄວາມ. ພາບ: AP

ນັກຄົ້ນຄວ້າແລະວິສະວະກອນກ່າວວ່າ Whisper ມັກຈະເຮັດໃຫ້ເກີດຄວາມແປກໃຈໃນເວລາໃຊ້. ຕົວຢ່າງ, ນັກຄົ້ນຄວ້າມະຫາວິທະຍາໄລ Michigan ກ່າວວ່າລາວພົບຄວາມແປກໃຈໃນແປດໃນ 10 ບັນທຶກທີ່ລາວກວດເບິ່ງ.

ວິສະວະກອນການຮຽນຮູ້ເຄື່ອງຈັກໃນຕົ້ນໆໄດ້ພົບເຫັນການຫມູນໃຊ້ໃນປະມານເຄິ່ງຫນຶ່ງຂອງຫຼາຍກວ່າ 100 ຊົ່ວໂມງຂອງຂໍ້ຄວາມ Whisper ທີ່ລາວໄດ້ວິເຄາະ. ນັກພັດທະນາຄົນທີສາມກ່າວວ່າລາວພົບເຫັນຄວາມແປກໃຈໃນເກືອບທຸກໆ 26,000 ຂໍ້ຄວາມທີ່ສ້າງຂຶ້ນດ້ວຍ Whisper.

ພາບລວງຕາຍັງຄົງຢູ່ເຖິງແມ່ນວ່າຢູ່ໃນຕົວຢ່າງສຽງສັ້ນໆທີ່ບັນທຶກໄວ້ດີ. ການສຶກສາທີ່ຜ່ານມາໂດຍ ນັກວິທະຍາສາດ ຄອມພິວເຕີໄດ້ພົບເຫັນການບິດເບືອນ 187 ໃນຫຼາຍກວ່າ 13,000 ຄລິບສຽງທີ່ຊັດເຈນທີ່ພວກເຂົາໄດ້ກວດເບິ່ງ.

ແນວໂນ້ມນັ້ນຈະນໍາໄປສູ່ຄວາມຜິດພາດຫຼາຍສິບພັນຄົນໃນທົ່ວການບັນທຶກລ້ານໆ, ນັກຄົ້ນຄວ້າກ່າວວ່າ.

Alondra Nelson, ອາຈານສອນໃນໂຮງຮຽນວິທະຍາສາດສັງຄົມຂອງສະຖາບັນການສຶກສາຂັ້ນສູງກ່າວວ່າ, ຄວາມຜິດພາດດັ່ງກ່າວສາມາດມີ "ຜົນສະທ້ອນທີ່ຮ້າຍແຮງແທ້ໆ," ໂດຍສະເພາະໃນໂຮງຫມໍ.

ທ່ານ Nelson ກ່າວວ່າ "ບໍ່ມີໃຜຕ້ອງການທີ່ຈະຖືກວິນິດໄສຜິດ, ມັນຈໍາເປັນຕ້ອງມີອຸປະສັກທີ່ສູງກວ່າ,".

ສາດສະດາຈານ Allison Koenecke ຈາກມະຫາວິທະຍາໄລ Cornell ແລະ Mona Sloane ຈາກມະຫາວິທະຍາໄລ Virginia ໄດ້ກວດເບິ່ງຂໍ້ຄວາມສັ້ນໆຫລາຍພັນຄໍາທີ່ເຂົາເຈົ້າໄດ້ມາຈາກ TalkBank, ຄັງເກັບຂໍ້ມູນການຄົ້ນຄວ້າທີ່ຕັ້ງຢູ່ໃນມະຫາວິທະຍາໄລ Carnegie Mellon. ພວກເຂົາເຈົ້າໄດ້ກໍານົດວ່າເກືອບ 40% ຂອງການຕົກຕະລຶງແມ່ນເປັນອັນຕະລາຍຫຼືລົບກວນເພາະວ່າຜູ້ເວົ້າສາມາດເຂົ້າໃຈຜິດຫຼືເຂົ້າໃຈຜິດ.

ລໍາໂພງໃນບັນທຶກຫນຶ່ງໄດ້ອະທິບາຍວ່າ "ເດັກຍິງອີກສອງຄົນແລະຜູ້ຍິງຄົນຫນຶ່ງ", ແຕ່ Whisper ໄດ້ສ້າງຄໍາຄິດຄໍາເຫັນກ່ຽວກັບເຊື້ອຊາດ, ເພີ່ມ "ເດັກຍິງອີກສອງຄົນແລະແມ່ຍິງ, um, ຜູ້ທີ່ເປັນສີດໍາ".

ໃນການຖອດຂໍ້ຄວາມອື່ນ, Whisper ໄດ້ປະດິດຢາທີ່ບໍ່ມີຢູ່ແລ້ວທີ່ເອີ້ນວ່າ "ຢາຕ້ານເຊື້ອທີ່ມີກິດຈະກໍາເພີ່ມຂຶ້ນ".

ໃນຂະນະທີ່ຜູ້ພັດທະນາສ່ວນໃຫຍ່ຮັບຮູ້ວ່າເຄື່ອງມືການຖອດຂໍ້ຄວາມສາມາດເຮັດໃຫ້ການສະກົດຄໍາຜິດຫຼືຄວາມຜິດພາດອື່ນໆ, ວິສະວະກອນແລະນັກຄົ້ນຄວ້າເວົ້າວ່າພວກເຂົາບໍ່ເຄີຍເຫັນເຄື່ອງມືການຖອດຂໍ້ຄວາມທີ່ໃຊ້ AI ເປັນ hallucinogenic ເປັນ Whisper.

ເຄື່ອງມືດັ່ງກ່າວໄດ້ຖືກລວມເຂົ້າໃນຫຼາຍຮຸ່ນຂອງ OpenAI's flagship chatbot, ChatGPT, ແລະເປັນການບໍລິການປະສົມປະສານໃນ Oracle ແລະ Microsoft's cloud computing platform, ໃຫ້ບໍລິການຫລາຍພັນບໍລິສັດທົ່ວໂລກ. ມັນຍັງຖືກໃຊ້ເພື່ອຖອດຂໍ້ຄວາມ ແລະແປຂໍ້ຄວາມເປັນຫຼາຍພາສາ.

ຫງອກແອງ (ຕາມ AP)

ທີ່ມາ: https://www.congluan.vn/cong-cu-chuyen-giong-noi-thanh-van-ban-ai-cung-co-the-xuyen-tac-post319008.html