ปัญญาประดิษฐ์: ด้านมืดของเครื่องมือกระซิบ

การใช้ Whisper เพื่อสร้างคำบรรยายสำหรับผู้พิการทางการได้ยินก็ถือเป็นปัญหาร้ายแรงเช่นกัน เพราะไม่สามารถตรวจจับข้อมูลเท็จที่ซ่อนเร้นอยู่ในคำศัพท์นับล้านคำที่สร้างขึ้นได้

ในยุคที่ปัญญาประดิษฐ์ (AI) กำลังกลายมาเป็นส่วนสำคัญที่ขาดไม่ได้ในชีวิตประจำวัน เครื่องมือที่เรียกว่า Whisper ที่พัฒนาโดย OpenAI ได้ดึงดูดความสนใจอย่างมาก เนื่องจากความสามารถในการจดบันทึกโดยอัตโนมัติที่มี "ความแม่นยำเกือบจะเท่าเทียมกับมนุษย์"

อย่างไรก็ตาม เบื้องหลังเสียงชื่นชมนี้ Whisper กำลังเผชิญกับคำวิจารณ์อย่างหนักถึงข้อบกพร่องร้ายแรงประการหนึ่ง นั่นคือ ความสามารถในการสร้างข้อมูลขึ้นมาโดยอัตโนมัติ นั่นคือ การสร้างข้อความหรือแม้แต่ข้อความที่ไม่มีใครเคยเขียนมาก่อน

ตามที่วิศวกรซอฟต์แวร์และนักวิจัยกล่าวไว้ รายละเอียดที่สมมติขึ้นไม่เพียงแต่ทำให้เกิดความสับสนเท่านั้น แต่ยังมีความคิดเห็นที่เหยียดเชื้อชาติ ภาษาที่รุนแรง และการรักษา ทางการแพทย์ ที่ไม่สมจริงอีกด้วย

แม้ว่า OpenAI จะได้เตือนว่าไม่ควรใช้เครื่องมือนี้ใน “พื้นที่เสี่ยงสูง” แต่สถานพยาบาลหลายแห่งยังคงนำ Whisper มาใช้ในการบันทึกการปรึกษาระหว่างแพทย์กับผู้ป่วยอย่างต่อเนื่อง

ในความเป็นจริง การศึกษาล่าสุดพบว่าการบันทึกเสียงจากการสำรวจการประชุมสาธารณะมากถึง 80% มีรายละเอียดสมมติเหล่านี้ วิศวกรการเรียนรู้ของเครื่องยังได้ชี้ให้เห็นว่าการวิเคราะห์บทสนทนา Whisper กว่า 100 ชั่วโมงแสดงให้เห็นว่าประมาณ 50% มีข้อผิดพลาดร้ายแรง เรื่องนี้ทำให้เกิดข้อกังวลเกี่ยวกับความน่าเชื่อถือของเทคโนโลยีซึ่งมีการใช้กันอย่างแพร่หลายมากขึ้น

ผู้เชี่ยวชาญเตือนว่าข้อผิดพลาดอาจก่อให้เกิด “ผลลัพธ์ที่ร้ายแรงจริงๆ” โดยเฉพาะในสาขาการแพทย์ บี

Alondra Nelson อดีตผู้อำนวยการสำนักงานนโยบาย วิทยาศาสตร์ และเทคโนโลยีทำเนียบขาว เน้นย้ำว่าไม่มีใครต้องการการวินิจฉัยผิดพลาด และเรียกร้องให้มีมาตรฐานที่สูงขึ้นในการประยุกต์ใช้เทคโนโลยีนี้

การใช้ Whisper เพื่อสร้างคำบรรยายสำหรับผู้พิการทางการได้ยินก็ถือเป็นปัญหาร้ายแรงเช่นกัน เพราะไม่สามารถตรวจจับข้อมูลเท็จที่ซ่อนเร้นอยู่ในคำศัพท์นับล้านคำที่สร้างขึ้นได้

การเพิ่มขึ้นของข้อความสมมติทำให้ผู้เชี่ยวชาญ นักเคลื่อนไหว และอดีตพนักงานของ OpenAI จำนวนมากเรียกร้องให้ รัฐบาล กลางพิจารณาควบคุม AI

วิลเลียม ซอนเดอร์ส วิศวกรวิจัยในซานฟรานซิสโก เชื่อว่าปัญหาเหล่านี้สามารถแก้ไขได้อย่างสมบูรณ์ หาก OpenAI ให้ความสำคัญกับการประมวลผลเป็นอันดับแรก

OpenAI ยอมรับว่าบริษัทกำลังทำงานอย่างต่อเนื่องเพื่อลดรายละเอียดที่สมมติขึ้น และยินดีรับคำติชมจากชุมชนนักวิจัย

อย่างไรก็ตาม วิศวกรหลายคนยังคงอ้างว่าพวกเขาไม่เคยเห็นเครื่องมือจดบันทึกด้วย AI ที่มีระดับความสมจริงเท่ากับ Whisper มาก่อน

(สำนักข่าวเวียดนาม/เวียดนาม+)

ที่มา: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp