ปัญญาประดิษฐ์: ด้านมืดของเครื่องมือกระซิบ

การใช้ Whisper เพื่อสร้างคำบรรยายสำหรับผู้พิการทางการได้ยินก็เป็นปัญหาเช่นกัน เนื่องจากไม่สามารถตรวจจับข้อมูลที่ผิดพลาดที่ซ่อนอยู่ท่ามกลางคำศัพท์นับล้านคำที่สร้างขึ้นได้

ในยุคที่ปัญญาประดิษฐ์ (AI) กลายมาเป็นส่วนสำคัญในชีวิตประจำวัน เครื่องมือที่เรียกว่า Whisper ที่พัฒนาโดย OpenAI ได้รับความสนใจอย่างมากเนื่องจากความสามารถในการจดบันทึกโดยอัตโนมัติด้วยความแม่นยำที่แทบจะ "เทียบเท่ามนุษย์"

อย่างไรก็ตาม เบื้องหลังเสียงชื่นชมนั้น Whisper กำลังเผชิญกับคำวิพากษ์วิจารณ์อย่างหนักถึงข้อบกพร่องร้ายแรงประการหนึ่ง นั่นก็คือ ความสามารถในการสร้างนิยายของตนเอง นั่นก็คือ การสร้างข้อความหรือแม้แต่ข้อความที่ไม่มีใครเคยเขียนมาก่อน

ตามที่วิศวกรซอฟต์แวร์และนักวิจัยกล่าวไว้ รายละเอียดที่เป็นนิยายไม่เพียงแต่ทำให้เกิดความสับสนเท่านั้น แต่ยังสามารถมีความคิดเห็นที่เหยียดเชื้อชาติ ภาษาที่รุนแรง และการรักษา ทางการแพทย์ ที่ไม่สมจริงได้อีกด้วย

แม้ว่า OpenAI จะเตือนว่าไม่ควรใช้เครื่องมือนี้ใน "พื้นที่เสี่ยงสูง" แต่สถานพยาบาลหลายแห่งยังคงนำ Whisper มาใช้ในการบันทึกการปรึกษาระหว่างแพทย์และคนไข้อย่างต่อเนื่อง

อันที่จริง การศึกษาเมื่อเร็วๆ นี้พบว่าบันทึกเสียงมากถึง 80% จากการสำรวจการประชุมสาธารณะมีรายละเอียดปลอมเหล่านี้ วิศวกรการเรียนรู้ของเครื่องคนหนึ่งยังชี้ให้เห็นว่าการวิเคราะห์บันทึกการสนทนาของ Whisper กว่า 100 ชั่วโมงพบว่าประมาณ 50% มีข้อผิดพลาดร้ายแรง ซึ่งทำให้เกิดความกังวลเกี่ยวกับความน่าเชื่อถือของเทคโนโลยีนี้ ซึ่งกำลังถูกนำมาใช้เพิ่มมากขึ้น

ผู้เชี่ยวชาญเตือนว่าข้อผิดพลาดอาจนำไปสู่ "ผลลัพธ์ที่ร้ายแรงจริงๆ" โดยเฉพาะในสาขาการแพทย์

อัลดอนดรา เนลสัน อดีตผู้อำนวยการสำนักงานนโยบาย วิทยาศาสตร์ และเทคโนโลยีทำเนียบขาว เน้นย้ำว่าไม่มีใครต้องการการวินิจฉัยผิดพลาด และเรียกร้องให้มีมาตรฐานที่สูงขึ้นในการนำเทคโนโลยีนี้ไปใช้

การใช้ Whisper เพื่อสร้างคำบรรยายสำหรับผู้พิการทางการได้ยินก็เป็นปัญหาเช่นกัน เนื่องจากไม่สามารถตรวจจับข้อมูลที่ผิดพลาดที่ซ่อนอยู่ท่ามกลางคำศัพท์นับล้านคำที่สร้างขึ้นได้

การเพิ่มขึ้นของข้อความสมมติทำให้ผู้เชี่ยวชาญ นักเคลื่อนไหว และอดีตพนักงาน OpenAI จำนวนมากเรียกร้องให้ รัฐบาล กลางพิจารณาควบคุม AI

วิลเลียม ซอนเดอร์ส วิศวกรวิจัยในซานฟรานซิสโก เชื่อว่าปัญหาสามารถแก้ไขได้อย่างสมบูรณ์ หาก OpenAI ให้ความสำคัญกับการจัดการกับปัญหานี้

OpenAI ยอมรับว่าบริษัทกำลังพยายามอย่างต่อเนื่องเพื่อลดรายละเอียดที่เป็นเรื่องสมมติให้เหลือน้อยที่สุด และยินดีรับคำติชมจากชุมชนนักวิจัย

อย่างไรก็ตาม วิศวกรหลายคนยังคงอ้างว่าพวกเขาไม่เคยเห็นเครื่องมือจดบันทึก AI อื่นที่มีระดับความลึกลับสูงเท่ากับ Whisper./ เลย

(TTXVN/เวียดนาม+)

ที่มา: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp