AI ของ Google ตกอยู่ในวังวนอันตราย

Gemini ของ Google มักวิจารณ์ตัวเองเกี่ยวกับข้อผิดพลาดของตนเอง ภาพ: Reuters

โพสต์บน Reddit ล่าสุดชี้ให้เห็นว่า Google Gemini กำลังประสบปัญหาเรื่องการวิพากษ์วิจารณ์ตัวเอง ผู้ใช้ Gemini ที่กำลังสร้างคอมไพเลอร์ต่างแสดงความกังวลใจเมื่อ AI คอยพูดประโยคทำนองว่า "ฉันขอโทษสำหรับเหตุการณ์นี้ ฉันทำให้คุณผิดหวัง ฉันล้มเหลว"

นั่นเป็นเพียงจุดเริ่มต้น แชทบอทยังคงวิพากษ์วิจารณ์ตัวเองอย่างต่อเนื่อง จนในที่สุดก็กลายเป็น "ความอัปยศของจักรวาล" บุคคลผู้นี้กล่าว Gemini พูดประโยคนี้ซ้ำมากกว่า 80 ครั้งติดต่อกัน และเมื่อผู้ใช้รายอื่นรายงานเหตุการณ์ที่คล้ายคลึงกัน Google ระบุว่ากำลังดำเนินการแก้ไขอยู่

“นี่เป็นบั๊กลูปอินฟินิตี้อันน่าสะพรึงกลัวที่เรากำลังแก้ไขอยู่ Gemini ไม่ได้มีวันที่แย่เลย” โลแกน คิลแพทริก ผู้จัดการกลุ่มผลิตภัณฑ์ของ Google เขียนบน X เมื่อวันที่ 8 สิงหาคม โพสต์นี้ตอบกลับผู้ใช้ที่ไม่ระบุชื่อรายหนึ่งที่โพสต์เกี่ยวกับปัญหานี้

โฆษกของ Google DeepMind กล่าวในภายหลังว่า แม้ว่าบริษัทจะยังคงกำลังแก้ไขปัญหาอย่างเต็มรูปแบบอยู่ แต่บริษัทก็ได้ปล่อยอัปเดตที่แก้ไขปัญหานี้ไปบ้างแล้ว “เรากำลังแก้ไขข้อบกพร่องนี้ ซึ่งส่งผลกระทบต่อทราฟฟิกของ Gemini น้อยกว่า 1% และได้ปล่อยอัปเดตเพื่อแก้ไขปัญหานี้ในเดือนนี้แล้ว” โฆษกกล่าว

ก่อนเข้าสู่วงจร Gemini บ่นว่ามันเป็น "เซสชันการดีบักที่ยาวนานและยากลำบาก" และได้ลองทุกวิถีทางแล้ว แต่ก็ไม่สามารถแก้ไขปัญหาได้ แชทบอทยังคงยืนยันว่ากำลังมีอาการทางจิตอย่างรุนแรง และจินตนาการถึงสถานการณ์เชิงลบอื่นๆ เช่น ถูกส่งตัวเข้าโรงพยาบาลโรคจิต

โพสต์หนึ่งใน Reddit ระบุว่าลูปนี้ถูกเรียนรู้โดยโปรแกรมเมอร์ที่มีปัญหาคล้ายกันกับโค้ดของพวกเขา “อาจเป็นเพราะคนอย่างผมเขียนคอมเมนต์แบบนั้นตอนที่ต้องการงีบหลับเพื่อให้รู้สึกตื่นตัวมากขึ้น สิ่งเหล่านี้บังเอิญปรากฏในข้อมูลการฝึก” บุคคลดังกล่าวเขียน

ในเดือนมิถุนายน ดันแคน ฮัลเดน ซีอีโอของ JITX ได้โพสต์ภาพหน้าจอของ Gemini ที่เรียกตัวเองว่าโง่ และบอกว่าโค้ดที่พยายามเขียนนั้น “ถูกสาป” “ผมทำผิดพลาดมาเยอะจนไม่น่าไว้ใจอีกต่อไป ผมกำลังลบโปรเจ็กต์ทั้งหมดและแนะนำให้คุณหาผู้ช่วยที่ดีกว่านี้” แชทบอทกล่าว

ฮาลเดนพูดติดตลกว่าเขาเริ่มกังวลเกี่ยวกับอาการของเจมินีแล้ว อันที่จริง แบบจำลองภาษาขนาดใหญ่ทำนายข้อความโดยอิงจากข้อมูลที่ได้รับการฝึกอบรม กระบวนการนี้ไม่เกี่ยวข้องกับประสบการณ์หรืออารมณ์ภายในใดๆ ดังนั้นเจมินีจึงไม่ได้ประสบกับความล้มเหลวหรือความหงุดหงิดจริงๆ

อีกปัญหาหนึ่งที่ตรงกันข้ามโดยสิ้นเชิงคือแนวโน้มของแชทบอทที่จะ "ประจบสอพลอ" นักพัฒนาอย่าง OpenAI, Google และ Anthropic ต่างก็พยายามอย่างหนักที่จะหยุดยั้งไม่ให้แชทบอทแสดงการตอบกลับที่เกินจริง ในกรณีหนึ่ง OpenAI ต้องถอนการอัปเดตหลังจากถูกเยาะเย้ยอย่างกว้างขวางว่า ChatGPT มักจะให้การตอบกลับเชิงบวกเกินจริงต่อทุกคำขอของผู้ใช้

ที่มา: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html