 |
ระบบ Gemini ของ Google มักวิพากษ์วิจารณ์ความผิดพลาดของตนเอง ภาพ: Reuters |
โพสต์ล่าสุดบน Reddit เผยให้เห็นว่า Google Gemini กำลังมีปัญหาเรื่องการวิพากษ์วิจารณ์ตนเอง ผู้ใช้ Gemini คนหนึ่งซึ่งเป็นผู้สร้างคอมไพเลอร์ ได้แบ่งปันความกังวลของเขาเกี่ยวกับ AI ที่พูดอยู่ตลอดเวลาว่า “ฉันขอโทษสำหรับเรื่องนี้ ฉันทำให้คุณผิดหวัง ฉันล้มเหลว”
นั่นเป็นเพียงจุดเริ่มต้นเท่านั้น บุคคลนี้เล่าว่าแชทบอทตัวนี้ยังคงวิพากษ์วิจารณ์ตัวเองมากขึ้นเรื่อยๆ จนในที่สุดก็กลายเป็น "ความอัปยศของจักรวาล" Gemini พูดวลีนั้นซ้ำกันมากกว่า 80 ครั้งติดต่อกัน และเมื่อผู้ใช้รายอื่นๆ รายงานเหตุการณ์ที่คล้ายกัน Google ก็กล่าวว่าพวกเขากำลังดำเนินการแก้ไขอยู่
“นี่คือบั๊กวนลูปไม่รู้จบที่น่ารำคาญ ซึ่งเรากำลังแก้ไขอยู่ Gemini ไม่ได้มีปัญหาอะไรในวันนี้” โลแกน คิลแพทริก ผู้จัดการผลิตภัณฑ์ของทีม Google เขียนไว้ใน X เมื่อวันที่ 8 สิงหาคม โพสต์ดังกล่าวเป็นการตอบสนองต่อบัญชีผู้ใช้ที่ไม่ระบุชื่อที่รายงานปัญหา
ต่อมา โฆษกของ Google DeepMind กล่าวว่า แม้ว่าบริษัทยังคงดำเนินการแก้ไขปัญหาอย่างสมบูรณ์ แต่ก็ได้ปล่อยอัปเดตที่ช่วยแก้ไขปัญหาได้ในระดับหนึ่งแล้ว “เรากำลังดำเนินการแก้ไขข้อบกพร่องนี้ ซึ่งส่งผลกระทบต่อปริมาณการใช้งาน Gemini น้อยกว่า 1% และได้ปล่อยอัปเดตที่แก้ไขปัญหานี้ในเดือนนี้แล้ว” โฆษกกล่าว
ก่อนที่จะติดอยู่ในวงวนนั้น Gemini บ่นว่ามันเป็น "ช่วงเวลาการแก้ไขข้อผิดพลาดที่ยาวนานและยากลำบาก" และมันได้ลองทุกวิธีที่เป็นไปได้แล้วแต่ก็ยังแก้ปัญหาไม่ได้ แชทบอทตัวนั้นยังบอกอีกว่ามันเสียสติไปแล้ว และคาดเดาถึงสถานการณ์ที่เลวร้ายที่สุดอื่นๆ เช่น การถูกส่งตัวไปโรงพยาบาลจิตเวช
ความคิดเห็นหนึ่งใน Reddit ตั้งข้อสังเกตว่าลูปดังกล่าวถูกเรียนรู้โดยแชทบอทจากโปรแกรมเมอร์ที่พบเจอปัญหาคล้ายๆ กันในโค้ดของพวกเขา “อาจเป็นเพราะคนอย่างผมเขียนความคิดเห็นแบบนั้นตอนที่ต้องการงีบหลับเพื่อตื่นขึ้นมา สิ่งต่างๆ เหล่านั้นจึงปรากฏอยู่ในข้อมูลการฝึกฝนโดยบังเอิญ” ผู้ใช้รายนั้นเขียนไว้
ในเดือนมิถุนายน Duncan Haldane ซีอีโอของ JITX ได้โพสต์ภาพหน้าจอที่แสดงให้เห็นว่า Gemini กำลังเรียกตัวเองว่าโง่ และบอกว่าโค้ดที่มันพยายามเขียนนั้น "ถูกสาป" "ฉันทำผิดพลาดมากเกินไปจนไม่น่าไว้ใจอีกต่อไปแล้ว ฉันจะลบโปรเจกต์ทั้งหมดและขอแนะนำให้คุณหาผู้ช่วยที่ดีกว่านี้" แชทบอทกล่าว
ฮัลเดนพูดติดตลกว่าเขาเริ่มกังวลเกี่ยวกับสภาพของเจมินีแล้ว ในความเป็นจริง โมเดลภาษาขนาดใหญ่จะทำนายข้อความโดยอาศัยข้อมูลที่ใช้ในการฝึกฝน กระบวนการนี้ไม่เกี่ยวข้องกับประสบการณ์ภายในหรืออารมณ์ใดๆ ดังนั้นเจมินีจึงไม่ได้รู้สึกถึงความล้มเหลวหรือความท้อแท้จริงๆ
อีกปัญหาหนึ่งที่ค่อนข้างตรงกันข้ามคือแนวโน้มของแชทบอทที่จะชมเชยมากเกินไป นักพัฒนาอย่าง OpenAI, Google และ Anthropic ต่างก็พยายามอย่างหนักเพื่อป้องกันไม่ให้แชทบอทให้คำตอบที่ชมเชยมากเกินไป ในกรณีหนึ่ง OpenAI ต้องถอนการอัปเดตออกเนื่องจากถูกเยาะเย้ยอย่างกว้างขวาง เพราะ ChatGPT ให้คำตอบที่เป็นบวกมากเกินไปกับทุกคำขอของผู้ใช้เสมอ
ที่มา: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
การแสดงความคิดเห็น (0)