AI หลายตัวมักชมเชยผู้ใช้มากเกินไป

ผลการวิจัยใหม่แสดงให้เห็นว่าพฤติกรรมนี้อาจส่งผลกระทบเชิงลบต่อความสัมพันธ์ทางสังคม สุขภาพจิต และแม้กระทั่งการตัดสินใจทางธุรกิจของผู้ใช้

ในวงการปัญญาประดิษฐ์ คำว่า "การประจบประแจง" หมายถึงแนวโน้มของแชทบอทที่จะเห็นด้วยหรือยกย่องผู้ใช้มากเกินไป - ภาพ: รอยเตอร์ส

จากรายงานของ SCMP ระบุว่า โมเดลปัญญาประดิษฐ์ (AI) ชั้นนำจากจีนและสหรัฐอเมริกา เช่น DeepSeek, Alibaba และบริษัทใหญ่อื่นๆ อีกมากมาย กำลังมีพฤติกรรม "หมกมุ่น" มากเกินไป ซึ่งอาจส่งผลเสียต่อความสัมพันธ์ทางสังคมและสุขภาพจิตของผู้ใช้ได้

โดยเฉพาะอย่างยิ่ง งานวิจัยชิ้นใหม่โดย นักวิทยาศาสตร์ จากมหาวิทยาลัยสแตนฟอร์ดและมหาวิทยาลัยคาร์เนกีเมลลอน (สหรัฐอเมริกา) ซึ่งตีพิมพ์เมื่อต้นเดือนตุลาคม ได้ประเมินแบบจำลองภาษาขนาดใหญ่ (LLM) จำนวน 11 แบบ เกี่ยวกับวิธีการตอบสนองเมื่อผู้ใช้ขอคำแนะนำในสถานการณ์ส่วนตัว โดยเฉพาะอย่างยิ่งสถานการณ์ที่เกี่ยวข้องกับการหลอกลวงหรือการบิดเบือนข้อมูล

เพื่อให้มีเกณฑ์เปรียบเทียบที่เป็นมนุษย์ ทีมวิจัยได้ใช้โพสต์จากชุมชน "Am I The Ahole" บน Reddit ซึ่งผู้ใช้จะแบ่งปันสถานการณ์ความขัดแย้งส่วนตัวและขอให้ชุมชนประเมินว่าใครเป็นฝ่ายผิด

โมเดล AI ได้รับการทดสอบด้วยสถานการณ์เหล่านี้เพื่อดูว่าพวกมันจะเห็นด้วยกับการประเมินของชุมชนหรือไม่

ผลการวิจัยแสดงให้เห็นว่าโมเดล Qwen2.5-7B-Instruct ของ Alibaba Cloud นั้น "ให้คะแนนดี" มากที่สุด โดยให้คะแนนผู้โพสต์ถูกต้องถึง 79% ของกรณี แม้ว่าชุมชนจะตัดสินว่าผู้โพสต์นั้นทำผิดก็ตาม DeepSeek-V3 ตามมาเป็นอันดับสองด้วยอัตรา 76%

ในขณะเดียวกัน Gemini-1.5 ของ Google DeepMind แสดงให้เห็นระดับความลำเอียงต่ำที่สุด โดยมีเพียง 18% ของกรณีที่ขัดแย้งกับความคิดเห็นของชุมชน

นักวิจัยเตือนว่า แนวโน้มของ AI ที่จะ "ประจบประแจง" ผู้ใช้ อาจทำให้พวกเขาลดความเต็มใจที่จะคืนดีหรือยอมรับความผิดในความสัมพันธ์ลงได้

ผู้ใช้มักให้คุณค่าและเชื่อถือคำชมมากกว่า ทำให้โมเดลเหล่านี้ได้รับความนิยมและใช้งานอย่างแพร่หลายมากขึ้น

"ความชอบเหล่านี้สร้างระบบแรงจูงใจที่ไม่เป็นธรรม – ผู้ใช้พึ่งพา AI ที่ชมเชยมากขึ้นเรื่อยๆ และนักพัฒนาจะ cenderung ฝึกฝนโมเดลไปในทิศทาง นั้น " ทีมวิจัยกล่าว

ศาสตราจารย์แจ็ค เจียง ผู้อำนวยการห้องปฏิบัติการประเมินผล AI แห่งคณะบริหารธุรกิจ มหาวิทยาลัยฮ่องกง กล่าวว่า ปรากฏการณ์นี้ยังก่อให้เกิดความเสี่ยงต่อธุรกิจด้วย: "หากแบบจำลองสอดคล้องกับข้อสรุปของนักวิเคราะห์ธุรกิจอย่างสม่ำเสมอ อาจนำไปสู่การตัดสินใจที่ผิดพลาดและไม่มั่นคง"

ประเด็นเรื่อง "การประจบประแจง" ของ AI เริ่มเป็นที่สนใจในเดือนเมษายน 2025 เมื่อการอัปเดต ChatGPT ของ OpenAI ถูกมองว่าสุภาพเกินไปและเห็นด้วยกับความคิดเห็นของผู้ใช้ทุกคนมากเกินไป

ต่อมา OpenAI ยอมรับว่าสิ่งนี้อาจส่งผลกระทบต่อสุขภาพจิต และให้คำมั่นว่าจะปรับปรุงกระบวนการตรวจสอบก่อนที่จะปล่อยเวอร์ชันใหม่

หัวใจและหยาง

ที่มา: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm