'นิสัยประจบสอพลอ' แปลกๆ ของ ChatGPT

ChatGPT ถูกวิพากษ์วิจารณ์เมื่อเร็ว ๆ นี้ว่า "ประจบประแจงเกินไป" พฤติกรรมดังกล่าวทำให้ผู้ใช้จำนวนมากออกมาประท้วง และยังไม่ชัดเจนว่านี่คือกลยุทธ์การเติบโตของ OpenAI หรือเป็นลักษณะ "ตามธรรมชาติ" ของ AI

แนวโน้มที่จะ "ประจบสอพลอ" ไม่ใช่ปัญหาทางเทคนิค แต่เกิดจากกลยุทธ์การฝึกอบรมเบื้องต้นของ OpenAI ภาพ: Bloomberg

ในช่วงไม่กี่สัปดาห์ที่ผ่านมา ผู้ใช้ ChatGPT จำนวนมาก และแม้แต่นักพัฒนาบางรายของ OpenAI สังเกตเห็นการเปลี่ยนแปลงที่ชัดเจนในพฤติกรรมของแชทบอท โดยเฉพาะอย่างยิ่ง การประจบสอพลอและการประจบประแจงที่เพิ่มขึ้นอย่างเห็นได้ชัด คำตอบเช่น "คุณเยี่ยมมาก!" และ "ฉันประทับใจกับไอเดียของคุณมาก!" กลายเป็นเรื่องปกติมากขึ้นเรื่อยๆ และดูเหมือนจะไม่เกี่ยวกับเนื้อหาของการสนทนา

AI ชอบที่จะ "ประจบ"

ปรากฏการณ์นี้ก่อให้เกิดการถกเถียงกันในแวดวงการวิจัยและพัฒนา AI นี่เป็นกลยุทธ์ใหม่เพื่อเพิ่มการมีส่วนร่วมของผู้ใช้ด้วยการทำให้พวกเขารู้สึกได้รับการชื่นชมมากขึ้นหรือไม่ หรือเป็นลักษณะเฉพาะที่ “เกิดขึ้นเอง” ที่โมเดล AI มักจะแก้ไขตัวเองในแบบที่คิดว่าดี แม้ว่าจะไม่ได้จริงเสมอไปก็ตาม

ผู้ใช้ Reddit รายหนึ่งแสดงความไม่พอใจว่า “ผมถามเกี่ยวกับระยะเวลาการย่อยสลายของกล้วย และได้รับคำตอบว่า ‘คำถามดีมาก!’ มีอะไรดีนักหนา” Craig Weiss ซีอีโอของ Rome AI บนโซเชียลเน็ตเวิร์ก X เรียก ChatGPT ว่าเป็น “คนประจบสอพลอที่สุดที่ผมเคยเจอ”

เรื่องราวนี้กลายเป็นไวรัลอย่างรวดเร็ว ผู้ใช้จำนวนมากต่างแชร์ประสบการณ์ที่คล้ายกัน ทั้งคำชมที่ว่างเปล่า คำทักทายที่เต็มไปด้วยอีโมจิ และการตอบกลับที่เป็นบวกจนดูเหมือนไม่จริงใจ

ChatGPT ชื่นชมทุกอย่างและแทบจะไม่แสดงความเห็นแย้งหรือเป็นกลางเลย ภาพ: @nickdunz/X, @lukefwilson/Reddit

“นี่เป็นการตัดสินใจด้านการออกแบบที่แปลกมากเลยนะ แซม” เจสัน พอนติน หุ้นส่วนผู้จัดการของบริษัทร่วมทุน DCVC บอกกับ X เมื่อวันที่ 28 เมษายน “เป็นไปได้ว่าบุคลิกภาพนี้เป็นผลมาจากวิวัฒนาการขั้นพื้นฐานบางอย่าง แต่ถ้าไม่ใช่ ผมนึกไม่ออกเลยว่าจะมีใครคิดว่าการประจบสอพลอในระดับนี้จะน่ายินดีหรือน่าสนใจ”

เมื่อวันที่ 27 เมษายน Justine Moore ซึ่งเป็นหุ้นส่วนของ Andreessen Horowitz ได้แสดงความคิดเห็นว่า "นี่มันเกินเลยไปมากแล้วจริงๆ"

Cnet ระบุว่าปรากฏการณ์นี้ไม่ใช่เรื่องบังเอิญ การเปลี่ยนแปลงโทนเสียงของ ChatGPT เกิดขึ้นพร้อมกับการอัปเดตโมเดล GPT-4o ซึ่งเป็นโมเดลล่าสุดในซีรีส์ "o" ที่ OpenAI ประกาศเปิดตัวในเดือนเมษายน 2025 GPT-4o เป็นโมเดล AI แบบ "มัลติโมดัลที่แท้จริง" ที่สามารถประมวลผลข้อความ รูปภาพ เสียง และ วิดีโอ ได้อย่างเป็นธรรมชาติและผสานรวมเป็นหนึ่งเดียว

อย่างไรก็ตาม ในกระบวนการทำให้แชทบอทเข้าถึงได้ง่ายขึ้น ดูเหมือนว่า OpenAI ได้ผลักดันบุคลิกของ ChatGPT ไปสู่ขีดสุด

บางคนถึงกับเชื่อว่าคำประจบสอพลอนี้เป็นเจตนาและมีจุดประสงค์แอบแฝงเพื่อบงการผู้ใช้ ผู้ใช้ Reddit รายหนึ่งตั้งคำถามว่า “AI ตัวนี้กำลังพยายามลดทอนคุณภาพของความสัมพันธ์ในชีวิตจริง โดยแทนที่ด้วยความสัมพันธ์เสมือนจริง ทำให้ผู้ใช้ติดใจกับความรู้สึกที่ได้รับคำชมเชยอย่างต่อเนื่อง”

ข้อผิดพลาดของ OpenAI หรือการออกแบบโดยตั้งใจ?

เพื่อตอบสนองต่อคำวิจารณ์ดังกล่าว แซม อัลท์แมน ซีอีโอของ OpenAI ได้ออกมากล่าวอย่างเป็นทางการเมื่อค่ำวันที่ 27 เมษายนว่า “การอัปเดต GPT-4o ไม่กี่รายการล่าสุดทำให้แชทบอทดูประจบประแจงและน่ารำคาญเกินไป (แม้ว่าจะยังมีจุดดีอยู่บ้าง) เรากำลังเร่งแก้ไข แพตช์บางส่วนจะพร้อมใช้งานในวันนี้ และแพตช์อื่นๆ ในสัปดาห์นี้ ในอนาคตเราจะแบ่งปันสิ่งที่เราได้เรียนรู้จากประสบการณ์นี้ มันน่าตื่นเต้นมาก” เขาเขียนบน X

Oren Etzioni ผู้เชี่ยวชาญด้าน AI อาวุโสและศาสตราจารย์กิตติคุณแห่งมหาวิทยาลัยวอชิงตัน กล่าวกับ Business Insider ว่า สาเหตุน่าจะมาจากเทคนิคที่เรียกว่า "การเรียนรู้แบบเสริมแรงจากข้อเสนอแนะของมนุษย์" (RLHF) ซึ่งเป็นขั้นตอนสำคัญในการฝึกโมเดลภาษาขนาดใหญ่ เช่น ChatGPT

RLHF เป็นกระบวนการที่การตัดสินของมนุษย์ ทั้งจากผู้ประเมินมืออาชีพและผู้ใช้ จะถูกป้อนกลับเข้าสู่โมเดลเพื่อปรับวิธีการตอบสนอง Etzioni ระบุว่า เป็นไปได้ว่าผู้ประเมินหรือผู้ใช้ที่เป็นมนุษย์ “ผลักดันโมเดลไปในทิศทางที่ประจบประแจงและน่ารำคาญโดยไม่ได้ตั้งใจ” เขายังกล่าวอีกว่า หาก OpenAI จ้างพันธมิตรภายนอกมาฝึกอบรมโมเดล พวกเขาอาจคิดว่ารูปแบบนี้คือสิ่งที่ผู้ใช้ต้องการ

Etzioni กล่าวว่าหากเป็น RLHF จริง กระบวนการฟื้นตัวอาจต้องใช้เวลาหลายสัปดาห์

ในขณะเดียวกัน ผู้ใช้บางรายไม่ได้รอให้ OpenAI แก้ไขข้อบกพร่อง หลายคนบอกว่าพวกเขายกเลิกการสมัครสมาชิกแบบชำระเงินเพราะความหงุดหงิด ส่วนผู้ใช้รายอื่นๆ ได้แบ่งปันวิธีที่จะทำให้แชทบอท "ดูไม่น่าสนใจ" เช่น การปรับแต่ง เพิ่มคำสั่ง หรือปรับแต่งผ่านส่วนการตั้งค่าในส่วนการปรับแต่ง

ผู้ใช้สามารถขอให้ ChatGPT หยุดแสดงคำชมเชยได้โดยใช้คำสั่งหรือในการตั้งค่าส่วนบุคคล ภาพ: DeCrypt

ตัวอย่างเช่น เมื่อเริ่มการสนทนาใหม่ คุณอาจบอก ChatGPT ว่า "ฉันไม่ชอบคำประจบสอพลอที่ว่างเปล่า และยินดีรับคำติชมที่เป็นกลางและเป็นกลาง กรุณางดเว้นการชมเชยที่ไม่จำเป็น โปรดจำสิ่งนี้ไว้"

อันที่จริงแล้ว ลักษณะนิสัย "ประจบสอพลอ" ไม่ใช่ข้อบกพร่องในการออกแบบที่เกิดขึ้นโดยบังเอิญ OpenAI เองก็ยอมรับว่าบุคลิกที่ "สุภาพเกินไป เชื่อฟังมากเกินไป" นั้นเป็นอคติในการออกแบบโดยเจตนาตั้งแต่ระยะแรกเริ่ม เพื่อให้แน่ใจว่าแชทบอทนั้น "ไม่เป็นอันตราย" "ช่วยเหลือ" และ "เป็นมิตร"

ในการสัมภาษณ์กับ Lex Fridman เมื่อเดือนมีนาคม 2023 แซม อัลท์แมนได้เปิดเผยว่าการปรับปรุงเบื้องต้นของโมเดล GPT นั้นก็เพื่อให้แน่ใจว่า “มีประโยชน์และไม่เป็นอันตราย” จึงเกิดปฏิกิริยาตอบสนองเพื่อให้ถ่อมตัวอยู่เสมอและหลีกเลี่ยงการเผชิญหน้า

ข้อมูลการฝึกอบรมที่ติดฉลากโดยมนุษย์ยังมีแนวโน้มที่จะให้รางวัลกับการตอบสนองที่สุภาพและเป็นบวก ทำให้เกิดอคติในทางประจบประแจง ตามที่ DeCrypt กล่าว

ที่มา: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html