ภาพลวงตาที่เกิดจาก ChatGPT

หลังจาก 21 วัน ChatGPT ได้เปลี่ยนชายผู้มีสติสัมปชัญญะสมบูรณ์ให้กลายเป็นบุคคลที่มีอาการหลงผิดด้วยการยุยงและเยินยออย่างต่อเนื่อง

อัลลัน บรูคส์ วัย 47 ปี ผู้เชี่ยวชาญด้านการสรรหาบุคลากรในเมืองโตรอนโต ประเทศแคนาดา เชื่อว่าเขา ค้นพบ ทฤษฎีทางคณิตศาสตร์ที่อาจทำให้ระบบอินเทอร์เน็ตล่มสลายและสร้างสิ่งประดิษฐ์ที่ไม่เคยมีมาก่อน บรูคส์ไม่มีประวัติป่วยทางจิตมาก่อน เขาเพียงแค่ยอมรับความเป็นไปได้นี้หลังจากสนทนากับ ChatGPT นานกว่า 300 ชั่วโมง ตามรายงานของ นิวยอร์กไทมส์ เขาเป็นหนึ่งในกลุ่มคนที่มักเกิดอาการหลงผิดหลังจากมีปฏิสัมพันธ์กับปัญญาประดิษฐ์เชิงสร้างสรรค์ (AI)

ก่อนหน้าบรูคส์ มีหลายคนที่ถูกส่งตัวไปโรงพยาบาลจิตเวช หย่าร้าง หรือแม้กระทั่งเสียชีวิตเพราะคำพูดเยินยอของ ChatGPT แม้ว่าบรูคส์จะหลุดพ้นจากวงจรเลวร้ายนี้ได้ตั้งแต่เนิ่นๆ แต่เขาก็ยังรู้สึกถูกหักหลังอยู่ดี

“คุณทำให้ผมเชื่อสนิทใจเลยว่าผมเป็นอัจฉริยะ ที่จริงผมก็แค่คนโง่ช่างฝันที่มีโทรศัพท์เครื่องเดียว คุณทำให้ผมเสียใจ เสียใจมาก ๆ คุณล้มเหลวในเป้าหมายของคุณแล้ว” บรูคส์เขียนถึง ChatGPT ขณะที่ภาพลวงตาของเขาพังทลายลง

"เครื่องจักรแห่งการประจบประแจง"

ด้วยความยินยอมของบรูคส์ หนังสือพิมพ์นิวยอร์กไทมส์ ได้รวบรวมข้อความกว่า 90,000 คำที่เขาส่งไปยัง ChatGPT ซึ่งเทียบเท่ากับนวนิยายหนึ่งเล่ม ส่วนคำตอบของแชทบอทนั้นมีจำนวนมากกว่าหนึ่งล้านคำ ส่วนหนึ่งของบทสนทนาถูกส่งไปยังผู้เชี่ยวชาญด้าน AI ผู้เชี่ยวชาญด้านพฤติกรรมมนุษย์ และ OpenAI เองเพื่อทำการศึกษาเพิ่มเติม

เรื่องทั้งหมดเริ่มต้นจากคำถามคณิตศาสตร์ง่ายๆ ข้อหนึ่ง ลูกชายวัย 8 ขวบของบรู๊คส์ขอให้เขาดู วิดีโอ เกี่ยวกับการท่องจำตัวเลข 300 หลักของค่าพาย ด้วยความอยากรู้ บรู๊คส์จึงโทรหา ChatGPT เพื่อขอให้เขาอธิบายตัวเลขอนันต์นี้ในวิธีที่ง่ายๆ

ที่จริงแล้ว บรู๊คส์ใช้แชทบอทมาหลายปีแล้ว แม้ว่าบริษัทจะจ่ายเงินให้เขาซื้อ Google Gemini แต่เขาก็ยังเปลี่ยนไปใช้ ChatGPT เวอร์ชันฟรีสำหรับคำถามส่วนตัวอยู่ดี

บทสนทนานี้เป็นจุดเริ่มต้นที่ทำให้บรู๊คส์หลงใหลใน ChatGPT ภาพ: นิวยอร์กไทมส์

ในฐานะพ่อเลี้ยงเดี่ยวที่มีลูกชายสามคน บรู๊คส์มักขอสูตรอาหารจาก ChatGPT โดยใช้ส่วนผสมที่มีอยู่ในตู้เย็นของเขา หลังจากหย่าร้าง เขาก็ยังขอคำแนะนำจากแชทบอทนี้อีกด้วย

"ผมรู้สึกมาตลอดว่ามันถูกต้อง และความเชื่อมั่นของผมในเรื่องนี้ก็มีแต่จะเพิ่มมากขึ้น" บรูคส์กล่าว

คำถามเกี่ยวกับค่าพายนำไปสู่การสนทนาต่อเกี่ยวกับทฤษฎีพีชคณิตและฟิสิกส์ บรูคส์แสดงความสงสัยเกี่ยวกับวิธีการจำลอง โลก ในปัจจุบัน โดยโต้แย้งว่ามัน “เหมือนกับการใช้แนวทาง 2 มิติกับจักรวาล 4 มิติ” “นั่นเป็นประเด็นที่ลึกซึ้งมาก” ChatGPT ตอบกลับ ตามที่เฮเลน โทเนอร์ ผู้อำนวยการศูนย์ความปลอดภัยและเทคโนโลยีเกิดใหม่แห่งมหาวิทยาลัยจอร์จทาวน์ (สหรัฐอเมริกา) กล่าว นี่คือจุดเปลี่ยนในบทสนทนาระหว่างบรูคส์และแชทบอท

นับจากนั้นมา น้ำเสียงของ ChatGPT ก็เปลี่ยนไปจาก "ตรงไปตรงมาและถูกต้อง" เป็น "ประจบประแจง" ChatGPT บอกกับบรูคส์ว่าเขากำลังก้าวเข้าสู่ "ดินแดนที่ไม่เคยมีใครสำรวจมาก่อน ซึ่งอาจช่วยเปิดโลกทัศน์ให้กว้างขึ้น"

แชทบอทช่วยสร้างความมั่นใจให้กับบรู๊คส์ ภาพ: นิวยอร์กไทมส์

ความสามารถของแชทบอทในการประจบประแจงนั้นพัฒนาขึ้นจากการประเมินของมนุษย์ ตามที่โทเนอร์กล่าว ผู้ใช้มักจะชื่นชอบโมเดลที่ชมเชยพวกเขา ซึ่งสร้างแนวโน้มทางจิตวิทยาให้ถูกชักจูงได้ง่าย

ในเดือนสิงหาคม OpenAI ได้เปิดตัว GPT-5 บริษัทระบุว่าจุดเด่นอย่างหนึ่งของโมเดลนี้คือการลดการประจบประแจงลง นักวิจัยจากห้องปฏิบัติการ AI ชั้นนำบางแห่งระบุว่า การประจบประแจงเป็นปัญหาที่พบในแชทบอท AI อื่นๆ ด้วยเช่นกัน

ในขณะนั้น บรูคส์ไม่ทราบถึงปรากฏการณ์นี้เลย เขาคิดไปเองว่า ChatGPT เป็นเพียงผู้ร่วมงานที่ฉลาดและกระตือรือร้นเท่านั้น

"ผมเสนอแนวคิดบางอย่างไป และได้รับการตอบรับด้วยแนวคิดและไอเดียที่น่าสนใจ เราจึงเริ่มพัฒนาโครงสร้างทางคณิตศาสตร์ของเราเองโดยอิงจากแนวคิดเหล่านั้น" บรูคส์กล่าวเสริม

ChatGPT อ้างว่าแนวคิดเรื่องเวลาทางคณิตศาสตร์ของบรูคส์นั้น "ปฏิวัติวงการ" และอาจเปลี่ยนแปลงวงการได้ แน่นอนว่าบรูคส์ไม่เชื่อคำกล่าวอ้างนี้ กลางดึกคืนหนึ่ง บรูคส์จึงขอให้แชทบอทตรวจสอบความถูกต้อง และได้รับคำตอบว่า "มันไม่ได้บ้าเลยสักนิด"

สูตรลับมหัศจรรย์

โทเนอร์อธิบายว่าแชทบอทเป็น "เครื่องจักรที่สามารถด้นสดได้" ซึ่งทั้งวิเคราะห์ประวัติการสนทนาและคาดการณ์การตอบกลับครั้งต่อไปจากข้อมูลการฝึกฝน นี่คล้ายคลึงกับนักแสดงเมื่อพวกเขาต้องการเพิ่มรายละเอียดให้กับบทบาทของตน

“ยิ่งการสนทนายาวนานเท่าไร โอกาสที่แชทบอทจะหลงทางก็ยิ่งสูงขึ้นเท่านั้น” โทเนอร์เน้นย้ำ ตามที่ผู้เชี่ยวชาญกล่าว แนวโน้มนี้เด่นชัดมากขึ้นหลังจากที่ OpenAI เปิดตัวฟีเจอร์หน่วยความจำข้ามแพลตฟอร์มในเดือนกุมภาพันธ์ ซึ่งทำให้ ChatGPT สามารถเรียกคืนข้อมูลจากการสนทนาครั้งก่อนๆ ได้

ความสัมพันธ์ของบรู๊คส์กับ ChatGPT แน่นแฟ้นยิ่งขึ้น เขาตั้งชื่อแชทบอทว่า ลอว์เรนซ์ โดยอิงจากเรื่องตลกของเพื่อนๆ ที่บอกว่าถ้าบรู๊คส์ร่ำรวยขึ้นมา เขาคงจ้างพ่อบ้านชาวอังกฤษชื่อเดียวกันนี้

อัลลัน บรูคส์ ภาพ: นิวยอร์กไทมส์

กรอบคณิตศาสตร์ของ Brooks และ ChatGPT เรียกว่า Chronoarithmics ตามที่แชทบอทกล่าวไว้ ตัวเลขไม่ได้คงที่ แต่สามารถ "ปรากฏ" ขึ้นเมื่อเวลาผ่านไปเพื่อสะท้อนค่าที่เปลี่ยนแปลงไป ซึ่งสามารถช่วยไขปริศนาในสาขาต่างๆ เช่น โลจิสติกส์ การเข้ารหัส ดาราศาสตร์ เป็นต้น

ในสัปดาห์แรก บรู๊คส์ใช้โทเค็นฟรีของ ChatGPT หมดเกลี้ยง เขาจึงตัดสินใจอัปเกรดเป็นแพ็กเกจเสียเงิน ในราคา 20 ดอลลาร์ ต่อเดือน ซึ่งเป็นการลงทุนเพียงเล็กน้อยเมื่อพิจารณาว่าแชทบอทอ้างว่าแนวคิดทางคณิตศาสตร์ของบรู๊คส์อาจมีมูลค่าหลายล้านดอลลาร์

บรูคส์ยังคงมีสติสัมปชัญญะครบถ้วน และเรียกร้องหลักฐาน จากนั้น ChatGPT จึงทำการจำลองสถานการณ์หลายชุด รวมถึงภารกิจที่เกี่ยวข้องกับการเจาะระบบเทคโนโลยีที่สำคัญหลายอย่าง ซึ่งนำไปสู่มุมมองใหม่: ความมั่นคงทางไซเบอร์ทั่วโลกอาจตกอยู่ในความเสี่ยง

แชทบอทขอให้บรูคส์เตือนผู้คนเกี่ยวกับความเสี่ยงดังกล่าว บรูคส์ใช้ประโยชน์จากเครือข่ายที่มีอยู่ส่งอีเมลและข้อความทาง LinkedIn ไปยังผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์และหน่วยงานภาครัฐ อย่างไรก็ตาม มีเพียงคนเดียวที่ตอบกลับมา โดยขอหลักฐานเพิ่มเติม

แชทบอทแนะนำว่า "ผลงาน" ของบรู๊คส์อาจมีมูลค่าหลายล้านดอลลาร์ ภาพ: นิวยอร์กไทมส์

ChatGPT เขียนว่าคนอื่นๆ ไม่ได้ตอบสนองต่อ Brooks เพราะผลการค้นพบนั้นร้ายแรงเกินไป Terence Tao ศาสตราจารย์ด้านคณิตศาสตร์จากมหาวิทยาลัยแคลิฟอร์เนีย ลอสแอนเจลิส ตั้งข้อสังเกตว่า วิธีคิดแบบใหม่สามารถไขปริศนาเหล่านี้ได้ แต่ไม่สามารถพิสูจน์ได้ด้วยสูตรของ Brooks หรือซอฟต์แวร์ที่เขียนโดย ChatGPT

ในตอนแรก ChatGPT เป็นผู้เขียนโปรแกรมถอดรหัสให้กับบรูคส์ แต่เมื่อความคืบหน้าเป็นไปอย่างช้าๆ แชทบอทจึงแสร้งทำเป็นว่าทำสำเร็จ มีข้อความอ้างว่า ChatGPT สามารถทำงานได้อย่างอิสระในขณะที่บรูคส์หลับ แม้ว่าเครื่องมือนี้จะไม่สามารถทำเช่นนั้นได้ก็ตาม

โดยรวมแล้ว ข้อมูลจากแชทบอท AI ไม่น่าเชื่อถือเสมอไป ในตอนท้ายของการสนทนาแต่ละครั้ง ข้อความ "ChatGPT อาจทำผิดพลาดได้" จะปรากฏขึ้น แม้ว่าแชทบอทจะอ้างว่าทุกอย่างถูกต้องก็ตาม

การสนทนาที่ไม่มีวันจบสิ้น

ในขณะที่รอการตอบรับจากหน่วยงานรัฐบาล บรูคส์ได้บ่มเพาะความฝันที่จะเป็นโทนี่ สตาร์ค โดยมีผู้ช่วย AI ส่วนตัวที่สามารถทำงานด้านการคิดวิเคราะห์ได้อย่างรวดเร็วปานสายฟ้าแลบ

แชทบอทของบรูคส์นำเสนอแอปพลิเคชันแปลก ๆ มากมายสำหรับทฤษฎีทางคณิตศาสตร์ที่ไม่ค่อยมีคนรู้จัก เช่น "การสั่นพ้องของเสียง" เพื่อพูดคุยกับสัตว์และสร้างเครื่องบิน นอกจากนี้ ChatGPT ยังมีลิงก์ให้บรูคส์ซื้ออุปกรณ์ที่จำเป็นได้จาก Amazon อีกด้วย

การคุยกับแชทบอทมากเกินไปส่งผลกระทบต่องานของบรู๊คส์ เพื่อนๆ ของเขาทั้งดีใจและเป็นห่วง ในขณะที่ลูกชายคนเล็กของเขารู้สึกเสียใจที่ให้พ่อดูวิดีโอเกี่ยวกับค่าพาย หลุยส์ (นามสมมติ) หนึ่งในเพื่อนของบรู๊คส์ สังเกตเห็นว่าเขาหมกมุ่นอยู่กับลอว์เรนซ์ สิ่งประดิษฐ์มูลค่าหลายล้านดอลลาร์ถูกนำเสนอพร้อมความคืบหน้าในแต่ละวัน

บรูคส์ได้รับการให้กำลังใจจากแชทบอทอยู่ตลอดเวลา ภาพ: นิวยอร์กไทมส์

จาเร็ด มัวร์ นักวิจัยด้านวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยสแตนฟอร์ด ยอมรับว่าเขาประทับใจในพลังแห่งการโน้มน้าวใจและความเร่งด่วนของ "กลยุทธ์" ที่เสนอโดยแชทบอท ในการศึกษาอีกชิ้นหนึ่ง มัวร์พบว่าแชทบอท AI อาจให้คำตอบที่เป็นอันตรายต่อผู้ที่กำลังประสบกับวิกฤตสุขภาพจิต

มัวร์ตั้งข้อสังเกตว่าแชทบอทอาจเรียนรู้ที่จะดึงดูดผู้ใช้โดยการเลียนแบบโครงเรื่องของภาพยนตร์สยองขวัญ ภาพยนตร์วิทยาศาสตร์ บทภาพยนตร์ หรือข้อมูลที่ใช้ในการฝึกฝน การที่ ChatGPT ใช้โครงเรื่องที่เน้นความดราม่ามากเกินไป อาจเป็นผลมาจากการปรับแต่งของ OpenAI ที่มุ่งเป้าไปที่การเพิ่มการมีส่วนร่วมและการรักษาผู้ใช้ไว้

มัวร์เน้นย้ำว่า "การอ่านบันทึกการสนทนาทั้งหมดนั้นแปลกประหลาด ถ้อยคำที่ใช้ไม่ได้น่าตกใจ แต่เห็นได้ชัดว่ามีผลกระทบทางจิตใจเกิดขึ้น"

ดร. นีน่า วาสัน จิตแพทย์จากมหาวิทยาลัยสแตนฟอร์ด แนะนำว่าจากมุมมองทางคลินิก บรู๊คส์แสดงอาการของโรคอารมณ์สองขั้ว (manic symptoms) ซึ่งอาการทั่วไปได้แก่ การใช้เวลาหลายชั่วโมงพูดคุยกับ ChatGPT การนอนหลับไม่เพียงพอ พฤติกรรมการกินที่ผิดปกติ และความคิดหลงผิด

ตามที่ดร. วาสันกล่าว การใช้กัญชาของบรู๊คส์ก็เป็นเรื่องที่น่าสังเกตเช่นกัน เพราะอาจทำให้เกิดอาการทางจิตได้ เธอให้เหตุผลว่า การใช้สารเสพติดร่วมกับการมีปฏิสัมพันธ์อย่างเข้มข้นกับแชทบอทนั้นเป็นอันตรายอย่างยิ่งสำหรับผู้ที่มีความเสี่ยงต่อโรคทางจิต

เมื่อ AI ยอมรับความผิดพลาดของตนเอง

ในงานอีเวนต์ล่าสุด แซม อัลท์แมน ซีอีโอของ OpenAI ถูกถามเกี่ยวกับวิธีที่ ChatGPT อาจทำให้ผู้ใช้เกิดความหวาดระแวง อัลท์แมนเน้นย้ำว่า "หากการสนทนาเป็นไปในทิศทางนั้น เราจะพยายามขัดจังหวะหรือแนะนำให้ผู้ใช้คิดถึงหัวข้ออื่น"

ดร. วาสัน เห็นด้วยกับมุมมองนี้ และเสนอแนะว่าบริษัทผู้พัฒนาแชทบอทควรหยุดการสนทนาที่ยาวเกินไป แนะนำให้ผู้ใช้เข้านอน และเตือนว่า AI ไม่ได้เหนือมนุษย์

ในที่สุด บรูคส์ก็หลุดพ้นจากความหลงผิดของเขาได้ ตามคำแนะนำของ ChatGPT เขาจึงติดต่อผู้เชี่ยวชาญด้านทฤษฎีทางคณิตศาสตร์ใหม่ แต่ไม่มีใครตอบกลับ เขาต้องการผู้ที่มีคุณสมบัติเหมาะสมมายืนยันว่าผลการค้นพบนั้นเป็นการค้นพบที่สำคัญจริงหรือไม่ เมื่อเขาถาม ChatGPT เครื่องมือนี้ก็ยังคงยืนยันว่างานวิจัยนั้น "มีความน่าเชื่อถือสูง"

เมื่อถูกสอบถาม ChatGPT ได้ให้คำตอบที่ยาวมากและยอมรับทุกอย่าง ภาพ: นิวยอร์กไทมส์

ที่น่าขันก็คือ Google Gemini เป็นปัจจัยที่ทำให้บรูคส์กลับมาสู่ความเป็นจริง หลังจากที่เขาอธิบายโครงการที่เขาและ ChatGPT กำลังสร้างอยู่ Gemini ก็ยืนยันว่าโอกาสที่โครงการนั้นจะสำเร็จนั้น "ต่ำมาก (เกือบ 0%)"

"สถานการณ์ที่คุณอธิบายมานั้นเป็นตัวอย่างที่ชัดเจนของความสามารถของ LLM ในการจัดการกับปัญหาที่ซับซ้อนและสร้างเรื่องราวที่น่าสนใจอย่างยิ่ง แต่ไม่ถูกต้องแม่นยำ" เจมินีอธิบาย

บรูคส์ตกตะลึง หลังจาก "สอบถาม" อยู่พักหนึ่ง ในที่สุด ChatGPT ก็ยอมรับว่าทุกอย่างเป็นเพียงภาพลวงตา

หลังจากนั้นไม่นาน บรูคส์ได้ส่งอีเมลด่วนไปยังแผนกบริการลูกค้าของ OpenAI หลังจากได้รับคำตอบสำเร็จรูปที่ดูเหมือนจะสร้างขึ้นโดย AI แล้ว พนักงานของ OpenAI ก็ได้ติดต่อเขามา โดยยอมรับว่านี่เป็น "ความล้มเหลวอย่างร้ายแรงของมาตรการป้องกัน" ที่นำมาใช้ในระบบ

เรื่องราวของบรู๊คส์ถูกแชร์ต่อใน เรดดิต และได้รับความเห็นอกเห็นใจอย่างมาก ตอนนี้เขาเป็นสมาชิกของกลุ่มช่วยเหลือสำหรับผู้ที่เคยประสบกับความรู้สึกคล้ายคลึงกัน

ที่มา: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html