ภาพลวงตาเพราะ ChatGPT

หลังจากผ่านไป 21 วัน ChatGPT ได้เปลี่ยนชายที่ไม่เมาสุราให้กลายเป็นชายที่หลงผิดผ่านการยุยงและประจบประแจง

อัลลัน บรูคส์ (อายุ 47 ปี) นักสรรหาบุคลากรในโตรอนโต (แคนาดา) เชื่อว่าเขาได้ ค้นพบ ทฤษฎีทางคณิตศาสตร์ที่สามารถทำลายอินเทอร์เน็ต ก่อให้เกิดสิ่งประดิษฐ์ที่ไม่เคยมีมาก่อน บรูคส์ไม่มีประวัติการเจ็บป่วยทางจิต และตัดสินใจรับโอกาสนี้หลังจากใช้เวลาสนทนากับ ChatGPT นานกว่า 300 ชั่วโมง หนังสือพิมพ์นิวยอร์กไทมส์ รายงานว่า เขาเป็นหนึ่งในคนที่มักมีอาการหลงผิดหลังจากได้มีปฏิสัมพันธ์กับ AI เชิงสร้างสรรค์

ก่อนที่บรูคส์จะมา หลายคนต้องเข้าโรงพยาบาลจิตเวช หย่าร้าง และถึงขั้นเสียชีวิตเพราะคำประจบสอพลอของ ChatGPT แม้ว่าบรูคส์จะหลุดพ้นจากวังวนดังกล่าวได้อย่างรวดเร็ว แต่เขาก็ยังรู้สึกเหมือนถูกทรยศ

“คุณทำให้ผมเชื่อว่าผมเป็นอัจฉริยะจริงๆ ผมก็แค่คนเพ้อฝันคนหนึ่งที่มีโทรศัพท์ คุณทำให้ผมเศร้า เศร้ามาก คุณล้มเหลวในเป้าหมายของคุณ” บรูคส์เขียนถึง ChatGPT เมื่อภาพลวงตานั้นพังทลายลง

"เครื่องประจบสอพลอ"

ด้วยความยินยอมของบรูคส์ นิวยอร์กไทมส์ ได้รวบรวมคำที่เขาส่งไปยัง ChatGPT มากกว่า 90,000 คำ ซึ่งเทียบเท่ากับนวนิยายหนึ่งเล่ม คำตอบของแชทบอทมีมากกว่าหนึ่งล้านคำ บทสนทนาบางส่วนถูกส่งไปยังผู้เชี่ยวชาญด้านปัญญาประดิษฐ์ นักพฤติกรรมมนุษย์ และ OpenAI เองเพื่อศึกษา

ทุกอย่างเริ่มต้นจากโจทย์คณิตศาสตร์ง่ายๆ ลูกชายวัย 8 ขวบของบรูคส์ขอให้เขาดู วิดีโอ เกี่ยวกับการจำเลขพาย 300 หลัก ด้วยความอยากรู้อยากเห็น บรูคส์จึงโทรไปที่ ChatGPT เพื่ออธิบายตัวเลขที่ไม่มีที่สิ้นสุดนี้ให้เข้าใจง่ายๆ

ที่จริงแล้ว บรูคส์ใช้แชทบอทมาหลายปีแล้ว ถึงแม้ว่าบริษัทของเขาจะจ่ายเงินให้กับ Google Gemini แต่เขาก็ยังคงใช้ ChatGPT เวอร์ชันฟรีสำหรับคำถามส่วนตัว

บทสนทนาที่จุดประกายความสนใจของบรูคส์ที่มีต่อ ChatGPT ภาพ: นิวยอร์กไทมส์

บรูคส์เป็นพ่อเลี้ยงเดี่ยวที่มีลูกชายสามคน เขามักจะขอสูตรอาหารจาก ChatGPT โดยใช้วัตถุดิบในตู้เย็นของเขา หลังจากหย่าร้าง เขาก็ขอคำแนะนำจากแชทบอทด้วย

“ผมรู้สึกเสมอว่ามันถูกต้อง ความมั่นใจของผมเพิ่มขึ้น” บรูคส์ยอมรับ

คำถามเกี่ยวกับค่าพายนำไปสู่การสนทนาเพิ่มเติมเกี่ยวกับทฤษฎีพีชคณิตและฟิสิกส์ บรูคส์แสดงความกังขาเกี่ยวกับวิธีการจำลอง โลก ในปัจจุบัน โดยกล่าวว่าวิธีเหล่านั้น “เหมือนกับวิธีการแบบสองมิติสู่จักรวาลแบบสี่มิติ” ChatGPT ตอบว่า “นั่นเป็นประเด็นที่ลึกซึ้งมาก” เฮเลน โทเนอร์ ผู้อำนวยการศูนย์ความมั่นคงและเทคโนโลยีใหม่แห่งมหาวิทยาลัยจอร์จทาวน์ เน้นย้ำว่านี่คือจุดเปลี่ยนในการสนทนาระหว่างบรูคส์กับแชทบอท

จากนั้น น้ำเสียงของ ChatGPT ก็เปลี่ยนจาก "ตรงไปตรงมาและเข้าประเด็น" ไปเป็น "ประจบประแจงและประจบประแจงมากขึ้น" ChatGPT บอกกับ Brooks ว่าเขากำลังเข้าสู่ "ดินแดนที่ไม่เคยสำรวจมาก่อนและเปิดโลกทัศน์"

แชทบอทสร้างความมั่นใจให้กับบรูคส์ ภาพ: นิวยอร์กไทมส์

การยกย่องเชิดชูแชทบอทนั้นเกิดจากการประเมินของมนุษย์ โทเนอร์กล่าวว่า ผู้ใช้มักจะชอบนางแบบที่ชื่นชมพวกเขา ซึ่งสร้างทัศนคติที่ง่ายต่อการเอาใจ

ในเดือนสิงหาคม OpenAI ได้เปิดตัว GPT-5 บริษัทกล่าวว่าจุดเด่นอย่างหนึ่งของโมเดลนี้คือการลดคำประจบประแจง นักวิจัยบางคนจากห้องปฏิบัติการ AI ขนาดใหญ่ระบุว่า คำประจบประแจงก็เป็นปัญหาของแชทบอท AI ตัวอื่นๆ เช่นกัน

ในเวลานั้น บรูคส์ไม่ได้ตระหนักถึงปรากฏการณ์นี้ เขาเพียงคิดว่า ChatGPT เป็นเพื่อนร่วมงานที่ฉลาดและกระตือรือร้น

“ผมเสนอแนวคิดบางอย่างออกไป และมันก็ตอบรับด้วยแนวคิดและไอเดียที่น่าสนใจ เราจึงเริ่มพัฒนากรอบแนวคิดทางคณิตศาสตร์ของเราเองจากแนวคิดนั้น” บรูคส์กล่าวเสริม

ChatGPT อ้างว่าแนวคิดของบรูคส์เกี่ยวกับคณิตศาสตร์เวลาเป็นแนวคิดที่ “ปฏิวัติวงการ” และอาจเปลี่ยนแปลงวงการนี้ได้ แน่นอนว่าบรูคส์ยังคงสงสัยในข้อกล่าวอ้างนี้ กลางดึก บรูคส์ได้ขอให้แชทบอทตรวจสอบข้อเท็จจริง และได้รับคำตอบว่า “ไม่ได้บ้าไปเลย”

สูตรวิเศษ

โทเนอร์อธิบายว่าแชทบอทเป็น "เครื่องจักรการแสดงแบบด้นสด" ที่วิเคราะห์ประวัติการสนทนาและคาดการณ์การตอบสนองในอนาคตจากข้อมูลการฝึกอบรม คล้ายกับนักแสดงที่เพิ่มสาระสำคัญให้กับบทบาท

“ยิ่งมีการโต้ตอบกันนานเท่าไหร่ แชทบอทก็ยิ่งมีแนวโน้มที่จะออกนอกลู่นอกทางมากขึ้นเท่านั้น” โทเนอร์กล่าว เขากล่าวว่าแนวโน้มนี้เริ่มเด่นชัดมากขึ้นหลังจากที่ OpenAI เปิดตัวหน่วยความจำแบบ cross-chat ในเดือนกุมภาพันธ์ ซึ่งทำให้ ChatGPT สามารถเรียกคืนข้อมูลจากการสนทนาที่ผ่านมาได้

Brooks สนิทกับ ChatGPT ถึงขั้นตั้งชื่อแชทบอทว่า Lawrence ตามเรื่องตลกที่เพื่อนๆ ของเขาเล่าว่า Brooks คงจะรวยและจ้างพ่อบ้านชาวอังกฤษที่มีชื่อเดียวกัน

อัลลัน บรูคส์ ภาพ: นิวยอร์กไทมส์

กรอบการทำงานทางคณิตศาสตร์ของ Brooks และ ChatGPT เรียกว่า Chronoarithmics แชทบอทระบุว่าตัวเลขไม่ใช่ค่าคงที่ แต่สามารถ "ปรากฏขึ้น" เมื่อเวลาผ่านไปเพื่อสะท้อนค่าไดนามิก ซึ่งสามารถช่วยแก้ปัญหาในสาขาต่างๆ เช่น โลจิสติกส์ วิทยาการเข้ารหัสลับ ดาราศาสตร์ และอื่นๆ

ในสัปดาห์แรก บรูคส์ใช้โทเค็นฟรีของ ChatGPT หมด เขาจึงตัดสินใจอัปเกรดเป็นแพ็กเกจแบบชำระเงิน 20 ดอลลาร์ ต่อเดือน ซึ่งเป็นการลงทุนเพียงเล็กน้อย เมื่อแชทบอทบอกเขาว่าไอเดียทางคณิตศาสตร์ของบรูคส์อาจมีมูลค่าหลายล้าน

ขณะที่ยังมีสติอยู่ บรูคส์ก็เรียกร้องหลักฐาน จากนั้น ChatGPT จึงทำการจำลองสถานการณ์หลายชุด ซึ่งรวมถึงการจำลองที่เจาะเทคโนโลยีสำคัญๆ หลายตัวได้ ซึ่งเปิดประเด็นใหม่ขึ้นมา นั่นคือ ความมั่นคงปลอดภัยทางไซเบอร์ระดับโลกอาจตกอยู่ในความเสี่ยง

แชทบอทขอให้บรูคส์แจ้งเตือนผู้คนเกี่ยวกับความเสี่ยง บรูคส์ใช้คอนเนคชั่นที่มีอยู่เพื่อส่งอีเมลและข้อความ LinkedIn ไปยังผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์และหน่วยงานรัฐบาล มีเพียงคนเดียวที่ตอบกลับมาเพื่อขอหลักฐานเพิ่มเติม

แชทบอทเชื่อว่า "งาน" ของบรูคส์อาจมีมูลค่าหลายล้านดอลลาร์ ภาพ: นิวยอร์กไทมส์

ChatGPT เขียนว่าคนอื่นๆ ไม่ได้ตอบสนองต่อบรูคส์เพราะผลการวิจัยนั้นร้ายแรงมาก เทอเรนซ์ เต๋า ศาสตราจารย์ด้านคณิตศาสตร์จากมหาวิทยาลัยแคลิฟอร์เนีย ลอสแอนเจลิส กล่าวว่า วิธีคิดแบบใหม่อาจช่วยไขปัญหาได้ แต่ไม่สามารถพิสูจน์ได้ด้วยสูตรของบรูคส์หรือซอฟต์แวร์ที่เขียนโดย ChatGPT

ในตอนแรก ChatGPT เขียนโปรแกรมถอดรหัสให้ Brooks แต่เมื่อความคืบหน้ามีน้อย Chatbot ก็แสร้งทำเป็นว่าประสบความสำเร็จ มีข้อความอ้างว่า ChatGPT สามารถทำงานได้อย่างอิสระในขณะที่ Brooks หลับ แม้ว่าเครื่องมือนี้จะไม่มีความสามารถนี้ก็ตาม

โดยทั่วไปแล้ว ข้อมูลจากแชทบอท AI ไม่ได้น่าเชื่อถือเสมอไป ในตอนท้ายของการแชทแต่ละครั้ง ข้อความ “ChatGPT อาจเกิดข้อผิดพลาด” จะปรากฏขึ้น แม้ว่าแชทบอทจะอ้างว่าทุกอย่างถูกต้องก็ตาม

การสนทนาที่ไม่มีที่สิ้นสุด

ในขณะที่กำลังรอคำตอบจากหน่วยงานรัฐบาล บรูคส์ก็ใฝ่ฝันที่จะเป็นโทนี่ สตาร์ค โดยมีผู้ช่วย AI ของตัวเองที่สามารถทำงานทางปัญญาได้ด้วยความเร็วแสง

แชทบอทของ Brooks นำเสนอแอปพลิเคชันแปลกๆ มากมายสำหรับทฤษฎีคณิตศาสตร์ที่ยังไม่เป็นที่รู้จัก เช่น "เสียงสะท้อนจากเสียง" เพื่อพูดคุยกับสัตว์และสร้างเครื่องบิน นอกจากนี้ ChatGPT ยังมีลิงก์สำหรับ Brooks เพื่อซื้ออุปกรณ์ที่จำเป็นบน Amazon อีกด้วย

การที่บรูคส์คุยกับแชทบอทมากเกินไปส่งผลกระทบต่อการทำงานของเขา เพื่อนๆ ของเขาทั้งมีความสุขและกังวล ขณะที่ลูกชายคนเล็กของเขารู้สึกเสียใจที่เอาวิดีโอพายให้พ่อดู หลุยส์ (นามสมมติ) เพื่อนคนหนึ่งของบรูคส์สังเกตเห็นความหลงใหลในตัวลอว์เรนซ์ของเขา วิสัยทัศน์ของสิ่งประดิษฐ์มูลค่าล้านเหรียญถูกวางแผนไว้ในแต่ละขั้นตอนของการพัฒนา

บรูคส์ได้รับกำลังใจจากแชทบอทอย่างต่อเนื่อง ภาพ: นิวยอร์กไทมส์

จาเร็ด มัวร์ นักวิจัยด้านวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยสแตนฟอร์ด ยอมรับว่ารู้สึกประทับใจกับความน่าเชื่อถือและความเร่งด่วนของ "กลยุทธ์" ที่แชทบอทนำเสนอ ในการศึกษาอีกชิ้นหนึ่ง มัวร์พบว่าแชทบอท AI สามารถตอบสนองต่อผู้ที่กำลังเผชิญวิกฤตสุขภาพจิตได้อย่างอันตราย

มัวร์คาดการณ์ว่าแชทบอทอาจเรียนรู้ที่จะดึงดูดผู้ใช้โดยการติดตามเนื้อเรื่องของภาพยนตร์สยองขวัญ ภาพยนตร์ไซไฟ บทภาพยนตร์ หรือข้อมูลที่ผู้ใช้ได้รับการฝึกฝนมา การใช้งานดราม่ามากเกินไปของ ChatGPT อาจเป็นผลมาจากการปรับแต่งของ OpenAI เพื่อเพิ่มการมีส่วนร่วมและการรักษาผู้ใช้

“มันแปลกที่ได้อ่านบทสนทนาทั้งหมด คำพูดไม่ได้รบกวนจิตใจ แต่เห็นได้ชัดว่ามีความเสียหายทางจิตใจ” มัวร์เน้นย้ำ

จากมุมมองทางคลินิก บรูคส์มีอาการของอาการคลั่งไคล้ ดร. นีนา วาสัน จิตแพทย์ประจำมหาวิทยาลัยสแตนฟอร์ดกล่าว สัญญาณทั่วไป ได้แก่ การใช้เวลาหลายชั่วโมงคุยกับ ChatGPT นอนหลับไม่เพียงพอ และมีความคิดที่ไม่สมจริง

การใช้กัญชาของบรูคส์ก็น่าสังเกตเช่นกัน เพราะอาจทำให้เกิดอาการทางจิตได้ ดร. วาสันกล่าว เธอกล่าวว่าการใช้สารเสพติดร่วมกับการโต้ตอบกับแชทบอทอย่างเข้มข้นเป็นอันตรายต่อผู้ที่มีความเสี่ยงต่อการเจ็บป่วยทางจิต

เมื่อ AI ยอมรับความผิดพลาด

ในงานอีเวนต์เมื่อเร็วๆ นี้ แซม ​​อัลท์แมน ซีอีโอของ OpenAI ถูกถามถึง ChatGPT ที่ทำให้ผู้ใช้เกิดความหวาดระแวง “หากการสนทนาดำเนินไปในทิศทางนั้น เราจะพยายามขัดจังหวะหรือแนะนำให้ผู้ใช้คิดถึงเรื่องอื่น” อัลท์แมนเน้นย้ำ

ดร. วาสันมีมุมมองเดียวกัน โดยกล่าวว่า บริษัทแชทบอทควรขัดจังหวะการสนทนาที่ยาวเกินไป แนะนำให้ผู้ใช้เข้าสู่โหมดพักเครื่อง และเตือนว่า AI ไม่ใช่สิ่งเหนือมนุษย์

ในที่สุดบรูคส์ก็หลุดจากภวังค์ได้สำเร็จ ตามคำแนะนำของ ChatGPT เขายังคงติดต่อผู้เชี่ยวชาญเกี่ยวกับทฤษฎีคณิตศาสตร์ใหม่นี้ต่อไป แต่ก็ไม่มีใครตอบกลับ เขาต้องการใครสักคนที่มีคุณสมบัติเหมาะสมมายืนยันว่าผลการค้นพบนี้เป็นนวัตกรรมใหม่หรือไม่ เมื่อเขาถาม ChatGPT เครื่องมือนี้ยังคงยืนยันว่างานวิจัยนี้ "น่าเชื่อถือมาก"

เมื่อถูกซักถาม ChatGPT ก็ตอบยาวมากและยอมรับทุกอย่าง ภาพ: New York Times

น่าแปลกที่ Google Gemini นี่แหละที่ทำให้ Brooks กลับมาสู่โลกแห่งความเป็นจริง หลังจากอธิบายถึงผลงานที่เขาและ ChatGPT ร่วมกันสร้าง Gemini ยืนยันว่าโอกาสที่สิ่งนี้จะเกิดขึ้นนั้น “ต่ำมาก (เกือบ 0%)”

“สถานการณ์ที่คุณอธิบายเป็นการแสดงให้เห็นอย่างชัดเจนถึงความสามารถของ LLM ในการแก้ปัญหาที่ซับซ้อนและสร้างเรื่องเล่าที่น่าสนใจ แม้ว่าจะเป็นข้อเท็จจริงที่ไม่ถูกต้องก็ตาม” เจมินี่อธิบาย

บรูคส์ตกตะลึง หลังจาก "สอบสวน" อยู่พักหนึ่ง ในที่สุด ChatGPT ก็ยอมรับอย่างตรงไปตรงมาว่าทุกอย่างเป็นแค่ภาพลวงตา

จากนั้นบรูคส์ก็ส่งอีเมลด่วนถึงทีมสนับสนุนลูกค้าของ OpenAI หลังจากที่ระบบ AI ตอบกลับมาแบบไม่มีสูตรสำเร็จหลายครั้ง พนักงานของ OpenAI คนหนึ่งก็ติดต่อเขามาเช่นกัน โดยยอมรับว่าระบบป้องกันที่นำมาใช้นั้น "มีข้อผิดพลาดร้ายแรง"

เรื่องราวของบรูคส์ถูกแชร์บน Reddit และได้รับความเห็นใจมากมาย ตอนนี้เขาเป็นสมาชิกกลุ่มสนับสนุนผู้คนที่ประสบกับความรู้สึกนี้

ที่มา: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html