ChatGPT และ DeepSeek บิดเบือนข้อมูลทางวิทยาศาสตร์

พบว่าโมเดล AI อย่าง ChatGPT และ DeepSeek สามารถบิดเบือนเนื้อหาทางวิทยาศาสตร์เมื่อทำการสรุป โดยเฉพาะอย่างยิ่งในสาขาการแพทย์

Báo Khoa học và Đời sống•08/07/2025

กลุ่มนักวิจัยในเยอรมนีได้ออกคำเตือนเกี่ยวกับความเป็นไปได้ที่จะเกิดอคติในการใช้แชทบอท AI เพื่อย่อเนื้อหาการวิจัย หลังจากวิเคราะห์บทคัดย่อ ทางวิทยาศาสตร์ ที่เขียนโดยมนุษย์จำนวน 4,900 ชิ้น กลุ่มวิจัยได้ใช้โมเดล AI ต่างๆ เพื่อเปรียบเทียบว่าระบบเหล่านี้ประมวลผลข้อมูลอย่างไร ผลลัพธ์แสดงให้เห็นว่าแชทบอทส่วนใหญ่ทำผิดพลาดโดยการสรุปเกินจริง แม้ว่าจะได้รับคำสั่งให้สรุปอย่างถูกต้องก็ตาม

แชทบอท AI คืออะไร.jpg

AI สามารถบิดเบือนเนื้อหาได้ง่ายเมื่อสรุปงานวิจัยทางวิทยาศาสตร์

ในการทดลอง โมเดล AI ทำผิดพลาดมากกว่านักวิจัยที่เป็นมนุษย์ถึงห้าเท่าเมื่อไม่มีคำแนะนำ แม้จะมีข้อกำหนดที่ชัดเจนเกี่ยวกับความถูกต้อง อัตราความผิดพลาดก็ยังสูงกว่าการสรุปผลแบบมาตรฐานถึงสองเท่า สมาชิกทีมวิจัยคนหนึ่งให้ความเห็นว่า “การสรุปผลแบบเหมารวมอาจดูเหมือนไม่เป็นอันตรายในบางครั้ง แต่จริงๆ แล้วมันเปลี่ยนลักษณะของการวิจัยดั้งเดิมไป มันเป็นอคติเชิงระบบ”

ที่น่าสังเกตคือ แชทบอทรุ่นใหม่ๆ ไม่เพียงแต่ไม่สามารถแก้ไขปัญหาได้ แต่ยังทำให้ปัญหารุนแรงขึ้นอีกด้วย ด้วยการนำเสนอที่ราบรื่นและน่าดึงดูดใจ สรุปที่สร้างโดย AI จึงให้ความรู้สึกน่าเชื่อถือได้ง่าย ในขณะที่เนื้อหาจริงกลับบิดเบือนไป ในกรณีหนึ่ง DeepSeek เปลี่ยนวลี “ปลอดภัยและสามารถนำไปใช้ได้สำเร็จ” เป็น “การรักษาที่ปลอดภัยและมีประสิทธิภาพ” ซึ่งเป็นการตีความที่เบี่ยงเบนไปจากข้อสรุปดั้งเดิมของการศึกษา

คุณอาจสนใจ

รถยนต์มือสองราคา 200 ล้านดอง: รถเหล่านี้เป็นตัวเลือกที่ดีกว่า KIA Morning และ Hyundai Grand i10ด้วยงบประมาณประมาณ 200 ล้านดอง รถยนต์มือสองจึงเป็นตัวเลือกยอดนิยมสำหรับหลายครอบครัวที่กำลังมองหายานพาหนะเพื่อตอบสนองความต้องการด้านการเดินทางขั้นพื้นฐานในชีวิตประจำวัน

ในอีกตัวอย่างหนึ่ง โมเดลลามะได้นำคำแนะนำเกี่ยวกับการใช้ยาเบาหวานมาใช้กับผู้ป่วยเด็ก โดยไม่ได้ระบุปริมาณยา ความถี่ในการใช้ยา หรือผลข้างเคียง หากผู้อ่านซึ่งเป็นแพทย์หรือผู้เชี่ยวชาญ ด้านการดูแลสุขภาพ ไม่ตรวจสอบกับงานวิจัยต้นฉบับ การสรุปข้อมูลในลักษณะนี้อาจเป็นอันตรายโดยตรงต่อผู้ป่วยได้

ผู้เชี่ยวชาญเชื่อว่าปรากฏการณ์นี้มีต้นกำเนิดมาจากวิธีการฝึกฝนโมเดล AI แชทบอทจำนวนมากในปัจจุบันได้รับการฝึกฝนโดยใช้ข้อมูลทุติยภูมิ เช่น ข่าววิทยาศาสตร์ที่ผลิตขึ้นจำนวนมาก ซึ่งได้ถูกทำให้ง่ายขึ้นแล้ว เมื่อ AI ยังคงสรุปเนื้อหาที่ง่ายขึ้นนี้ต่อไป ความเสี่ยงที่จะเกิดการบิดเบือนก็จะเพิ่มขึ้น

ผู้เชี่ยวชาญด้าน AI ในสาขาสุขภาพจิตโต้แย้งว่า จำเป็นต้องมีการกำหนดอุปสรรคทางเทคนิคต่อการพัฒนาและการใช้ AI โดยเร็ว

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

ผู้ใช้ควรระมัดระวัง เนื่องจากแชทบอทสามารถบิดเบือนเนื้อหาได้ง่าย

เนื่องจากผู้ใช้พึ่งพาแชทบอท AI มากขึ้นเรื่อยๆ ในการเรียนรู้ข้อมูลทางวิทยาศาสตร์ ความคลาดเคลื่อนเล็กๆ น้อยๆ ในการตีความจึงสามารถสะสมและแพร่กระจายได้อย่างรวดเร็ว นำไปสู่ความเข้าใจผิดในวงกว้าง ในช่วงเวลาที่ความเชื่อมั่นในวิทยาศาสตร์กำลังลดลง ความเสี่ยงนี้จึงน่าเป็นห่วงอย่างยิ่งและจำเป็นต้องได้รับการเอาใจใส่เป็นอย่างดี

สหรัฐอเมริกา - เวียดนาม: อย่าพลาด

กระทรวงการต่างประเทศได้รับสำเนาหนังสือแต่งตั้งเอกอัครราชทูตสหรัฐอเมริกาประจำเวียดนามแล้วในช่วงบ่ายของวันที่ 2 กรกฎาคม ณ สำนักงานใหญ่กระทรวงการต่างประเทศ นายเลอ คอง ดุง ผู้อำนวยการกรมพิธีการและล่ามต่างประเทศ ได้รับสำเนาหนังสือแต่งตั้งจากนางเจนนิเฟอร์ วิกส์ เอกอัครราชทูตสหรัฐอเมริกาประจำเวียดนาม

เอกอัครราชทูต เหงียน กว็อก ดุง เยือนและปฏิบัติงานในรัฐมินนิโซตา สหรัฐอเมริการะหว่างวันที่ 28-30 มิถุนายน นายเหงียน กว็อก ดุง เอกอัครราชทูตเวียดนามประจำสหรัฐอเมริกา ได้เดินทางเยือนและปฏิบัติงานในรัฐมินนิโซตา

เวียดนามสนับสนุนให้ธุรกิจของสหรัฐฯ ขยายการลงทุนในด้านเทคโนโลยีขั้นสูงเมื่อเช้าวันที่ 26 มิถุนายน ณ ทำเนียบรัฐบาล รองนายกรัฐมนตรี โฮ กว็อก ดุง ได้ให้การต้อนรับนายเจฟฟ์ เพลส ผู้อำนวยการฝ่ายห่วงโซ่อุปทานของบริษัท โคเฮอเรนท์ กรุ๊ป (สหรัฐอเมริกา) ในระหว่างการประชุม รองนายกรัฐมนตรีได้ยืนยันว่าเวียดนามสนับสนุนให้ธุรกิจของสหรัฐฯ ขยายการลงทุน โดยเฉพาะอย่างยิ่งในอุตสาหกรรมเทคโนโลยีขั้นสูง นวัตกรรม และเซมิคอนดักเตอร์

การบูรณาการ AI เข้ากับการวิจัยและการเผยแพร่ความรู้เป็นแนวโน้มที่ไม่อาจย้อนกลับได้ อย่างไรก็ตาม ผู้เชี่ยวชาญยืนยันว่าเทคโนโลยีไม่สามารถทดแทนบทบาทของมนุษย์ในการทำความเข้าใจและตรวจสอบเนื้อหาทางวิทยาศาสตร์ได้ เมื่อใช้แชทบอทในสาขาที่มีความเสี่ยงสูง เช่น การดูแลสุขภาพ ความถูกต้องแม่นยำต้องเป็นสิ่งสำคัญอันดับแรก มากกว่าการมุ่งเน้นเฉพาะประสบการณ์การใช้ภาษาที่ราบรื่นหรือความเร็วในการตอบสนองเพียงอย่างเดียว

ที่มา: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html