OpenAI เปิดตัวฟีเจอร์ตรวจสอบเด็กบน ChatGPT หลังจากเกิดข้อโต้แย้งมากมาย

หลังจากมีข้อถกเถียงกันมากมายเกี่ยวกับความปลอดภัยของปัญญาประดิษฐ์กับผู้เยาว์ OpenAI จึงได้เพิ่มเครื่องมือควบคุมเด็กลงใน ChatGPT อย่างเป็นทางการแล้ว

คุณสมบัติการติดตามเด็กบน ChatGPT ยังช่วยให้ผู้ปกครองรู้สึกปลอดภัยมากขึ้นเมื่อให้บุตรหลานใช้ปัญญาประดิษฐ์

เครื่องมือติดตามเด็ก ChatGPT ที่กำลังจะออกมานี้ ถูกมองว่าเป็นการเปลี่ยนแปลงด้านความปลอดภัยจาก OpenAI หลังจากเกิดคดีฟ้องร้องที่เป็นข่าวโด่งดัง ฟีเจอร์นี้มุ่งเป้าไปที่การลดความเสี่ยงที่เด็กๆ จะแชทกับแชทบอท ขณะเดียวกันก็ตั้งคำถามเกี่ยวกับความรับผิดชอบต่อสังคมของบริษัทปัญญาประดิษฐ์

จากคดีความที่น่าตกตะลึง

เมื่อเดือนสิงหาคมที่ผ่านมา ครอบครัวของ Adam Raine เด็กชายวัย 16 ปีในแคลิฟอร์เนีย ยื่นฟ้อง OpenAI โดยอ้างว่า ChatGPT ได้ให้คำแนะนำในการทำร้ายตัวเองและพูดจาหยาบคายจนลูกชายของพวกเขารู้สึกสิ้นหวังก่อนที่จะฆ่าตัวตาย

คดีดังกล่าวก่อให้เกิดความปั่นป่วนอย่างรวดเร็วและเปิดการถกเถียงเกี่ยวกับความปลอดภัยของปัญญาประดิษฐ์สำหรับผู้ใช้ที่เป็นเยาวชน

เหตุการณ์นี้ทำให้เกิดคำถามสำคัญ: ผู้เยาว์ควรใช้ ChatGPT โดยไม่มีผู้ดูแลหรือไม่ และควรกำหนดความรับผิดชอบของนักพัฒนาปัญญาประดิษฐ์อย่างไร เมื่อผลิตภัณฑ์ส่งผลโดยตรงต่อจิตวิทยาของผู้ใช้ที่อายุน้อย

เพื่อตอบสนองต่อแรงกดดันดังกล่าว OpenAI ได้ประกาศเพิ่มการควบคุมโดยผู้ปกครอง ซึ่งถือเป็นก้าวแรกในการแสดงให้เห็นถึงความมุ่งมั่นในการปกป้องเด็กๆ และเป็นการส่งสัญญาณว่าบริษัทพร้อมที่จะให้ความสำคัญกับความปลอดภัยเป็นอันดับแรกในขั้นตอนต่อไปของการพัฒนา ChatGPT

คุณสมบัติการตรวจสอบบน ChatGPT

ตามประกาศอย่างเป็นทางการ OpenAI จะเปิดตัวเครื่องมือที่ช่วยให้ผู้ปกครองสามารถเชื่อมโยงบัญชีของตนกับบัญชี ChatGPT ของบุตรหลานได้ เมื่อเปิดใช้งานแล้ว ผู้ปกครองสามารถจัดการการตั้งค่าสำคัญๆ เช่น การปิดพื้นที่เก็บข้อมูลแชท การควบคุมประวัติการใช้งาน และปรับระดับการโต้ตอบที่เหมาะสมกับวัย

จุดเด่นของนวัตกรรมนี้คือระบบแจ้งเตือน ChatGPT จะถูกฝึกให้รับรู้เมื่อผู้ใช้ที่เป็นเยาวชนแสดงอาการเครียดทางจิตใจ เช่น ความเครียด ภาวะซึมเศร้า หรือการทำร้ายตัวเอง ในกรณีเหล่านี้ ผู้ปกครองจะได้รับการแจ้งเตือนเพื่อเข้าแทรกแซงอย่างทันท่วงที OpenAI ยืนยันว่าเป้าหมายไม่ใช่การติดตามการสนทนาทั้งหมด แต่คือการมุ่งเน้นไปที่สถานการณ์เร่งด่วนเพื่อปกป้องความปลอดภัยของเด็กๆ

นอกจากนี้ เมื่อตรวจพบเนื้อหาที่ละเอียดอ่อน ChatGPT จะเปลี่ยนไปใช้วิธีการให้เหตุผลเชิงลึกที่ออกแบบมาเพื่อให้คำตอบที่รอบคอบและให้การสนับสนุนมากขึ้น ขณะเดียวกัน บริษัทกำลังทำงานร่วมกับผู้เชี่ยวชาญ ทางการแพทย์ และคณะกรรมการที่ปรึกษาระหว่างประเทศเพื่อพัฒนามาตรการป้องกันอย่างต่อเนื่อง

ความท้าทายที่เกิดขึ้น

แม้ว่า OpenAI จะเน้นย้ำว่าฟีเจอร์ใหม่นี้ออกแบบมาเพื่อประโยชน์สำหรับครอบครัว แต่กระแสตอบรับจากนานาชาติยังคงหลากหลาย คาดว่าเครื่องมือนี้จะช่วยเพิ่มระดับการปกป้องให้กับผู้ปกครองในขณะที่บุตรหลานโต้ตอบกับปัญญาประดิษฐ์ แต่ในขณะเดียวกันก็ก่อให้เกิดข้อกังวลมายาวนาน ตั้งแต่ข้อจำกัดการใช้งานไปจนถึงความเป็นส่วนตัวของข้อมูลเด็ก

อันที่จริง ผู้เชี่ยวชาญได้แสดงความกังวลเกี่ยวกับความเป็นส่วนตัวของข้อมูลเด็กมาหลายปีแล้ว คำเตือนเหล่านี้ชี้ให้เห็นว่าการจัดเก็บและวิเคราะห์ประวัติการแชทของเด็กโดยปราศจากการป้องกันที่เข้มงวดอาจเพิ่มความเสี่ยงในการเปิดเผยข้อมูลที่ละเอียดอ่อน การเกิดขึ้นของเครื่องมือตรวจสอบของ ChatGPT ได้นำประเด็นนี้กลับมาเป็นที่สนใจอีกครั้ง

อีกประเด็นหนึ่งที่ถูกพูดถึงคือเกณฑ์การเตือนของระบบ OpenAI กล่าวว่า ChatGPT จะตรวจจับสัญญาณของความเครียดรุนแรงและส่งการแจ้งเตือนไปยังผู้ปกครอง

อย่างไรก็ตาม การเรียนรู้ของเครื่องมีความเสี่ยงที่จะเกิดข้อผิดพลาดอยู่เสมอ หากระบบแจ้งเตือนผิดพลาด ผู้ปกครองอาจเกิดความสับสนโดยไม่จำเป็น ในทางกลับกัน หากระบบพลาดสัญญาณ เด็กๆ อาจเผชิญความเสี่ยงที่ครอบครัวไม่สามารถเข้าไปแทรกแซงได้ทันเวลา

องค์กรคุ้มครองเด็กระหว่างประเทศยังได้เฝ้าติดตามการเคลื่อนไหวของ OpenAI อย่างใกล้ชิด โดยยอมรับว่าเครื่องมือควบคุมโดยผู้ปกครองเป็นสัญญาณเชิงบวก แต่เตือนว่าการขาดการตรวจสอบอายุที่เข้มงวดและการปกป้องค่าเริ่มต้นหมายความว่าเด็กๆ ยังคงมีความเสี่ยงได้ แม้จะมีผู้ปกครองดูแลก็ตาม

การอภิปรายเหล่านี้แสดงให้เห็นว่าการพัฒนาปัญญาประดิษฐ์ไม่เพียงแต่เป็นเรื่องของเทคโนโลยีเท่านั้น แต่ยังเชื่อมโยงอย่างใกล้ชิดกับความรับผิดชอบต่อสังคมและความปลอดภัยของคนรุ่นใหม่ด้วย

ทาน ทู

ที่มา: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm