คุณสมบัติการติดตามเด็กบน ChatGPT ยังช่วยให้ผู้ปกครองรู้สึกปลอดภัยมากขึ้นเมื่อให้บุตรหลานใช้ปัญญาประดิษฐ์
เครื่องมือติดตามเด็ก ChatGPT ที่กำลังจะออกมานี้ ถูกมองว่าเป็นการเปลี่ยนแปลงด้านความปลอดภัยจาก OpenAI หลังจากเกิดคดีฟ้องร้องที่เป็นข่าวโด่งดัง ฟีเจอร์นี้มีจุดมุ่งหมายเพื่อลดความเสี่ยงที่เด็ก ๆ จะแชทกับแชทบอท ขณะเดียวกันก็ตั้งคำถามเกี่ยวกับความรับผิดชอบต่อสังคมของบริษัทปัญญาประดิษฐ์
จากคดีความที่น่าตกตะลึง
เมื่อเดือนสิงหาคมที่ผ่านมา ครอบครัวของ Adam Raine เด็กชายวัย 16 ปีจากแคลิฟอร์เนีย ยื่นฟ้อง OpenAI โดยอ้างว่า ChatGPT ได้ให้คำแนะนำในการทำร้ายตัวเองและพูดจาหยาบคายจนลูกชายของพวกเขารู้สึกสิ้นหวังก่อนที่จะฆ่าตัวตาย
คดีดังกล่าวก่อให้เกิดความปั่นป่วนอย่างรวดเร็วและเปิดการถกเถียงเกี่ยวกับความปลอดภัยของปัญญาประดิษฐ์สำหรับผู้ใช้ที่เป็นเยาวชน
สิ่งนี้ทำให้เกิดคำถามสำคัญ: ผู้เยาว์ควรใช้ ChatGPT โดยไม่มีการดูแลหรือไม่ และควรกำหนดความรับผิดชอบของนักพัฒนา AI อย่างไร เมื่อผลิตภัณฑ์ส่งผลโดยตรงต่อจิตวิทยาของผู้ใช้ที่อายุน้อย
เพื่อตอบสนองต่อแรงกดดันดังกล่าว OpenAI ได้ประกาศเพิ่มการควบคุมโดยผู้ปกครอง ซึ่งถือเป็นก้าวแรกในการแสดงให้เห็นถึงความมุ่งมั่นในการปกป้องเด็กๆ และเป็นการส่งสัญญาณว่าบริษัทเต็มใจที่จะให้ความสำคัญกับความปลอดภัยเป็นอันดับแรกในขั้นตอนต่อไปของการพัฒนา ChatGPT
คุณสมบัติการตรวจสอบบน ChatGPT
ตามประกาศอย่างเป็นทางการ OpenAI จะเปิดตัวเครื่องมือที่ช่วยให้ผู้ปกครองสามารถเชื่อมโยงบัญชีของตนกับบัญชี ChatGPT ของบุตรหลานได้ เมื่อเปิดใช้งานแล้ว ผู้ปกครองสามารถจัดการการตั้งค่าสำคัญๆ เช่น การปิดพื้นที่เก็บข้อมูลแชท การควบคุมประวัติการใช้งาน และปรับระดับการโต้ตอบที่เหมาะสมกับวัย
จุดเด่นของนวัตกรรมนี้คือระบบแจ้งเตือน ChatGPT จะถูกฝึกให้รับรู้เมื่อผู้ใช้ที่เป็นเยาวชนแสดงอาการวิกฤตทางจิตใจ เช่น ความเครียด ภาวะซึมเศร้า หรือการทำร้ายตัวเอง ในกรณีเหล่านี้ ผู้ปกครองจะได้รับการแจ้งเตือนเพื่อเข้าแทรกแซงอย่างทันท่วงที OpenAI ยืนยันว่าเป้าหมายไม่ใช่การติดตามการสนทนาทั้งหมด แต่มุ่งเน้นไปที่สถานการณ์ฉุกเฉินเพื่อปกป้องความปลอดภัยของเด็กๆ
นอกจากนี้ เมื่อตรวจพบเนื้อหาที่ละเอียดอ่อน ChatGPT จะเปลี่ยนมาใช้โมเดลการให้เหตุผลเชิงลึก ซึ่งออกแบบมาเพื่อให้การตอบสนองที่รอบคอบและให้การสนับสนุนมากขึ้น ขณะเดียวกัน บริษัทยังทำงานร่วมกับผู้เชี่ยวชาญ ทางการแพทย์ และคณะกรรมการที่ปรึกษาระหว่างประเทศเพื่อพัฒนามาตรการคุ้มครองอย่างต่อเนื่องในอนาคต
ความท้าทายที่เกิดขึ้น
แม้ว่า OpenAI จะเน้นย้ำว่าฟีเจอร์ใหม่นี้ออกแบบมาเพื่อประโยชน์ต่อครอบครัว แต่กระแสตอบรับจากนานาชาติยังคงหลากหลาย คาดว่าเครื่องมือนี้จะเพิ่มระดับความปลอดภัยให้กับผู้ปกครองในขณะที่บุตรหลานโต้ตอบกับปัญญาประดิษฐ์ แต่ในขณะเดียวกันก็ก่อให้เกิดข้อกังวลมายาวนาน ตั้งแต่ข้อจำกัดการใช้งานไปจนถึงความเป็นส่วนตัวของข้อมูลเด็ก
อันที่จริง ผู้เชี่ยวชาญได้แสดงความกังวลเกี่ยวกับความเป็นส่วนตัวของข้อมูลเด็กมาหลายปีแล้ว คำเตือนเหล่านี้ชี้ให้เห็นว่าการจัดเก็บและวิเคราะห์ประวัติการแชทของเด็กโดยปราศจากการป้องกันที่เข้มงวดอาจเพิ่มความเสี่ยงในการเปิดเผยข้อมูลที่ละเอียดอ่อน การเกิดขึ้นของเครื่องมือตรวจสอบบน ChatGPT ได้นำประเด็นนี้กลับมาเป็นที่สนใจอีกครั้ง
อีกประเด็นหนึ่งที่ถูกพูดถึงคือเกณฑ์การเตือนของระบบ OpenAI กล่าวว่า ChatGPT จะตรวจจับสัญญาณของความเครียดรุนแรงและส่งการแจ้งเตือนไปยังผู้ปกครอง
อย่างไรก็ตาม การเรียนรู้ของเครื่องมักมีความเสี่ยงที่จะเกิดอคติ หากระบบส่งสัญญาณเตือนภัยผิดพลาด ผู้ปกครองอาจเกิดความสับสนโดยไม่จำเป็น ในทางกลับกัน หากระบบพลาดสัญญาณ บุตรหลานอาจเผชิญความเสี่ยงที่ครอบครัวจะไม่สามารถเข้าแทรกแซงได้ทันเวลา
องค์กรคุ้มครองเด็กระหว่างประเทศยังได้จับตาดูการเคลื่อนไหวของ OpenAI อย่างใกล้ชิด โดยยอมรับว่าเครื่องมือควบคุมโดยผู้ปกครองเป็นสัญญาณเชิงบวก แต่เตือนว่าการขาดการตรวจสอบอายุที่เข้มงวดและการปกป้องค่าเริ่มต้นหมายความว่าเด็กๆ ยังคงเผชิญกับความเสี่ยงได้ แม้จะมีผู้ปกครองดูแลก็ตาม
การอภิปรายเหล่านี้แสดงให้เห็นว่าการพัฒนาปัญญาประดิษฐ์ไม่เพียงแต่เป็นเรื่องราวทางเทคโนโลยีเท่านั้น แต่ยังเชื่อมโยงอย่างใกล้ชิดกับความรับผิดชอบต่อสังคมและความปลอดภัยของคนรุ่นใหม่ด้วย
ทาน ทู
ที่มา: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm
การแสดงความคิดเห็น (0)