La función de control infantil de ChatGPT también ayuda a los padres a sentirse más seguros cuando permiten que sus hijos utilicen inteligencia artificial.
La próxima herramienta de monitorización infantil ChatGPT se considera un cambio en materia de seguridad por parte de OpenAI tras una demanda de gran repercusión. Esta función pretende reducir el riesgo de que los niños interactúen con chatbots, al tiempo que plantea interrogantes sobre la responsabilidad social de las empresas de inteligencia artificial.
Del impactante juicio
En agosto pasado, la familia de Adam Raine, un chico californiano de 16 años, presentó una demanda contra OpenAI, alegando que ChatGPT proporcionó instrucciones para autolesionarse y abuso verbal que dejó a su hijo sintiéndose desesperanzado antes de suicidarse.
La demanda causó rápidamente revuelo y abrió un debate sobre la seguridad de la inteligencia artificial para los usuarios jóvenes.
Esto plantea cuestiones importantes: ¿deberían los menores usar ChatGPT sin supervisión, y cómo debería determinarse la responsabilidad de los desarrolladores de IA cuando el producto afecta directamente a la psicología de los usuarios jóvenes?
En respuesta a esa presión, OpenAI anunció la incorporación de controles parentales, un primer paso para demostrar su compromiso con la protección de los niños y señalar que la empresa está dispuesta a priorizar la seguridad en la próxima fase del desarrollo de ChatGPT.
Funciones de monitorización en ChatGPT
Según el anuncio oficial, OpenAI lanzará una herramienta que permitirá a los padres vincular sus cuentas con las de sus hijos en ChatGPT. Una vez activada, podrán gestionar ajustes importantes como desactivar el almacenamiento de chats, controlar el historial de uso y ajustar los niveles de interacción según la edad.
El aspecto más destacado de esta innovación es el sistema de alertas. ChatGPT estará entrenado para reconocer cuándo los usuarios jóvenes muestran signos de crisis psicológica, como estrés, depresión o autolesiones. En esos casos, los padres recibirán notificaciones para intervenir de inmediato. OpenAI afirma que el objetivo no es monitorizar toda la conversación, sino centrarse en situaciones de emergencia para proteger la seguridad de los niños.
Además, cuando se detecta contenido sensible, ChatGPT cambia a modelos de razonamiento profundo, diseñados para ofrecer respuestas más reflexivas y útiles. Paralelamente, la empresa colabora con expertos médicos y un consejo asesor internacional para seguir perfeccionando sus medidas de protección.
Los desafíos planteados
Aunque OpenAI ha recalcado que la nueva función está diseñada para beneficiar a las familias, la respuesta internacional ha sido dispar. Se espera que la herramienta añada una capa de protección para los padres mientras sus hijos interactúan con la inteligencia artificial, pero también ha suscitado preocupaciones de larga data, desde los límites de uso hasta la privacidad de los datos infantiles.
De hecho, los expertos llevan años expresando su preocupación por la privacidad de los datos de los niños. Estas advertencias subrayan que almacenar y analizar el historial de chats de los menores, sin medidas de protección estrictas, puede aumentar el riesgo de exponer información sensible. La aparición de herramientas de monitorización en ChatGPT ha vuelto a poner el tema en el punto de mira.
Otro punto que se trató fue el umbral de alerta del sistema. OpenAI afirmó que ChatGPT detectaría signos de estrés severo y enviaría una alerta a los padres.
Sin embargo, el aprendizaje automático siempre conlleva el riesgo de sesgo. Si el sistema da una falsa alarma, los padres pueden confundirse innecesariamente. Por el contrario, si no detecta una señal, los niños pueden correr riesgos ante los cuales la familia no pueda intervenir a tiempo.
Las organizaciones internacionales de protección infantil también han seguido de cerca la iniciativa de OpenAI, reconociendo la herramienta de control parental como una señal positiva, pero advirtiendo que la falta de una verificación de edad estricta y de protecciones predeterminadas significa que los niños aún pueden enfrentar riesgos, incluso con la supervisión de los padres.
Estos debates demuestran que el desarrollo de la inteligencia artificial no es solo una cuestión tecnológica, sino que también está estrechamente vinculado a la responsabilidad social y a la seguridad de las generaciones más jóvenes.
THANH THU
Fuente: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm
Kommentar (0)