OpenAI lanza una función de monitoreo infantil en ChatGPT después de mucha controversia

Después de mucha controversia sobre la seguridad de la inteligencia artificial con menores, OpenAI ha agregado oficialmente una herramienta de control infantil a ChatGPT.

La función de monitoreo infantil en ChatGPT también ayuda a los padres a sentirse más seguros al permitir que sus hijos usen inteligencia artificial.

La próxima herramienta de monitorización infantil ChatGPT se considera una mejora en la seguridad de OpenAI tras una demanda de gran repercusión. Esta función busca reducir los riesgos de que los niños chateen con chatbots, a la vez que plantea interrogantes sobre la responsabilidad social de las empresas de inteligencia artificial.

De la impactante demanda

En agosto pasado, la familia de Adam Raine, un joven de 16 años de California, presentó una demanda contra OpenAI, alegando que ChatGPT proporcionaba instrucciones de autolesión y abuso verbal que dejaron a su hijo sin esperanza antes de suicidarse.

La demanda rápidamente causó revuelo y abrió un debate sobre la seguridad de la inteligencia artificial para los usuarios jóvenes.

Este incidente plantea preguntas importantes: ¿deberían los menores utilizar ChatGPT sin supervisión y cómo se debe determinar la responsabilidad de los desarrolladores de inteligencia artificial cuando el producto afecta directamente a la psicología de los usuarios jóvenes?

En respuesta a esa presión, OpenAI anunció la incorporación de controles parentales, un primer paso para demostrar su compromiso con la protección de los niños y señalar que la empresa está lista para poner la seguridad en primer lugar en la siguiente fase del desarrollo de ChatGPT.

Funciones de monitoreo en ChatGPT

Según el anuncio oficial, OpenAI lanzará una herramienta que permitirá a los padres vincular sus cuentas con las cuentas de ChatGPT de sus hijos. Una vez activada, los padres podrán gestionar ajustes importantes como desactivar el almacenamiento de chat, controlar el historial de uso y ajustar los niveles de interacción según la edad.

Lo más destacado de esta innovación es el sistema de alertas. ChatGPT estará capacitado para reconocer cuándo los usuarios jóvenes muestran signos de angustia psicológica, como estrés, depresión o autolesiones. En esos casos, los padres recibirán una notificación para intervenir con prontitud. OpenAI afirma que el objetivo no es supervisar toda la conversación, sino centrarse en situaciones urgentes para proteger la seguridad de los niños.

Además, cuando se detecta contenido sensible, ChatGPT utilizará modelos de razonamiento profundo diseñados para brindar respuestas más reflexivas y comprensivas. Paralelamente, la empresa colabora con expertos médicos y un consejo asesor internacional para seguir perfeccionando sus protecciones.

Los desafíos planteados

Si bien OpenAI ha enfatizado que la nueva función está diseñada para beneficiar a las familias, la respuesta internacional ha sido dispar. Se espera que la herramienta brinde una capa adicional de protección a los padres mientras sus hijos interactúan con la inteligencia artificial, pero también ha suscitado inquietudes de larga data, desde las limitaciones de uso hasta la privacidad de los datos de los menores.

De hecho, los expertos llevan años expresando su preocupación por la privacidad de los datos de los niños. Estas advertencias destacan que almacenar y analizar el historial de chat de los niños, sin una protección estricta, puede aumentar el riesgo de exponer información confidencial. La aparición de la herramienta de monitorización de ChatGPT ha vuelto a poner el tema en el punto de mira.

Otro punto discutido fue el umbral de alerta del sistema. OpenAI afirmó que ChatGPT detectaría señales de estrés severo y enviaría una alerta a los padres.

Sin embargo, el aprendizaje automático siempre conlleva el riesgo de error. Si el sistema emite una falsa alarma, los padres pueden confundirse innecesariamente. Por el contrario, si no detecta una señal, los niños pueden enfrentarse a riesgos que las familias no pueden intervenir a tiempo.

Las organizaciones internacionales de protección infantil también han estado siguiendo de cerca la acción de OpenAI, reconociendo la herramienta de control parental como una señal positiva, pero advirtiendo que la falta de una verificación estricta de la edad y de protecciones predeterminadas significa que los niños aún pueden estar en riesgo, incluso con la supervisión de sus padres.

Estos debates muestran que el desarrollo de la inteligencia artificial no es sólo una cuestión de tecnología, sino que también está estrechamente vinculado a la responsabilidad social y a la seguridad de las generaciones más jóvenes.

Gracias por su ayuda

Fuente: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm