Chatbot para adultos con verificación de edad y alertas de seguridad para niños.
La confirmación de OpenAI de que permitirá a los usuarios adultos verificados acceder a contenido para adultos en ChatGPT a partir de diciembre de 2025 se considera un hito importante para la industria, ya que impulsa el crecimiento del mercado y establece un nuevo estándar para la protección de los menores.
Chatbots para adultos: la nueva pista de carreras para la IA.
Las plataformas de IA han implementado rápidamente modelos para satisfacer las necesidades de los adultos, desde conversaciones íntimas hasta apoyo emocional.
Según el director ejecutivo Sam Altman, ChatGPT estaba previamente muy restringido para evitar riesgos para la salud mental, pero este enfoque hizo que el modelo fuera menos útil y atractivo para muchos usuarios. Añadió que OpenAI está adoptando el principio de "tratar a los adultos como adultos".
La incorporación de un modo de acceso controlado para usuarios verificados ha dinamizado aún más el mercado de chatbots para adultos, que ya estaba en rápido crecimiento.
El panorama competitivo se ha vuelto aún más claro desde que los medios internacionales cuestionaron recientemente la xAI de Elon Musk por su capacidad para crear contenido para adultos relacionado con celebridades, lo que generó demandas urgentes de nuevos estándares de protección.
El "problema" de la verificación de la edad.
Abrir el acceso a contenido para adultos presenta un gran desafío: verificar la edad del usuario. La verificación mediante documentos de identidad ofrece alta fiabilidad, pero conlleva riesgos para la privacidad y la seguridad de los datos personales. Por otro lado, los métodos de verificación basados en el comportamiento o el lenguaje basados en IA requieren grandes conjuntos de datos y modelos sofisticados, y aun así conllevan el riesgo de ser ignorados por los usuarios.
El desafío se ve aún más amplificado por las características de la generación de contenido con IA. Los chatbots pueden generar nueva información en tiempo real, ampliar las conversaciones de forma sensible o interpretar solicitudes ambiguas como contenido inapropiado.
Los riesgos aumentan drásticamente cuando el modelo admite la creación de múltiples medios, como imágenes, audio y vídeo . Es fundamental evitar por completo cualquier posibilidad de simular o sintetizar contenido sensible que involucre a menores, incluso de forma simulada, lo que exige que los desarrolladores establezcan mecanismos de control desde la capa de diseño del modelo hasta la capa de filtrado de contenido.
La presión de la responsabilidad sobre las empresas de IA.
La noticia de que OpenAI está a punto de activar un modo de contenido para adultos ha generado preocupación entre numerosas organizaciones de protección infantil. Advierten que legitimar contenido para adultos mediante IA podría incitar inadvertidamente a los menores a buscar maneras de "cruzar la línea".
En Vietnam, muchos padres también han expresado su preocupación por el hecho de que una plataforma tradicionalmente asociada con el aprendizaje, como ChatGPT, haya introducido un modo para adultos.
Estas presiones obligan a las empresas de IA a implementar exhaustivamente el principio de "seguridad por diseño": controlar los datos de entrenamiento, monitorear la entrada y la salida, implementar filtros en tiempo real y mantener mecanismos de auditoría regulares.
La transparencia en las operaciones, la divulgación pública de las medidas de protección y la aceptación de la retroalimentación de la comunidad se están convirtiendo en requisitos obligatorios para crear un entorno seguro para los adultos sin representar riesgos para los grupos de usuarios vulnerables.
La decisión de OpenAI de permitir a usuarios verificados acceder a contenido para adultos no sólo es un hito comercial sino también un recordatorio de que la innovación tecnológica debe ir acompañada de estándares responsables.
Para que el ecosistema de IA prospere de manera sostenible, las empresas deben priorizar la seguridad, manteniendo un equilibrio entre la innovación y la responsabilidad de proteger a la comunidad.
Fuente: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm
![[Foto] El primer ministro Pham Minh Chinh mantiene una conversación telefónica con el director ejecutivo de la Corporación Rosatom de Rusia.](/_next/image?url=https%3A%2F%2Fvphoto.vietnam.vn%2Fthumb%2F1200x675%2Fvietnam%2Fresource%2FIMAGE%2F2025%2F12%2F11%2F1765464552365_dsc-5295-jpg.webp&w=3840&q=75)
Kommentar (0)