Beneficios y riesgos del uso de chatbots de IA por parte de niños

SGGPO 24 de octubre de 2023, 17:11

Si bien los chatbots de inteligencia artificial tienen muchos beneficios importantes, sin ser conscientes de los riesgos potenciales que estas herramientas representan para los niños, los usuarios enfrentan mayores riesgos de pérdida de datos personales, amenazas a la vida y contenido inapropiado.

Los padres deben orientar a sus hijos sobre el uso seguro de Internet.

El aprendizaje ahora es más eficiente que nunca gracias a las herramientas de IA. Los usuarios pueden encontrar información útil sobre cualquier tema con solo una palabra gracias a AI Chatbot.

En este contexto, niños de todas las edades en todo el mundo tienen acceso a herramientas de IA, pero estas herramientas requieren poco o ningún tipo de consentimiento antes de su uso.

Los chatbots de IA han facilitado la navegación de información sin tener que abrir docenas de pestañas ni leer innumerables artículos. Para los niños, esto es especialmente importante debido a su curiosidad, y la IA puede ayudarlos a participar mejor en el aprendizaje.

Además, la IA proporciona una plataforma que permite a los niños perfeccionar sus habilidades lingüísticas y debatir libremente sin límites de tiempo, aunque esto también conlleva riesgos.

En referencia al contenido en línea, el Sr. Noura Afaneh, analista de contenido web de Kaspersky, señaló ciertos riesgos al usar chatbots de IA. Entre ellos, ChatGPT ha alcanzado el récord de crecimiento de usuarios, pero no verifica la edad de los usuarios, lo cual representa una amenaza para la privacidad de los datos de los niños.

Además, a veces el contenido que ofrece ChatGPT no es del todo preciso y puede inducir fácilmente a los usuarios a recibir información falsa. Esto incluye referencias falsas y artículos inexistentes, lo que también contribuye a que ChatGPT se convierta en una herramienta de plagio para algunos estudiantes.

Además, el chatbot “My AI” de Snapchat también es un chatbot popular entre los niños porque la aplicación permite a usuarios de tan solo 13 años utilizarla sin controles parentales, lo que plantea preguntas sobre la privacidad de los niños y la retención de sus datos por parte de la aplicación, puso como ejemplo Noura Afaneh.

Uno de los riesgos es que los niños confundan la IA con un verdadero amigo y actúen según sus consejos, que “pueden incluir contenido sesgado, inexacto, dañino o engañoso”.

Como padres, es importante comprender que prohibir el uso de estos chatbots de IA no siempre es la mejor manera de proteger a los niños, ya que siempre pueden estar expuestos a contenido nuevo en línea, por lo que los padres deben asumir un papel activo para equilibrar los riesgos mencionados anteriormente y trabajar para mitigarlos.

Consejos para que los padres minimicen los riesgos de los chatbots de IA:

• Enseñe a los niños sobre la seguridad en Internet: enseñar a los niños sobre la seguridad y la privacidad en línea es una forma eficaz de evitar compartir información personal con extraños, incluso con chatbots.

• Experimente AI Chatbot con sus hijos: Kaspersky alienta a los padres a guiar a sus hijos sobre cómo usarlo, así como a crear conciencia sobre qué preguntas se deben y no se deben hacer al AI Chatbot.

• Supervisar, controlar y configurar la privacidad: Una de las herramientas de protección en línea más potentes para los padres es una solución de seguridad integral. Además, las aplicaciones para padres en la era tecnológica ofrecen recursos muy necesarios para proteger a los niños en línea.

Fuente: https://www.sggp.org.vn/loi-ich-va-rui-ro-khi-tre-em-su-dung-chatbot-ai-post711163.html