Benefícios e riscos do uso de chatbots de IA por crianças

SGGPO 24 de outubro de 2023, 17h11

Embora os chatbots de IA ofereçam muitos benefícios significativos, sem estarem cientes dos riscos potenciais que essas ferramentas representam para as crianças, os usuários enfrentam maiores riscos de perda de dados pessoais, ameaças à vida e conteúdo inadequado.

Os pais precisam orientar os filhos a usar a internet com segurança.

Aprender agora é mais eficiente do que nunca com a ajuda de ferramentas de IA. Os usuários podem encontrar informações úteis sobre qualquer assunto do mundo com apenas uma palavra, utilizando chatbots de IA.

Nesse contexto, crianças de todas as idades ao redor do mundo têm acesso a ferramentas de IA, porém essas ferramentas exigem pouco ou nenhum consentimento antes do uso.

Os chatbots de IA tornaram mais fácil navegar pelas informações sem precisar abrir dezenas de abas ou ler inúmeros artigos. Para as crianças, isso é especialmente importante, dada a sua curiosidade, e a IA pode ajudá-las a se envolverem melhor na aprendizagem.

Além disso, a IA oferece uma plataforma que permite às crianças aprimorarem suas habilidades linguísticas e discutirem livremente, sem limites de tempo; no entanto, isso também acarreta riscos.

Referindo-se ao conteúdo online, Noura Afaneh, analista de conteúdo web da Kaspersky, apontou certos riscos no uso de chatbots com inteligência artificial. Entre eles, o ChatGPT bateu o recorde de crescimento mais rápido em número de usuários, mas não verifica a idade deles, o que representa uma ameaça à privacidade dos dados de crianças.

Além disso, por vezes o conteúdo fornecido pelo ChatGPT não é totalmente preciso e pode facilmente levar os usuários a receber informações falsas. Isso inclui referências falsas e artigos inexistentes, o que também contribui para que o ChatGPT se torne uma ferramenta de plágio para alguns estudantes.

Além disso, o chatbot "My AI" do Snapchat também é popular entre crianças, pois o aplicativo permite que usuários a partir de 13 anos o utilizem sem controle parental, o que levanta questões sobre a privacidade das crianças e a retenção de seus dados pelo aplicativo, exemplificou Noura Afaneh.

Um dos riscos é que as crianças confundam a IA com um amigo de verdade e sigam seus conselhos, que "podem incluir conteúdo tendencioso, impreciso, prejudicial ou enganoso".

Como pais, é importante entender que proibir o uso desses chatbots de IA nem sempre é a melhor maneira de proteger as crianças, pois elas podem estar sempre expostas a novos conteúdos online. Portanto, os pais precisam assumir um papel ativo no equilíbrio dos riscos mencionados e trabalhar para mitigá-los.

Dicas para os pais minimizarem os riscos dos chatbots de IA:

• Ensine as crianças sobre segurança na internet: Ensinar as crianças sobre segurança e privacidade online é uma maneira eficaz de evitar o compartilhamento de informações pessoais com estranhos, inclusive chatbots.

• Experimente o chatbot de IA com seus filhos: a Kaspersky incentiva os pais a orientarem seus filhos sobre como usá-lo, além de conscientizá-los sobre quais perguntas devem e não devem ser feitas ao chatbot de IA.

• Monitore, controle e defina as configurações de privacidade: Uma das ferramentas de proteção online mais poderosas para os pais é uma solução de segurança abrangente. Além disso, os aplicativos de parentalidade para a era tecnológica oferecem recursos essenciais para proteger as crianças online.

Fonte: https://www.sggp.org.vn/loi-ich-va-rui-ro-khi-tre-em-su-dung-chatbot-ai-post711163.html