Benefícios e riscos do uso de chatbots de IA por crianças.

SGGPO 24 de outubro de 2023, 17h11

Embora os chatbots de IA ofereçam muitos benefícios significativos, a falta de conhecimento sobre os riscos potenciais que essas ferramentas representam para as crianças expõe os usuários a maiores riscos de perda de dados pessoais, perigo para suas vidas e acesso a conteúdo inadequado.

Os pais precisam orientar os filhos sobre como usar a internet com segurança.

Com a ajuda de ferramentas de IA, o aprendizado tornou-se mais eficiente do que nunca. Os usuários podem encontrar informações úteis sobre qualquer assunto do mundo com um simples comando de um chatbot de IA.

Nesse contexto, crianças de todas as idades ao redor do mundo estão tendo acesso a ferramentas de IA, porém essas ferramentas exigem pouco ou nenhum consentimento antes do uso.

Os chatbots de IA tornaram a navegação na informação mais fácil, sem a necessidade de abrir dezenas de abas ou ler inúmeros artigos, e para as crianças, isso é especialmente importante dada a sua curiosidade, e a IA pode ajudá-las a interagir melhor em seu aprendizado.

Além disso, a IA oferece uma plataforma que permite às crianças aprimorarem suas habilidades linguísticas e participarem de discussões livres, sem restrições de tempo; no entanto, isso também acarreta riscos.

Referindo-se ao conteúdo online, Noura Afaneh, analista de conteúdo web da Kaspersky, apontou diversos riscos associados ao uso de chatbots com inteligência artificial. Entre eles, o ChatGPT bateu o recorde de crescimento mais rápido de usuários, mas não verifica a idade do usuário, representando uma ameaça à privacidade dos dados de crianças.

Além disso, o conteúdo fornecido pelo ChatGPT é por vezes impreciso e pode facilmente induzir os utilizadores em erro. Isto inclui referências falsificadas e artigos inexistentes, o que contribuiu para que o ChatGPT se tornasse uma ferramenta de plágio para alguns estudantes.

Além disso, o chatbot "My AI" do Snapchat também está sendo amplamente utilizado por crianças, pois o aplicativo permite que usuários a partir de 13 anos o utilizem sem supervisão dos pais, o que levanta questões sobre a privacidade infantil e a retenção de dados do aplicativo, como exemplificado por Noura Afaneh.

Um dos riscos é que as crianças confundam a IA com um amigo de verdade e sigam seus conselhos, e esses conselhos "podem incluir conteúdo tendencioso, impreciso, prejudicial ou enganoso".

Como pais, é importante entender que proibir o uso desse chatbot de IA nem sempre é a melhor maneira de proteger as crianças, já que elas sempre podem acessar novos conteúdos online. Portanto, os pais precisam desempenhar um papel ativo no equilíbrio desses riscos e trabalhar para mitigá-los.

Conselhos para pais sobre como minimizar os riscos dos chatbots de IA:

• Orientar as crianças a usar a internet com segurança: Fornecer às crianças conhecimento sobre segurança e privacidade online é uma maneira eficaz de evitar que elas compartilhem informações pessoais com estranhos, inclusive chatbots.

• Experimente chatbots de IA com seus filhos: A Kaspersky incentiva os pais a orientarem seus filhos sobre como usar chatbots de IA e a conscientizá-los sobre quais perguntas devem ou não fazer.

• Monitoramento, controle e configuração de privacidade: Uma das ferramentas de proteção online mais poderosas para os pais é uma solução de privacidade abrangente. Além disso, os aplicativos de parentalidade na era digital oferecem muitos recursos essenciais para proteger as crianças online.

Fonte: https://www.sggp.org.vn/loi-ich-va-rui-ro-khi-tre-em-su-dung-chatbot-ai-post711163.html