Benefícios e riscos do uso de chatbots de IA por crianças

[anúncio_1]

SGGPO 24/10/2023 17:11

Embora os chatbots de IA tenham muitos benefícios significativos, se os usuários não estiverem cientes dos riscos potenciais que essas ferramentas representam para as crianças, eles correm maiores riscos de perda de dados pessoais, ameaças à vida e conteúdo inapropriado.

Os pais precisam orientar as crianças a usar a internet com segurança

Aprender agora é mais eficiente do que nunca com a ajuda de ferramentas de IA. Os usuários podem encontrar informações úteis sobre qualquer tópico do mundo com apenas uma frase usando o Chatbot de IA.

Nesse contexto, crianças de todas as idades ao redor do mundo têm acesso a ferramentas de IA, mas essas ferramentas exigem pouca ou nenhuma forma de consentimento antes do uso.

Os chatbots de IA tornaram mais fácil navegar pelas informações sem precisar abrir dezenas de abas ou ler inúmeros artigos. Para as crianças, isso é especialmente importante devido à curiosidade delas, e a IA pode ajudá-las a se envolver melhor no aprendizado.

Além disso, a IA fornece uma plataforma que permite que as crianças aprimorem suas habilidades linguísticas e discutam livremente, sem limites de tempo. No entanto, isso também traz riscos.

Referindo-se ao conteúdo online, o Sr. Noura Afaneh, Analista de Conteúdo Web da Kaspersky, apontou alguns riscos ao usar chatbots de IA. Entre eles, o ChatGPT estabeleceu um recorde com o número de usuários que mais cresce, mas não verifica a idade dos usuários, o que representa uma ameaça à privacidade dos dados de crianças.

Além disso, às vezes o conteúdo fornecido pelo ChatGPT não é totalmente preciso e pode facilmente levar os usuários a receber informações falsas. Isso inclui referências falsas e artigos inexistentes, o que também contribui para que o ChatGPT se torne uma ferramenta de plágio para alguns alunos.

Além disso, o chatbot "My AI" do Snapchat também é um chatbot que está sendo muito usado por crianças porque o aplicativo permite que usuários de até 13 anos o utilizem sem o controle dos pais, o que levanta questões sobre a privacidade das crianças e a retenção de dados pelo aplicativo. O Sr. Noura Afaneh deu um exemplo.

Um dos riscos é que as crianças confundam a IA com um amigo de verdade e sigam seus conselhos, que “podem incluir conteúdo tendencioso, impreciso, prejudicial ou enganoso”.

Como pais, é importante entender que proibir o uso deste Chatbot de IA nem sempre é a melhor maneira de proteger as crianças, pois elas sempre podem ser expostas a novos conteúdos online. Por isso, os pais precisam ter um papel ativo no equilíbrio dos riscos acima e trabalhar para mitigá-los.

Dicas para pais minimizarem riscos de chatbots de IA:

• Ensine as crianças sobre segurança na Internet: fornecer às crianças conhecimento sobre segurança e privacidade online é uma maneira eficaz de evitar o compartilhamento de informações pessoais com estranhos, até mesmo com chatbots.

• Experimente os chatbots de IA com seus filhos: a Kaspersky incentiva os pais a orientar seus filhos sobre como usá-los, além de conscientizá-los sobre quais perguntas eles devem ou não fazer aos chatbots de IA.

• Monitore, controle e defina configurações de privacidade: Uma das ferramentas de proteção online mais poderosas para pais é uma solução de segurança abrangente. Além disso, aplicativos parentais para a era da tecnologia oferecem recursos essenciais para proteger as crianças online.

Fonte