A tecnologia de IA representa muitos riscos para as crianças online

DNVN - O Sr. Do Duong Hien, especialista do ChildFund Vietnam, disse que a IA traz muitos benefícios, mas também representa muitos riscos potenciais para as crianças na internet.

Falando no workshop "Promovendo a cooperação na proteção de crianças no ambiente online", organizado pela Associação de Segurança da Informação do Vietnã em colaboração com o Departamento de Segurança da Informação ( Ministério da Informação e Comunicações ) em 21 de novembro em Hanói, especialistas comentaram que, no contexto das tecnologias digitais se desenvolvendo fortemente e se tornando uma ferramenta de trabalho e entretenimento indispensável na vida diária de cada pessoa, os riscos à segurança, à segurança da informação e à privacidade também estão aumentando.

Para as crianças, esses perigos e riscos tornam-se ainda mais evidentes quando não possuem habilidades suficientes para identificá-los e preveni-los. Esses são desafios não apenas para o Vietnã, mas também para muitos outros países do mundo . Portanto, proteger as crianças e fortalecer a cooperação e a conexão no ciberespaço para proteger e empoderar as crianças também são questões levantadas globalmente.

Sr. Dang Vu Son - Vice-Presidente da VNISA.

O Sr. Dang Vu Son, Vice-Presidente da VNISA e Ex-Chefe do Comitê de Cifras do Governo , afirmou: "Nesse contexto, o programa "Protegendo e apoiando crianças para que interajam de forma saudável e criativa no ambiente online no período de 2021 a 2025" criou uma força motriz para promover a participação ativa de agências estatais, organizações sociais e empresas. No entanto, na prática, ainda existem limitações na conexão e coordenação entre as partes relevantes, o que afeta significativamente a eficácia do trabalho de proteção à criança no ciberespaço".

Segundo o Sr. Son, a VNISA tem se comprometido a trabalhar com agências governamentais, organizações internacionais e empresas para implementar iniciativas de proteção de crianças online. Recentemente, a Associação realizou diversas atividades.

Acreditamos que a conexão e a cooperação são a chave para resolver desafios e aumentar a eficiência na proteção de crianças no ciberespaço. A VNISA está comprometida em continuar seus esforços e trabalhar em estreita colaboração com parceiros nacionais e estrangeiros para construir um ambiente cibernético verdadeiramente seguro e sustentável para a geração mais jovem", acrescentou o Sr. Dang Vu Son.

Comentando sobre o impacto da inteligência artificial (IA) em crianças online, o Sr. Do Duong Hien - especialista do ChildFund Vietnam - disse que a IA está se desenvolvendo fortemente, trazendo benefícios, mas também representando muitos riscos potenciais para crianças na internet.

"A IA incentiva e promove a criatividade e a iniciativa das crianças. A IA generativa pode fornecer às crianças ferramentas criativas para se expressarem por meio de composição, arte e música. A IA pode ajudar as crianças a explorar e aprender sobre novos campos, expandindo seus conhecimentos e habilidades", mencionou o Sr. Hien, alertando sobre a desvantagem: "Esse é o problema da produção de conteúdo inapropriado. Ferramentas/algoritmos de IA de provedores de plataformas podem fornecer conteúdo inapropriado e prejudicial à idade. Além disso, a IA generativa pode ser usada para criar desinformação ou notícias falsas que afetam a cognição e o comportamento das crianças, bem como seu desenvolvimento."

No entanto, a IA também pode desempenhar um papel como ferramenta para proteger crianças e monitorar conteúdo online. A IA tem a capacidade de detectar, remover e alertar rapidamente sobre conteúdo abusivo ou inapropriado em mídias sociais e plataformas de internet. Detecte e denuncie conteúdo de abuso sexual infantil (CSAM): aplicativos e softwares auxiliam na detecção de documentos, conteúdo CSAM e na denúncia ou bloqueio diretamente no sistema. Ferramentas de IA podem auxiliar na detecção de comportamento violento.

Sr. Ngo Tuan Anh, vice-presidente da VNISA, presidente do VCSC Club (terceiro da direita).

Falando sobre as atividades de proteção de crianças online nos últimos tempos, o Sr. Ngo Tuan Anh, vice-presidente da VNISA e presidente do VCSC Club, afirmou: “O padrão básico TCCS:03 da VNISA, recém-lançado em junho de 2024, é um marco importante que contribui para a promoção do ecossistema de produtos e serviços de proteção de crianças online. Este padrão também contribui para a avaliação da qualidade de produtos e serviços de proteção de crianças online, ajudando usuários e pais a se sentirem mais seguros na escolha de produtos e serviços. Esta será uma premissa para promover a participação de empresas, organizações e um grande número de usuários na proteção de seus filhos contra perigos e riscos no ciberespaço”.

A Sra. Phan Thi Kim Lien, Gerente do Programa de Proteção e Participação Infantil da World Vision International no Vietnã, afirmou que o ambiente digital traz inúmeras oportunidades, bem como riscos para o desenvolvimento infantil. No Vietnã, 9 em cada 10 crianças usam a internet. Em um esforço para construir um ambiente online seguro e eficaz para crianças, a World Vision International no Vietnã concentra-se em um programa abrangente de educação em habilidades digitais para que as crianças aprendam a se proteger, usem a internet de forma criativa e sejam proativas na construção de um ambiente online seguro e eficaz.

Nguyen Duc

Fonte: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281