A tecnologia de IA representa muitos riscos para as crianças online.

DNVN - O Sr. Do Duong Hien, especialista da ChildFund Vietnam, afirmou que a IA traz muitos benefícios, mas também apresenta muitos riscos potenciais para as crianças na internet.

Em um workshop intitulado "Promovendo a cooperação na proteção de crianças no ambiente online", organizado pela Associação Vietnamita de Segurança da Informação em coordenação com o Departamento de Segurança da Informação ( Ministério da Informação e Comunicações ) em 21 de novembro em Hanói, especialistas comentaram que, no contexto do forte desenvolvimento das tecnologias digitais e sua crescente importância como ferramentas indispensáveis ​​de trabalho e entretenimento no cotidiano de cada pessoa, os riscos à segurança, à proteção da informação e à privacidade também estão aumentando.

Para as crianças, esses perigos e riscos tornam-se ainda mais evidentes quando elas não possuem as habilidades necessárias para identificá-los e evitá-los. Esses são desafios não apenas para o Vietnã, mas também para muitos outros países do mundo . Portanto, a proteção infantil e o fortalecimento da cooperação e da conexão no ciberespaço para proteger e empoderar as crianças são questões de relevância global.

Sr. Dang Vu Son - Vice-Presidente da VNISA.

O Sr. Dang Vu Son, Vice-Presidente da VNISA e ex-Chefe do Comitê Governamental de Criptografia, afirmou: "Nesse contexto, o programa 'Proteção e apoio à interação saudável e criativa de crianças no ambiente online para o período de 2021 a 2025' impulsionou a participação ativa de órgãos estatais, organizações sociais e empresas. Contudo, na prática, ainda existem limitações na conexão e coordenação entre as partes envolvidas, o que afeta significativamente a eficácia do trabalho de proteção infantil no ciberespaço."

Segundo o Sr. Son, a VNISA tem se dedicado a trabalhar com agências de gestão estatal, organizações internacionais e empresas para implementar iniciativas de proteção infantil online. Nos últimos tempos, a Associação tem realizado diversas atividades.

“Acreditamos que a conexão e a cooperação são fundamentais para solucionar desafios e aumentar a eficiência na proteção de crianças no ciberespaço. A VNISA se compromete a continuar seus esforços e a coordenar-se estreitamente com parceiros nacionais e internacionais para construir um ambiente cibernético verdadeiramente seguro e sustentável para a jovem geração”, acrescentou o Sr. Dang Vu Son.

Ao falar sobre o impacto da inteligência artificial (IA) nas crianças online, o Sr. Do Duong Hien, especialista da ChildFund Vietnam, afirmou que a IA está se desenvolvendo rapidamente, trazendo benefícios, mas também representando muitos riscos potenciais para as crianças na internet.

"A IA incentiva e promove a criatividade e a iniciativa das crianças. A IA generativa pode fornecer às crianças ferramentas criativas para se expressarem por meio da composição, da arte e da música. A IA pode ajudar as crianças a explorar e aprender sobre novos campos, expandir seus conhecimentos e habilidades", mencionou o Sr. Hien, alertando, porém, para o lado negativo: "Esse é o problema da produção de conteúdo inadequado. As ferramentas/algoritmos de IA dos provedores de plataformas podem fornecer conteúdo inadequado para a idade e prejudicial. Além disso, a IA generativa pode ser usada para criar desinformação ou notícias falsas que afetam a cognição e o comportamento das crianças, bem como seu desenvolvimento."

No entanto, a IA também pode desempenhar um papel importante como ferramenta para proteger crianças e monitorar conteúdo online. A IA tem a capacidade de detectar, remover e alertar rapidamente sobre conteúdo abusivo ou inadequado em redes sociais e plataformas da internet. Detecção e denúncia de conteúdo de abuso sexual infantil (CSAM): aplicativos e softwares auxiliam na detecção de documentos e conteúdo de CSAM, permitindo a denúncia ou o bloqueio diretamente no sistema. Ferramentas de IA podem auxiliar na detecção de comportamentos violentos.

Sr. Ngo Tuan Anh, Vice-Presidente da VNISA, Presidente do VCSC Club (terceiro da direita).

Ao falar sobre as atividades de proteção infantil online nos últimos tempos, o Sr. Ngo Tuan Anh, Vice-Presidente da VNISA e Chefe do VCSC Club, afirmou: “A norma básica TCCS:03 VNISA, publicada em junho de 2024, representa um marco importante para a promoção do ecossistema de produtos e serviços de proteção infantil online. Essa norma também contribui para a avaliação da qualidade desses produtos e serviços, ajudando usuários e pais a se sentirem mais seguros na escolha dos mesmos. Isso servirá de base para incentivar a participação de empresas, organizações e um grande número de usuários, unindo esforços para proteger seus filhos dos perigos e riscos do ciberespaço”.

A Sra. Phan Thi Kim Lien, Gerente do Programa de Proteção e Participação Infantil da World Vision International no Vietnã, afirmou que o ambiente digital traz inúmeras oportunidades, bem como riscos, para o desenvolvimento das crianças. No Vietnã, 9 em cada 10 crianças usam a internet. Em um esforço para construir um ambiente online seguro e eficaz para as crianças, a World Vision International no Vietnã concentra-se em programas abrangentes de educação em habilidades digitais, para que as crianças saibam como se proteger e usar a internet de forma criativa, além de serem proativas na construção de um ambiente online seguro e eficaz.

Nguyen Duc

Fonte: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281