A explosão de informações e conexões nas redes sociais, em particular, e na internet em geral, fez com que muitas pessoas adquirissem o hábito de compartilhar todas as suas emoções e eventos da vida pessoal na internet, sem prever os perigos de fazê-lo. Além de postar imagens e vídeos de si mesmos online, muitos adultos também estão se dando o direito de postar conteúdo contendo rostos ou vozes de crianças sem permissão. Uma vez que essas imagens e vídeos apareçam online, qualquer pessoa com acesso pode usá-los sem quaisquer restrições.
Em julho passado, a operadora de rede alemã Deutsche Telekom lançou um anúncio falso mostrando como imagens de crianças pequenas podem ser abusadas online, usando IA (inteligência artificial) para diversos fins. Intitulado "Uma Mensagem de Ella" , o clipe usa IA e Deepfake para criar uma versão adulta de imagens e vídeos da jovem Ella postados online por seus pais.
'Ella adulta' criada por IA a partir de imagens de mídia social de Ella de 9 anos no vídeo de alerta da Deutsche Telekom
A "Inteligência Artificial Ella" consegue se mover e falar como uma pessoa real, chocando seus pais ao verem a filha na tela grande do cinema. Ela consegue até chorar e se expressar como um ser humano.
"Eu sei que para você, essas fotos são memórias. Mas para outros, são dados. E para mim, elas podem ser o começo de um futuro terrível, terrível, onde minha identidade pode ser roubada, eu posso acabar na cadeia por coisas que não fiz... O que você compartilha online são marcos digitais que me acompanharão pelo resto da minha vida", compartilhou a personagem Ella, da IA.
Com apenas uma foto compartilhada, a IA pode criar uma versão adulta de uma menina de 9 anos. O deepfake separa vozes de vídeos e as transforma em vozes adultas. Imagens e vídeos podem ser completamente falsificados, e dados de identificação pessoal se tornam informações valiosas roubadas para fins ilegais. Além disso, criminosos podem usar imagens coletadas online para copiar e colar, usar a IA para criar pornografia infantil ou uma série de fotos que ridicularizam, difamam e distorcem a verdade...
Christian Loefert, chefe de comunicações e marketing da Deutsche Telekom, disse: "Estudos recentes mostram que uma criança média de cinco anos tem cerca de 1.500 fotos publicadas on-line sem seu consentimento, postadas por ninguém menos que a pessoa em quem ela mais confia: sua mãe ou seu pai."
Segundo a revista The New Yorker, especialistas estimam que, até 2030, dois terços dos roubos de identidade serão causados pelo compartilhamento descontrolado de fotos nas redes sociais. A Deutsche Telekom também citou um relatório que constatou que mais de 75% dos pais agora compartilham dados sobre seus filhos nas redes sociais. Além disso, oito em cada dez pais têm membros das redes sociais seguindo suas contas sem nunca tê-los conhecido pessoalmente.
Recentemente, o desenvolvimento de ferramentas de IA tornou-se cada vez mais "popular", alcançando usuários comuns por meio de uma série de aplicativos em dispositivos móveis. Em vez de serem cautelosos com esses programas, muitas pessoas, descuidadamente, disponibilizam fotos pessoais ou de família para postar nas redes sociais. Essa ação está, inadvertidamente, fornecendo à IA uma grande quantidade de dados gratuitos para aprender sobre as pessoas, desde a estrutura facial até o ambiente ao redor.
Muitos especialistas em segurança alertam que em todas as situações, mesmo com as novas tendências, os usuários ainda devem ser cautelosos e não trocar dados pessoais, especialmente os seus próprios dados faciais e os de seus entes queridos, por alguns minutos de diversão nas redes sociais.
Link da fonte
Comentário (0)