A explosão de informações e conexões nas redes sociais, em particular, e na internet, em geral, fez com que muitas pessoas adquirissem o hábito de compartilhar todas as suas emoções e eventos da vida pessoal online, sem se darem conta dos perigos envolvidos. Não se trata apenas de publicar fotos e vídeos de si mesmas; muitos adultos também se consideram no direito de publicar conteúdo com rostos ou vozes de crianças sem autorização. Uma vez que essas imagens e vídeos são publicados online, qualquer pessoa com acesso a eles pode utilizá-los sem restrições.
Em julho passado, a rede alemã Deutsche Telekom lançou um anúncio fictício mostrando como imagens de crianças pequenas podem ser usadas indevidamente online, utilizando inteligência artificial (IA) para diversos fins. Intitulado "Uma Mensagem de Ella" , o vídeo usa IA e Deepfake para criar uma versão adulta de imagens e vídeos da pequena Ella publicados online por seus pais.
'Ella adulta' criada por IA a partir de imagens de redes sociais da Ella de 9 anos no vídeo de alerta da Deutsche Telekom
A "IA Ella" consegue se mover e falar como uma pessoa de verdade, chocando seus pais ao verem a filha na telona do cinema. Ela consegue até chorar e se expressar como um ser humano.
"Eu sei que para vocês, essas fotos são memórias. Mas para outros, são dados. E para mim, podem ser o começo de um futuro terrível, onde minha identidade pode ser roubada, eu posso acabar na cadeia por coisas que não fiz... O que vocês compartilham online são marcos digitais que me acompanharão pelo resto da vida", compartilhou a personagem de IA Ella.
Com apenas uma foto compartilhada, a IA pode criar uma versão adulta de uma menina de 9 anos. Deepfakes extraem vozes de vídeos e as transformam em vozes adultas. Imagens e vídeos podem ser completamente falsificados, e dados de identificação pessoal se tornam informações valiosas roubadas para fins ilegais. Não parando por aí, criminosos podem usar imagens coletadas online para recortar e colar, usar IA para criar pornografia infantil ou uma série de fotos que zombam, difamam e distorcem a verdade...
"Estudos recentes mostram que, em média, uma criança de cinco anos tem cerca de 1.500 fotos publicadas online sem o seu consentimento, postadas por ninguém menos que a pessoa em quem mais confia: sua mãe ou seu pai", disse Christian Loefert, chefe de Comunicação e Marketing da Deutsche Telekom.
Segundo a revista The New Yorker, especialistas estimam que, até 2030, dois terços dos roubos de identidade serão causados pelo compartilhamento descontrolado de fotos nas redes sociais. A Deutsche Telekom também citou um relatório que indica que mais de 75% dos pais compartilham dados sobre seus filhos nas redes sociais. Enquanto isso, oito em cada dez pais têm seguidores nas redes sociais que nunca os conheceram pessoalmente.
Recentemente, o desenvolvimento de ferramentas de IA tornou-se cada vez mais "popular", alcançando usuários comuns por meio de uma série de aplicativos em dispositivos móveis. Em vez de serem cautelosos com esses programas, muitas pessoas compartilham fotos pessoais ou familiares em redes sociais sem o devido cuidado. Essa ação, sem intenção, fornece à IA uma grande quantidade de dados gratuitos para aprender sobre as pessoas, desde a estrutura facial até o ambiente ao redor.
Muitos especialistas em segurança alertam que, em todas as situações, mesmo com as novas tendências, os usuários devem continuar cautelosos e não trocar dados pessoais, especialmente seus próprios dados faciais e os de seus entes queridos, por alguns minutos de diversão nas redes sociais.
Link da fonte
Comentário (0)