Deepfake está em alta - Ninguém está a salvo de truques de imitação de IA

Imitação de voz, imitação facial, dublagem... A IA não serve mais apenas para trabalho e entretenimento, mas está se tornando uma perigosa ferramenta de fraude comercial. Imagens de celebridades, médicos e até monges estão sendo personificadas pela IA para vender produtos em todas as redes sociais. Pessoas reais não sabem, e os compradores perdem a confiança.

Sendo "emprestado o rosto" para vender mercadorias

"Não importa como esteja o joelho original, basta aplicar nosso método, garantimos que em 7 dias ele melhorará significativamente. Se for completamente ineficaz, estou disposto a compensar 1 bilhão de VND como um sincero pedido de desculpas. Se você realmente não notar nenhum efeito, nos comprometemos a reembolsar 100% e eu mesmo estou disposto a compensar 1 bilhão de VND. Nem todos se atrevem a se comprometer assim", é o que uma cantora famosa compartilha anunciando um creme de massagem para alívio de dores nas articulações, mas vale ressaltar que este anúncio foi criado inteiramente por IA.

O clipe publicitário acima foi usado por uma conta do TikTok chamada LShop, utilizando a imagem, a voz e a linguagem corporal da cantora de forma realista, impossível de ser detectada sem uma observação cuidadosa. Esta conta tem quase 9.000 seguidores, 67.000 curtidas e cada clipe tem milhares de visualizações. Só o vídeo "publicitário", que utiliza a imagem da cantora acima, atraiu mais de 1.000 curtidas e quase 100 comentários para compra.

Com o mesmo produto de creme de massagem, os canais de vendas também "produziram" outra versão deepfake, desta vez de um médico. No clipe, o personagem afirmava firmemente: "Sou o ortopedista mais prestigiado de Hanói e garanto que até mesmo a ruptura de menisco mais grave pode ser completamente curada em apenas 3 dias. Este gel foi certificado pela associação ortopédica mais prestigiada do Vietnã". Essa fala foi recriada pela IA para uma série de outros "médicos", tornando fácil para os espectadores confundi-la com a realidade.

O clipe atraiu quase 4.000 curtidas e mais de 120 comentários, mas quando enviamos uma mensagem para tentar fazer um pedido, a conta não respondeu nem interagiu com os espectadores na seção de comentários, apenas deixando o produto no carrinho para compra direta. Vale ressaltar que o produto à venda era originário da China e as informações sobre o produto eram muito vagas.

De cantores, celebridades a médicos, todos foram personificados por canais de vendas que criam clipes de IA para vender produtos relacionados à saúde.

Não parando por aí, o truque do deepfake também se espalhou para assuntos espirituais. Uma conta do TikTok chamada Phat Phap NM não apenas republicou as palestras do Mestre TPH, mas também usou tecnologia de IA para criar imagens do "mestre" vendendo produtos como folhas de Bodhi e pulseiras de madeira de ágar.

Quando os espectadores deixaram comentários pedindo para comprar, o canal respondeu: "Se as coisas não forem como o esperado, vá até a seção de exibição na minha conta e escolha o que você precisa, não economize no troco pequeno e ignore o maior." Imediatamente depois, o próprio monge teve que se manifestar para esclarecer que nunca havia anunciado ou se envolvido com tais produtos.

A linha entre criatividade e violação

O especialista em segurança cibernética Ngo Minh Hieu (Hieu PC), do Centro Nacional de Monitoramento de Segurança Cibernética (NCSC), afirmou que os clipes publicitários falsos que circulam nas redes sociais são criados principalmente com softwares Deepfake. Esses softwares não são raros, e muitos serviços oferecem pacotes com baixo custo e operações muito simples. Embora existam aplicações positivas no campo da criação de conteúdo digital e produção de mídia, segundo o Sr. Hieu, o problema reside no fato de que alguns indivíduos têm se aproveitado dessa tecnologia para fins negativos, como fraude, falsificação de identidade, disseminação de notícias falsas ou difamação por meio de vídeos que parecem reais.

O Sr. Hieu também deu alguns sinais para ajudar a identificar clipes deepfake, como expressões faciais um tanto rígidas no vídeo, formatos e movimentos da boca que não correspondem ao diálogo... O Sr. Hieu alertou que houve situações mais sérias em que a IA foi usada para inserir rostos de vítimas em vídeos sensíveis com o propósito de intimidação, coerção e lucro.

De acordo com o advogado Tran Duc Phuong, da Ordem dos Advogados da Cidade de Ho Chi Minh, o uso de IA para criar imagens de celebridades (ou indivíduos específicos) sem o seu consentimento constitui um ato de violação de direitos pessoais, especificamente o direito à imagem, conforme estipulado no Artigo 32 do Código Civil de 2015. A lei estipula: “Os indivíduos têm direito à sua própria imagem. O uso da imagem de um indivíduo deve ser consentido por essa pessoa. O uso de uma imagem para fins comerciais deve ser compensado à pessoa cuja imagem é utilizada, a menos que as partes tenham um acordo diferente.”

Portanto, se o titular de uma conta de rede social utilizar imagens recriadas por IA a partir de fotos reais, vídeos antigos, etc., para fins publicitários ou de vendas sem permissão, ele ou ela violou a lei. Se o uso de uma imagem violar as disposições deste artigo, a pessoa com a imagem tem o direito de solicitar ao tribunal que emita uma decisão obrigando o infrator, as agências, organizações e indivíduos relevantes a retirar, destruir e encerrar o uso da imagem, indenizar os danos e aplicar outras medidas de acordo com as disposições da lei.

CAM NUONG

Fonte: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html