Deepfakes estão em alta - Ninguém está a salvo de truques de imitação de IA

Imitação de voz, imitação facial, dublagem... A IA não serve mais apenas para trabalho e entretenimento, mas está se tornando uma perigosa ferramenta de fraude comercial. Imagens de celebridades, médicos e até monges estão sendo personificadas pela IA para vender produtos em todas as redes sociais. Pessoas reais não sabem, e os compradores perdem a confiança.

Sendo "emprestado o rosto" para vender mercadorias

"Independentemente da condição original do seu joelho, basta aplicar nosso método. Garantimos que em 7 dias ele melhorará significativamente. Se for completamente ineficaz, estou disposto a compensar 1 bilhão de VND como um sincero pedido de desculpas. Se você realmente não notar nenhum efeito, nos comprometemos a reembolsá-lo 100% e eu mesmo estou disposto a compensar 1 bilhão de VND. Nem todos se atrevem a se comprometer dessa forma", disse uma cantora famosa anunciando um creme de massagem para alívio de dores nas articulações. Vale ressaltar que este anúncio foi criado inteiramente por IA.

O clipe publicitário acima foi usado por uma conta do TikTok chamada LShop, utilizando a imagem, a voz e a linguagem corporal da cantora de forma realista, impossível de ser detectada sem uma observação cuidadosa. Esta conta tem quase 9.000 seguidores, 67.000 curtidas e cada clipe tem milhares de visualizações. Só o vídeo "publicitário", usando a imagem da cantora, atraiu mais de 1.000 curtidas e quase 100 comentários de compra.

Com o mesmo creme de massagem, os canais de vendas também "produziram" outra versão deepfake, desta vez de um médico. No clipe, o personagem prometia firmemente: "Sou o ortopedista mais prestigiado de Hanói e garanto que até mesmo a ruptura de menisco mais grave pode ser completamente curada em apenas 3 dias. Este gel foi certificado pela associação ortopédica mais prestigiada do Vietnã". Essa fala foi recriada pela IA para uma série de outros "médicos", tornando fácil para os espectadores confundi-la com a realidade.

O clipe atraiu quase 4.000 curtidas e mais de 120 comentários, mas quando enviamos uma mensagem para tentar comprar, a conta não respondeu nem interagiu com os espectadores na seção de comentários, apenas deixando o produto no carrinho para compra direta. Vale ressaltar que o produto à venda é da China e as informações sobre o produto são muito vagas.

De cantores e celebridades a médicos, todos foram imitados por canais de vendas que criam clipes de IA para vender produtos relacionados à saúde.

Não parando por aí, o truque do deepfake também se espalhou para assuntos espirituais. Uma conta do TikTok chamada Phat Phap NM não apenas republica as palestras do Mestre TPH, mas também usa tecnologia de IA para criar imagens do "mestre" vendendo produtos como folhas de Bodhi e pulseiras de madeira de ágar.

Quando os espectadores deixaram comentários pedindo para comprar, o canal respondeu: "Se as coisas não saírem como planejado, vá até a seção de exposição na minha conta e escolha o que você precisa, não economize no troco pequeno e ignore o maior." Imediatamente depois disso, o próprio monge teve que se manifestar para esclarecer que nunca havia anunciado ou se envolvido com tais produtos.

A Linha Entre Criatividade e Violação

O especialista em segurança cibernética Ngo Minh Hieu (Hieu PC), do Centro Nacional de Monitoramento de Segurança Cibernética (NCSC), afirmou que os clipes publicitários falsos que circulam nas redes sociais são criados principalmente com softwares Deepfake. Esses softwares não são incomuns, e muitos serviços oferecem pacotes com baixo custo e operações muito simples. Embora existam aplicações positivas na criação de conteúdo digital e produção de mídia, segundo o Sr. Hieu, o problema reside no fato de que alguns indivíduos têm se aproveitado dessa tecnologia para fins negativos, como fraude, falsificação de identidade, disseminação de notícias falsas ou difamação por meio de vídeos que parecem reais.

O Sr. Hieu também deu alguns sinais para ajudar a identificar clipes deepfake, como expressões faciais um tanto rígidas no vídeo, formatos e movimentos da boca que não correspondem ao diálogo... O Sr. Hieu alertou que houve situações mais sérias em que a IA foi usada para inserir rostos de vítimas em vídeos sensíveis com o propósito de intimidação, coerção e lucro.

Segundo o advogado Tran Duc Phuong, da Ordem dos Advogados da Cidade de Ho Chi Minh, o uso de IA para criar imagens de celebridades (ou indivíduos específicos) sem o seu consentimento constitui um ato de violação de direitos pessoais, nomeadamente o direito à imagem, conforme estipulado no Artigo 32 do Código Civil de 2015. A lei estipula: “Os indivíduos têm direito à sua própria imagem. A utilização da imagem de um indivíduo deve ter o seu consentimento. A utilização de uma imagem para fins comerciais deve remunerar a pessoa cuja imagem é utilizada, salvo se as partes tiverem outro acordo.”

Portanto, se o titular de uma conta de rede social utilizar imagens recriadas por IA a partir de fotos reais, vídeos antigos, etc., para fins publicitários ou de vendas sem permissão, ele ou ela violou a lei. Se o uso de uma imagem violar as disposições deste artigo, a pessoa com a imagem tem o direito de solicitar ao tribunal que emita uma decisão obrigando o infrator, as agências, organizações e indivíduos relevantes a retirar, destruir e encerrar o uso da imagem, indenizar os danos e aplicar outras medidas de acordo com as disposições da lei.

CAM NUONG

Fonte: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html