O risco da IA ​​manipular imagens pessoais

O desenvolvimento da inteligência artificial (IA) não só ameaça os empregos de artistas ao redor do mundo , mas também coloca os usuários da Internet em risco de terem suas imagens manipuladas de várias maneiras.

Ferramentas de IA criam facilmente produtos tecnológicos falsos. (Foto ilustrativa)

“A era do deepfake”

Por outro lado, a IA, nas mãos erradas, pode facilmente roubar imagens de contas de mídia social de indivíduos e transformá-las em referências indesejadas. Por exemplo, sites pornográficos podem usar imagens de indivíduos sem consentimento.

“Estamos na era dos deepfakes”, disse Hadi Salman, pesquisador do Instituto de Tecnologia de Massachusetts. “Agora, qualquer um pode manipular imagens e vídeos para fazer as pessoas ‘fazerem’ algo que, na verdade, não fizeram.”

Deepfake é uma combinação das palavras “deep learning” e “fake”, que é um método de usar IA para criar produtos de tecnologia falsos na forma de áudio, imagens ou até mesmo vídeos .

Em apenas alguns segundos, com alguns comandos simples, a IA pode criar qualquer imagem que os "bandidos" queiram. Por exemplo, alguém poderia pedir à IA para criar uma foto do Papa vestindo um casaco Balenciaga e publicá-la na internet antes que se descubra que a foto é falsa.

A tecnologia de IA também surpreendeu os usuários com sua capacidade de criar obras de arte no estilo de um artista específico. Por exemplo, você pode criar uma pintura de um gato que parece ter sido pintada no estilo do famoso pintor Vincent Van Gogh.

Para artistas visuais, essas ferramentas correm o risco de deixá-los sem trabalho, pois modelos de IA imitam seus estilos únicos e criam obras de arte sem sua permissão.

Hélice de IA

Eveline Fröhlich, que mora em Stuttgart, Alemanha, é uma entre um número crescente de artistas que estão lutando contra o alcance excessivo da IA ​​e tentando encontrar maneiras de proteger suas obras visuais online da manipulação.

Recentemente, a Sra. Fröhlich conheceu uma ferramenta chamada Glaze, desenvolvida por cientistas da computação da Universidade de Chicago (EUA) para evitar o abuso de modelos de IA.

Ben Zhao, professor de ciência da computação na Universidade de Chicago e um dos principais pesquisadores do projeto Glaze, disse à CNN que a ferramenta tem como objetivo proteger o trabalho exclusivo dos artistas daqueles que treinam modelos de IA.

O software Glaze usa algoritmos de aprendizado de máquina para fazer pequenas alterações em imagens digitais que são invisíveis a olho nu, mas criam uma camada protetora para o trabalho no ambiente online, enganando os modelos de IA, tornando-os incapazes de copiar o estilo do autor.

Graças ao Glaze, as obras de arte são "cobertas com uma capa de invisibilidade", impedindo que a IA "leia" a imagem.

Por exemplo, explica Zhao, um artista poderia enviar uma imagem de sua própria pintura a óleo, que seria executada no Glaze. Quando os modelos de IA "lessem" a pintura, eles a veriam como um esboço a carvão — enquanto um humano a reconheceria imediatamente como uma pintura a óleo. Depois de executá-la no Glaze, a obra de arte agora teria uma aparência significativamente diferente aos olhos da IA.

A equipe de Zhao lançou a primeira versão do Glaze em março passado, que já foi baixada mais de um milhão de vezes. Na semana passada, a equipe lançou uma versão gratuita do Glaze online.

A equipe espera que a ferramenta Glaze ajude a proteger os direitos autorais dos artistas até que regulamentações e leis específicas sejam estabelecidas.

Desde que lançou o Glaze, disse o Sr. Zhao, ele viu um aumento no número de dubladores, romancistas, músicos e jornalistas entrando em contato com sua equipe para perguntar sobre uma versão do Glaze para sua área.

O artista visual Jon Lam, da Califórnia, usa a ferramenta Glaze para ajudar a proteger suas obras de arte on-line de serem usadas para treinar modelos de IA, e diz que agora usa o aplicativo para todas as obras de arte que compartilha on-line.

Há anos, artistas como ele publicam seus trabalhos online em resolução máxima como uma questão de orgulho, disse ele. "Queremos que as pessoas vejam o quão detalhadas e incríveis as fotos em Full HD são. No entanto, os artistas não sabem que seu trabalho pode ser 'devorado' por modelos de IA, que então copiam seu estilo e os expõem à concorrência desleal."

"Agora sabemos que as pessoas estão pegando nosso trabalho de alta resolução e inserindo-o em máquinas de IA para competir no mesmo espaço que nós. Então, precisamos ser mais cautelosos e começar a pensar em como nos proteger", disse ele.

Salman e sua equipe acabaram de lançar mais uma ferramenta para proteger imagens da IA. O aplicativo, chamado PhotoGuard, permite que os usuários coloquem uma camada invisível de proteção sobre as imagens para impedir que modelos de IA as manipulem.

O objetivo do PhotoGuard é proteger fotos que já foram publicadas on-line por seus autores de "manipulação maliciosa de IA", disse Salman.

O aplicativo PhotoGuard funciona ajustando os pixels de uma imagem de forma imperceptível aos humanos. No entanto, essa alteração, imperceptível a olho nu, é poderosa o suficiente para contornar cuidadosamente qualquer tentativa de modelos de IA de manipular a imagem.

Isso significa que se alguém tentar editar uma foto usando IA depois que ela tiver sido protegida pelo PhotoGuard, a foto resultante "não será nada realista", explicou Salman.

Não licenciado

Por outro lado, mesmo que ferramentas de IA capturem e manipulem imagens, o que elas criam não é reconhecido como passível de direitos autorais.

Desde seu surgimento e popularidade, a IA tem gerado um debate: essas obras são protegidas por direitos autorais? Se sim, a quem pertencem?

O Escritório de Direitos Autorais dos Estados Unidos (USCO) tomou uma decisão oficial sobre essas obras. De acordo com o USCO, quaisquer imagens geradas por IA com base em comandos — como os aplicativos atuais Midjourney, Dall-E e Stable Diffusion — não serão passíveis de direitos autorais nos Estados Unidos.

A lei dos EUA estabelece que a propriedade intelectual só pode ser protegida por direitos autorais se for produto da criatividade humana. Atualmente, a USCO reconhece apenas obras criadas por humanos. Portanto, máquinas de IA não serão consideradas autores, e os produtos que elas criarem não serão protegidos por direitos autorais.

“Se os elementos tradicionais de direitos autorais em uma obra forem criados por uma máquina, então a obra não é protegida por direitos autorais de um humano, e a USCO não a registrará”, disse a diretora da USCO, Shira Perlmutter.

Fonte: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html