O risco da IA ​​manipular imagens pessoais

O desenvolvimento da inteligência artificial (IA) não só ameaça os empregos de artistas em todo o mundo , como também coloca os utilizadores da Internet em risco de terem as suas imagens manipuladas de várias formas.

Ferramentas de IA criam facilmente produtos tecnológicos falsificados. (Foto ilustrativa)

“A era dos deepfakes”

Por outro lado, a IA, em mãos erradas, pode facilmente roubar imagens de contas de redes sociais de indivíduos e transformá-las em referências indesejadas. Por exemplo, sites pornográficos podem usar imagens de pessoas sem consentimento.

“Estamos na era dos deepfakes”, disse Hadi Salman, pesquisador do Instituto de Tecnologia de Massachusetts. “Agora, qualquer pessoa pode manipular imagens e vídeos para fazer com que as pessoas ‘façam’ algo que não fizeram.”

Deepfake é uma combinação das palavras "deep learning" (aprendizado profundo) e "fake" (falso), que se refere a um método de usar inteligência artificial para criar produtos tecnológicos falsos na forma de áudio, imagens ou até mesmo vídeos .

Em apenas alguns segundos, com alguns comandos simples, a IA pode criar qualquer imagem que os "bandidos" desejem. Por exemplo, alguém poderia pedir à IA para criar uma foto do Papa usando um casaco da Balenciaga e publicá-la online antes que se descubra que a foto é falsa.

A tecnologia de IA também surpreendeu os usuários com sua capacidade de criar obras de arte no estilo de um artista específico. Por exemplo, é possível criar uma pintura de um gato que parece ter sido pintada no estilo do famoso pintor Vincent Van Gogh.

Para artistas visuais, essas ferramentas representam o risco de deixá-los sem trabalho, já que os modelos de IA imitam seus estilos únicos e criam obras de arte sem sua permissão.

Hélice de IA

Eveline Fröhlich, que vive em Stuttgart, na Alemanha, é uma das artistas que, cada vez mais, lutam contra o alcance excessivo da inteligência artificial e buscam maneiras de proteger seus trabalhos visuais online da manipulação.

Recentemente, a Sra. Fröhlich tomou conhecimento de uma ferramenta chamada Glaze, desenvolvida por cientistas da computação da Universidade de Chicago (EUA) para prevenir o uso indevido de modelos de IA.

Ben Zhao, professor de ciência da computação na Universidade de Chicago e um dos principais pesquisadores do Projeto Glaze, disse à CNN que a ferramenta tem como objetivo proteger o trabalho único dos artistas contra unidades de treinamento de IA.

O software Glaze utiliza algoritmos de aprendizado de máquina para fazer pequenas alterações em imagens digitais que são invisíveis a olho nu, mas criam uma camada protetora para a obra no ambiente online, enganando os modelos de IA e tornando-os incapazes de copiar o estilo do autor.

Graças ao Glaze, as obras de arte ficam "cobertas de invisibilidade", impedindo que a IA "leia" a imagem.

Por exemplo, explicou o Sr. Zhao, um artista poderia enviar uma imagem de sua própria pintura a óleo, que seria processada pelo Glaze. Quando os modelos de IA "lêssem" a pintura, a veriam como um esboço a carvão — enquanto um humano a reconheceria imediatamente como uma pintura a óleo. Após o processamento pelo Glaze, a obra de arte teria uma aparência significativamente diferente aos olhos da IA.

A equipe de Zhao lançou a primeira versão do Glaze em março passado e já teve mais de um milhão de downloads. Na semana passada, a equipe lançou uma versão gratuita do Glaze online.

A equipe espera que a ferramenta Glaze ajude a proteger os direitos autorais dos artistas até que regulamentações e leis específicas sejam estabelecidas.

Desde que lançou o Glaze, o Sr. Zhao disse ter notado um aumento no número de dubladores, romancistas, músicos e jornalistas que entraram em contato com sua equipe para solicitar uma versão do Glaze para suas respectivas áreas.

O artista visual Jon Lam, radicado na Califórnia, está usando a ferramenta Glaze para ajudar a proteger suas obras de arte online e impedir que sejam usadas para treinar modelos de IA. Ele afirma que agora utiliza o aplicativo para todas as obras que compartilha online.

Durante anos, artistas como ele têm publicado seus trabalhos em alta resolução online por orgulho, disse ele. “Queremos que as pessoas vejam o quão detalhadas e incríveis são as fotos em Full HD. No entanto, os artistas não sabem que seu trabalho pode ser ‘devorado’ por modelos de IA, que copiam seu estilo e os expõem a uma concorrência desleal.

“Agora sabemos que estão usando nosso trabalho de alta resolução em máquinas de IA para competir conosco. Portanto, precisamos ser mais cautelosos e começar a pensar em como nos proteger”, disse ele.

Salman e sua equipe acabaram de lançar mais uma ferramenta para proteger imagens da IA. O aplicativo, chamado PhotoGuard, permite que os usuários coloquem uma camada invisível de proteção sobre as imagens para impedir que modelos de IA as manipulem.

O objetivo do PhotoGuard é proteger fotos que já foram carregadas online por seus autores contra "manipulação maliciosa por IA", disse o Sr. Salman.

O aplicativo PhotoGuard funciona ajustando os pixels de uma imagem de uma forma imperceptível aos humanos. No entanto, essa alteração, imperceptível a olho nu, é suficientemente poderosa para contornar qualquer tentativa de manipulação da imagem por modelos de IA.

Isso significa que, se alguém tentar editar uma foto usando IA depois que ela tiver sido protegida pelo PhotoGuard, a foto resultante será "completamente irrealista", explicou Salman.

Não licenciado

Por outro lado, mesmo que as ferramentas de IA capturem e manipulem imagens, o que elas criam não é reconhecido como passível de direitos autorais.

Desde seu surgimento e ascensão à proeminência, a IA também gerou um debate: essas obras são protegidas por direitos autorais? Em caso afirmativo, a quem pertencem?

O Escritório de Direitos Autorais dos EUA (USCO) tomou uma decisão oficial sobre essas obras. De acordo com o USCO, quaisquer imagens criadas por IA com base em comandos – (como os aplicativos atuais Midjourney, Dall-E e Stable Diffusion) – não serão protegidas por direitos autorais nos EUA.

A legislação dos EUA estabelece que a propriedade intelectual só pode ser protegida por direitos autorais se for produto da criatividade humana. O Escritório de Direitos Autorais dos EUA (USCO) atualmente reconhece apenas obras criadas por humanos. Portanto, máquinas de inteligência artificial não serão consideradas autoras e os produtos que elas criarem não serão protegidos por direitos autorais.

“Se os elementos tradicionais de direitos autorais em uma obra forem criados por uma máquina, então a obra não é protegida por direitos autorais de autoria humana, e o Escritório de Direitos Autorais dos Estados Unidos (USCO) não a registrará”, disse a diretora do USCO, Shira Perlmutter.

Fonte: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html