O lado negro das aplicações de inteligência artificial

Após a startup OpenAI lançar seu primeiro aplicativo de IA, o ChatGPT, no final de 2022, uma onda de competição para o desenvolvimento de aplicativos de IA foi desencadeada, especialmente IA generativa, trazendo muitas conveniências em todas as áreas da vida. No entanto, isso também traz muitos riscos.

Invasão de privacidade

Nos últimos anos, muitas organizações e indivíduos sofreram perdas quando cibercriminosos usaram IA para criar videoclipes que falsificavam imagens e vozes de pessoas reais. Um exemplo é o golpe do Deepfake.

De acordo com o Relatório de Fraude de Identidade publicado pela Sumsub no final de novembro de 2023, os golpes de deepfake aumentaram 10 vezes em todo o mundo entre 2022 e 2023. Este também foi o período em que as aplicações de inteligência artificial explodiram no mundo .

O Status Labs observa que os Deepfakes tiveram um grande impacto na cultura, na privacidade e na reputação pessoal. Grande parte das notícias e da atenção em torno dos Deepfakes se concentrou em pornografia de celebridades, pornografia de vingança, desinformação, notícias falsas, chantagem e golpes. Por exemplo, em 2019, uma empresa de energia dos EUA foi fraudada em US$ 243.000 por um hacker que falsificou a imagem e a voz dos executivos da empresa e pediu aos funcionários que transferissem dinheiro para parceiros.

A Reuters relatou que, em 2023, cerca de 500.000 vídeos e áudios de Deepfake foram compartilhados em redes sociais em todo o mundo. Além dos Deepfakes por diversão, existem truques criados por criminosos para enganar a comunidade. Segundo fontes, em 2022, estima-se que golpes de Deepfake em todo o mundo tenham causado perdas de até US$ 11 milhões.

Muitos especialistas em tecnologia alertaram sobre os efeitos negativos da IA, incluindo direitos de propriedade intelectual e autenticidade, e ainda, disputas de propriedade intelectual entre "obras" criadas por IA. Por exemplo, uma pessoa pede a um aplicativo de IA para desenhar uma imagem com um determinado tema, mas outra pessoa pede à IA para fazer o mesmo, resultando em pinturas com muitas semelhanças.

É muito provável que isso leve a disputas sobre propriedade. No entanto, até o momento, o mundo ainda não tomou uma decisão sobre o reconhecimento de direitos autorais para conteúdo gerado por IA (reconhecendo direitos autorais para indivíduos que encomendam IA criativa ou empresas que desenvolvem aplicações de IA).

Uma imagem gerada por um aplicativo de IA

Difícil distinguir entre o real e o falso

Então, o conteúdo gerado por IA pode infringir direitos autorais? Em termos de tecnologia, o conteúdo gerado por IA é sintetizado por algoritmos a partir de dados com os quais foi treinado. Esses bancos de dados são coletados por desenvolvedores de aplicativos de IA a partir de diversas fontes, principalmente da base de conhecimento da internet. Muitas dessas obras possuem direitos autorais de seus proprietários.

Em 27 de dezembro de 2023, o The New York Times (EUA) processou a OpenAI (com a ChatGPT) e a Microsoft, alegando que milhões de seus artigos foram usados ​​para treinar chatbots e plataformas de IA dessas duas empresas. A evidência é que há conteúdo criado por chatbots a pedido dos usuários que é igual ou semelhante ao conteúdo dos artigos. Este jornal não pode ignorar quando sua "propriedade intelectual" é usada por empresas com fins lucrativos.

O New York Times é o primeiro grande jornal dos EUA a entrar com uma ação judicial por direitos autorais relacionada à IA. É possível que outros jornais sigam o exemplo no futuro, especialmente após o sucesso do New York Times.

Anteriormente, a OpenAI fechou um acordo de licenciamento de direitos autorais com a agência de notícias Associated Press em julho de 2023 e com a Axel Springer — uma editora alemã dona de dois jornais, Politico e Business Insider — em dezembro de 2023.

A atriz Sarah Silverman também entrou com dois processos em julho de 2023, acusando a Meta e a OpenAI de usar suas memórias como texto de treinamento para programas de IA. Muitos escritores também expressaram preocupação quando foi revelado que sistemas de IA haviam absorvido dezenas de milhares de livros em seus bancos de dados, levando a processos de autores como Jonathan Franzen e John Grisham.

Enquanto isso, o serviço de fotos Getty Images também processou uma empresa de IA por criar imagens com base em instruções de texto devido ao uso não autorizado de material visual protegido por direitos autorais da empresa...

Usuários podem ter problemas de direitos autorais ao usar "descuidadamente" "obras" que pediram para serem "criadas" por ferramentas de IA. Especialistas sempre recomendam usar ferramentas de IA apenas para pesquisar, coletar dados e fazer sugestões para fins de referência.

Por outro lado, as aplicações de IA confundem os usuários quando eles não conseguem distinguir entre a verdade e a falsidade de um determinado conteúdo. Editoras e redações de jornais podem ficar confusas ao receber manuscritos. Os professores também têm dificuldade em saber se os trabalhos dos alunos utilizam IA ou não.

A comunidade agora terá que ficar mais vigilante, pois não se sabe o que é real e o que é falso. Por exemplo, será difícil para uma pessoa comum detectar se uma foto foi "encantada" ou editada por IA.

São necessárias regulamentações legais sobre o uso da IA

Enquanto aguardam ferramentas de aplicação que possam detectar a intervenção da IA, as agências de gestão precisam, em breve, ter regulamentações legais claras e específicas sobre o uso dessa tecnologia para criar conteúdo privado. As regulamentações legais precisam mostrar a todos que o conteúdo e as obras sofreram intervenção da IA, como, por exemplo, a aplicação de uma marca d'água padrão em imagens manipuladas pela IA.

Fonte: https://nld.com.vn/mat-trai-cua-ung-dung-tri-tue-nhan-tao-196240227204333618.htm