Indústria de tecnologia busca identificar imagens geradas por IA

[anúncio_1]

O CEO da Truepic, Jeffrey McGregor, disse que o incidente foi apenas a ponta do iceberg. "Haverá mais conteúdo gerado por IA nas mídias sociais e não estamos preparados para isso", disse McGregor.

Segundo a CNN, a Truepic quer resolver esse problema fornecendo uma tecnologia que alega autenticar a mídia no momento da criação por meio do Truepic Lens. O aplicativo de coleta de dados informará aos usuários a data, a hora, o local e o dispositivo usado para criar a imagem, além de aplicar uma assinatura digital para verificar se a imagem é natural ou gerada por IA.

Foto falsa de explosão do Pentágono viraliza no Twitter

A Truepic, uma empresa apoiada pela Microsoft fundada em 2015, disse que está vendo interesse de ONGs a empresas de mídia e até mesmo seguradoras que buscam confirmar se as reivindicações são legítimas.

McGregor diz que quando tudo pode ser falsificado, quando a inteligência artificial atinge seu ápice em qualidade e acessibilidade, não sabemos mais o que é a realidade online.

Empresas de tecnologia como a Truepic trabalham para combater a desinformação online há anos. Mas o surgimento de uma nova geração de ferramentas de IA que podem gerar imagens e textos sob comando do usuário aumentou a urgência. No início deste ano, imagens falsas do Papa Francisco com uma jaqueta Balenciaga e do ex-presidente dos EUA Donald Trump sendo preso foram amplamente compartilhadas. Ambos os incidentes deixaram milhões de pessoas confusas sobre os potenciais perigos da IA.

Alguns legisladores estão agora pedindo às empresas de tecnologia que resolvam o problema rotulando o conteúdo gerado por IA. A vice-presidente da Comissão Europeia (CE), Vera Jourova, afirmou que empresas como Google, Meta, Microsoft e TikTok aderiram ao código de práticas voluntário da União Europeia (UE) para combater a desinformação.

Um número crescente de startups e gigantes da tecnologia, incluindo algumas que estão implementando IA generativa em seus produtos, estão tentando implementar padrões e soluções para ajudar as pessoas a determinar se uma imagem ou vídeo foi criado com IA.

Mas, como a tecnologia de IA avança mais rápido do que os humanos conseguem acompanhar, não está claro se essas soluções conseguirão resolver totalmente o problema. Até mesmo a OpenAI, empresa por trás do Dall-E e do ChatGPT, admitiu que seus próprios esforços para ajudar a detectar textos gerados por IA são imperfeitos.

As empresas que desenvolvem soluções estão adotando duas abordagens para o problema. A primeira se baseia no desenvolvimento de programas para identificar imagens geradas por IA após elas terem sido produzidas e compartilhadas online. A outra se concentra em marcar uma imagem como real ou gerada por IA com um tipo de assinatura digital.

A Reality Defender e a Hive Moderation estão trabalhando no primeiro. Com a plataforma, os usuários podem enviar imagens para serem escaneadas e, em seguida, receber um detalhamento que mostra uma porcentagem de se a foto é real ou gerada por IA.

A Reality Defender afirmou que utiliza tecnologia proprietária de deepfake e impressão digital de conteúdo generativo para detectar vídeos, áudios e imagens gerados por IA. Em um exemplo fornecido pela empresa, a Reality Defender mostrou uma imagem deepfake de Tom Cruise que era 53% "suspeita" porque a pessoa na imagem tinha um rosto distorcido, frequentemente visto em fotos manipuladas.

Esses serviços oferecem versões gratuitas e pagas. A Hive Moderation afirma cobrar US$ 1,50 por 1.000 imagens. A Realty Defender afirma que seus preços podem variar com base em diversos fatores, caso os clientes precisem da expertise e do suporte da empresa. O CEO da Realty Defender, Ben Colman, afirma que o risco dobra a cada mês, pois qualquer pessoa pode criar fotos falsas usando ferramentas de IA.

Várias outras empresas estão trabalhando para adicionar uma espécie de rótulo às imagens para certificar se são reais ou geradas por IA. Até o momento, o esforço tem sido amplamente impulsionado pela Content Authenticity and Origination Alliance (C2PA).

A C2PA foi fundada em 2021 para criar um padrão técnico para certificar a origem e a história da mídia digital, combinando a Iniciativa de Autenticação de Conteúdo (CAI) da Adobe e o Projeto Origin, liderado pela Microsoft e pela BBC, com foco no combate à desinformação em notícias digitais. Outras empresas envolvidas na C2PA incluem Truepic, Intel e Sony.

Com base nos princípios do C2PA, a CAI lançará ferramentas de código aberto para que empresas criem credenciais de conteúdo, ou metadados, que contenham informações sobre imagens. De acordo com o site da CAI, isso permite que os criadores compartilhem de forma transparente detalhes sobre como criaram uma imagem. Dessa forma, os usuários finais podem acessar o contexto sobre quem, o quê e como uma imagem foi alterada — e, então, julgar por si mesmos a autenticidade da imagem.

Muitas empresas já integraram o padrão C2PA e as ferramentas CAI em seus aplicativos. O Firefly da Adobe, uma nova ferramenta de imagem com IA adicionada ao Photoshop, está em conformidade com o padrão C2PA por meio do recurso Credenciais de Conteúdo. A Microsoft também anunciou que imagens e vídeos criados com o Bing Image Creator e o Microsoft Designer terão assinaturas criptográficas nos próximos meses.

Em maio, o Google anunciou o recurso "Sobre esta imagem", que permite aos usuários ver quando uma imagem apareceu pela primeira vez no Google e onde ela pode ser vista. O gigante das buscas também anunciou que cada imagem gerada pela IA do Google terá uma marcação no arquivo original para "adicionar contexto" caso a imagem seja encontrada em outro site ou plataforma.

Enquanto as empresas de tecnologia tentam responder às preocupações sobre imagens geradas por IA e a integridade da mídia digital, especialistas na área enfatizam que as empresas precisarão trabalhar em conjunto entre si e com os governos para resolver o problema. No entanto, as empresas de tecnologia estão correndo para desenvolver IA, apesar dos riscos.

[anúncio_2]
Link da fonte