Medo de fraude com a capacidade de criação de fotos realistas do ChatGPT

ChatGPT "desenha como uma foto"

Em 26 de março, a comunidade de usuários de IA (inteligência artificial) em todo o mundo , incluindo o Vietnã, ficou agitada quando a OpenAI lançou oficialmente o Images no ChatGPT, com foco nos recursos de criação de imagens para usuários do modelo inteligente da empresa. Anteriormente, o ChatGPT também tinha a capacidade de criar imagens, mas era limitado e precisava passar por outro modelo famoso de conversão de texto em imagem, o DALL-E.

A capacidade da ferramenta de transformar texto em desenhos e "combinar imagens como o Photoshop" atraiu rapidamente a atenção. Muitos disseram que a qualidade da imagem resultante era "incrível" e a maioria a classificou como "superior" em comparação com os modelos de IA populares do mercado.

ChatGPT cria xícaras de café realistas com apenas um comando simples

De acordo com Gabriel Goh, líder da equipe de pesquisa da OpenAI, a melhoria significativa na capacidade de geração de imagens do ChatGPT usando o modelo GPT-4o é "Binding" – um termo que se refere ao grau em que o gerador de imagens de IA mantém a conexão entre atributos e objetos. O Sr. Goh afirmou que o GPT-4o pode vincular com precisão atributos de 15 a 20 objetos diferentes sem confusão, melhorando significativamente a precisão e a confiabilidade do conteúdo gerado.

Além de ser excelente em sua capacidade de criação de imagens, o Images in ChatGPT também resolve a falha "fatal" de outras ferramentas de IA para geração de imagens, que é a exibição de texto e texto dentro da imagem. De fato, muitas imagens que contêm texto são exibidas com precisão, tornando ainda mais difícil distinguir entre falsas e reais.

A desvantagem dessa ferramenta é que ela demora muito para gerar imagens, mas é considerada razoável, pois o atraso é gerado porque imagens de boa qualidade, detalhes precisos e que correspondam à descrição do usuário sempre exigem paciência. A equipe de pesquisa afirmou que o problema do atraso será corrigido no futuro.

Muitas preocupações sobre a capacidade de combinar fotos

Além da experiência inicial divertida que o ChatGPT e o OpenAI proporcionam aos usuários, a questão da segurança da informação, da privacidade e do risco de exploração é novamente trazida à tona. "Em um futuro próximo, as imagens que você vê online podem não ser necessariamente reais", expressou preocupação um usuário do Facebook no Vietnã ao pedir ao ChatGPT para criar imagens completamente irreais que parecem tão reais quanto fotos. Por exemplo, uma foto do ator e ex-lutador Dwayne Johnson (The Rock) anunciando uma marca de chiclete, ou uma foto de um gato malhado sentado no fogão que se parece exatamente com uma foto.

Com comandos detalhados fornecidos, os usuários podem criar resultados surpreendentes sem precisar de conhecimento profundo sobre o uso de ferramentas tradicionais de edição de fotos.

Muitas pessoas até experimentaram a função de "strip" da nova ferramenta. O TN ( Hanói ) disse que usou uma foto de modelo tirada da internet para pedir ao ChatGPT que trocasse de roupa conforme solicitado, e quase todos os pedidos foram atendidos com alta precisão. "No entanto, ainda houve algumas rejeições, principalmente devido a violações da política do sistema sobre a criação de imagens protegidas por direitos autorais ou conteúdo excessivamente sensual", compartilhou o TN.

Nos testes de Thanh Nien , o ChatGPT se recusou a criar imagens relacionadas a personagens famosos ou protegidos por direitos autorais do mundo real ou de filmes e histórias. "Não consigo criar a imagem conforme solicitado porque a imagem de referência que você enviou mostra claramente o personagem Doutor Estranho — um personagem protegido por direitos autorais da Marvel — e isso viola a política de conteúdo atual", respondeu o sistema quando solicitado a criar uma imagem do Doutor Estranho sentado... tomando chá gelado no Vietnã.

Jackie Shannon, chefe de produtos multimodais da ChatGPT, confirmou que as imagens na ChatGPT possuem forte proteção contra conteúdo deepfake, pornográfico ou fraudulento. Notavelmente, as imagens geradas integrarão metadados padrão C2PA para marcá-las como produtos de IA, mas precisam de ferramentas separadas para verificação.

No entanto, ainda existem muitas pessoas que conseguem "burlar a lei" e usar imagens de pessoas famosas para fins de entretenimento. Por exemplo, a imagem do CEO Tim Cook segurando um celular Samsung em vez de um iPhone, ou a imagem do ator Robert Downey Jr. mastigando um doce de vegetais, ou a foto de Cristiano Ronaldo jogando bola com Lionel Messi em um pequeno beco no Vietnã, diante de muitas pessoas...

Fonte: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm