Preocupações com relação a golpes decorrentes da capacidade do ChatGPT de criar imagens realistas.

O ChatGPT "desenha como uma fotografia"

No dia 26 de março, as comunidades globais e vietnamitas de usuários de IA ficaram em polvorosa quando a OpenAI lançou oficialmente o Images in ChatGPT, uma ferramenta focada na criação de imagens para usuários de seu modelo inteligente. Anteriormente, o ChatGPT também possuía recursos de criação de imagens, mas estes eram limitados e dependiam de outro modelo de conversão de texto em imagem bastante conhecido, chamado DALL-E.

A capacidade da ferramenta de transformar texto em desenhos e realizar "fusão de imagens com qualidade semelhante à do Photoshop" rapidamente chamou a atenção. Muitos usuários relataram que a qualidade da imagem resultante era "impressionante", com a maioria classificando-a como "superior" a outros modelos populares de IA disponíveis no mercado.

O ChatGPT cria imagens realistas de xícaras de café com um simples comando.

Segundo Gabriel Goh, chefe de pesquisa da OpenAI, a melhoria significativa nas capacidades de geração de imagens do ChatGPT usando o modelo GPT-4o reside no "Binding" — um termo que se refere ao grau em que o gerador de imagens por IA mantém vínculos entre atributos e objetos. Goh afirma que o GPT-4o consegue vincular com precisão os atributos de 15 a 20 objetos diferentes sem erros, melhorando significativamente a precisão e a confiabilidade do conteúdo gerado.

O recurso Imagens no ChatGPT não só se destaca na criação de imagens, como também resolve uma deficiência crítica em outras ferramentas de IA para criação de imagens: a renderização de texto dentro das imagens. De fato, muitas imagens que contêm texto são renderizadas com precisão, tornando cada vez mais difícil distinguir entre imagens reais e falsas.

A desvantagem da ferramenta é o tempo relativamente longo de criação de imagens, mas isso é considerado razoável, pois a demora se deve ao fato de que imagens de alta qualidade, com detalhes precisos e que correspondam à descrição do usuário, sempre exigem paciência. A equipe de pesquisa afirmou que o problema da demora será resolvido no futuro.

Muitas preocupações foram levantadas sobre a possibilidade de manipulação de imagens.

Além da satisfação inicial que o ChatGPT e a OpenAI oferecem aos usuários, as preocupações com a segurança da informação, a privacidade e o risco de exploração voltaram à tona. "Em breve, as imagens que você vê online podem não ser reais", expressou a preocupação de um usuário do Facebook no Vietnã, já que ele poderia solicitar ao ChatGPT a criação de imagens completamente falsas que parecem tão realistas quanto fotografias, por exemplo, uma foto do ator e ex-lutador Dwayne Johnson (The Rock) anunciando uma marca de chiclete, ou uma gata tricolor sentada em um fogão que parece exatamente uma fotografia.

Com comandos detalhados, os usuários podem criar resultados surpreendentes sem precisar de conhecimento aprofundado das ferramentas tradicionais de edição de fotos.

De fato, muitas pessoas até já experimentaram o recurso de "despir" da nova ferramenta. TN ( Hanoi ) disse que usou a foto de uma modelo da internet para pedir ao ChatGPT que trocasse de roupa conforme solicitado, e quase todos os pedidos foram atendidos com alta precisão. "No entanto, houve algumas vezes em que os pedidos foram rejeitados, principalmente devido a violações da política do sistema em relação à criação de imagens protegidas por direitos autorais ou conteúdo excessivamente sugestivo", compartilhou TN.

Em testes conduzidos pelo jornal Thanh Nien , o ChatGPT se recusou a criar imagens relacionadas a personagens famosos ou protegidos por direitos autorais, sejam eles do mundo real, de filmes ou de quadrinhos. "Não posso criar a imagem conforme solicitado porque a imagem de referência enviada mostra claramente o Doutor Estranho – um personagem protegido por direitos autorais da Marvel – e isso viola nossa política de conteúdo atual", respondeu o sistema ao ser solicitado a criar uma imagem do Doutor Estranho sentado... tomando chá gelado no Vietnã.

Jackie Shannon, chefe de produto multimodal da ChatGPT, afirma que as imagens na ChatGPT oferecem proteção robusta contra deepfakes, conteúdo pornográfico ou fraudulento. Notavelmente, as imagens geradas incorporam metadados C2PA padrão para identificá-las como produtos de IA, mas exigem uma ferramenta separada para verificação.

No entanto, muitas pessoas ainda conseguem "contornar as regras" e usar imagens de celebridades para fins de entretenimento. Por exemplo, uma foto do CEO Tim Cook segurando um celular Samsung em vez de um iPhone, ou uma imagem do ator Robert Downey Jr. mascando uma bala de legumes, ou uma série de pinturas de Cristiano Ronaldo e Lionel Messi disputando uma bola em um beco estreito no Vietnã diante de vários espectadores...

Fonte: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm