Os perigos da nova tecnologia de geração de imagens do ChatGPT na falsificação de recibos.

(CLO) O ChatGPT lançou recentemente uma nova ferramenta de criação de imagens integrada ao modelo GPT-4o, com recursos superiores de criação de texto em imagens.

No entanto, os usuários logo descobriram que esse recurso poderia ser usado indevidamente para falsificar contas de restaurantes.

O investidor Deedy Das publicou na internet a imagem de um recibo falso de uma churrascaria de São Francisco, alegando que a foto foi criada usando o GPT-40.

O investidor Deedy compartilhou a imagem na plataforma de mídia social X.

Muitos outros usuários também recriaram o efeito com sucesso, chegando a adicionar manchas de comida e bebida para aumentar o realismo.

Outro usuário compartilhou uma imagem de um recibo com manchas de comida que parecia muito realista, mas que também foi criada pelo ChatGPT.

Ou, por exemplo, um usuário na França publicou um recibo falso e amassado de uma rede de restaurantes local.

A foto foi compartilhada por um usuário na França.

Muitas outras pessoas testaram o novo recurso e também criaram recibos falsos para lojas, mas as imagens ainda apresentam inconsistências, como: vírgulas em vez de pontos no valor total; cálculos incorretos (uma fragilidade da IA ​​em cálculos básicos).

No entanto, agentes maliciosos podem corrigir isso facilmente fazendo edições simples usando software ou modificando comandos (prompts).

A facilidade com que faturas falsas podem ser criadas acarreta riscos significativos, como reembolsos fraudulentos por despesas inexistentes.

Em resposta a essa questão, a OpenAI afirmou que todas as imagens geradas por IA contêm metadados que reconhecem sua origem no ChatGPT. A empresa também "toma medidas" quando os usuários violam suas políticas e "aprende continuamente" com o feedback do mundo real.

Questionada sobre a possibilidade de criar faturas falsas, a porta-voz da OpenAI, Taya Christianson, explicou que o objetivo é "maximizar a liberdade criativa" e sugeriu que as faturas falsas poderiam ser usadas para educação financeira, arte ou fins publicitários.

Esta não é a primeira vez que a IA é explorada. Anteriormente, a MidJourney e a DALL-E foram usadas para criar imagens falsas de documentos, carteiras de identidade e até mesmo dinheiro.

Cao Phong (de acordo com TC, MSB)

Fonte: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html