El nuevo generador de imágenes de ChatGPT amenaza la falsificación de recibos

(CLO) ChatGPT ha lanzado recientemente una nueva herramienta de creación de imágenes integrada en el modelo GPT-4o, con excelentes capacidades de creación de texto en imágenes.

Sin embargo, los usuarios descubrieron rápidamente que esta función podía utilizarse para falsificar facturas de restaurantes.

El inversor Deedy Das publicó una imagen de un recibo falso de un restaurante de carnes en San Francisco en X, afirmando que la imagen fue creada con GPT-4o.

El inversor Deedy compartió la imagen en la red social X.

Muchos otros usuarios también lo han recreado con éxito, añadiendo incluso manchas de comida y bebida para aumentar el realismo.

Otro usuario compartió una foto de un recibo con manchas de comida, que parecía muy realista, pero también fue creado por ChatGPT.

O como un usuario en Francia que publicó un recibo falso de una cadena de restaurantes local que tenía un aspecto arrugado.

Foto compartida por un usuario en Francia.

Muchos otros han probado la nueva función y también han creado recibos falsos para tiendas, pero las fotos aún tienen puntos irrazonables como: comas en lugar de puntos en el monto total; cálculo incorrecto (debilidad de la IA en el cálculo básico).

Sin embargo, el atacante sólo necesita realizar modificaciones simples mediante software o modificar el símbolo del sistema para solucionarlo.

La posibilidad de crear fácilmente facturas falsas abre riesgos importantes, como reembolsos fraudulentos de gastos inexistentes.

En respuesta al problema, OpenAI afirmó que todas las imágenes generadas por IA incluyen metadatos que identifican su origen en ChatGPT. La empresa también toma medidas cuando los usuarios infringen sus políticas y aprende continuamente de la retroalimentación del mundo real.

Cuando se le preguntó sobre permitir la creación de facturas falsas, la portavoz de OpenAI, Taya Christianson, explicó que el objetivo es "maximizar la libertad creativa" y sugirió que las facturas falsas podrían usarse con fines de educación financiera, arte o publicidad.

Esta no es la primera vez que se explota la IA. Anteriormente, MidJourney y DALL-E se utilizaron para crear imágenes falsas de documentos, tarjetas de identificación e incluso dinero.

Cao Phong (según TC, MSB)

Fuente: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html