Los peligros de la nueva tecnología de generación de imágenes de ChatGPT al falsificar recibos.

(CLO) ChatGPT lanzó recientemente una nueva herramienta de creación de imágenes integrada en el modelo GPT-4o, con capacidades superiores de creación de texto en imagen.

Sin embargo, los usuarios descubrieron rápidamente que esta función podía utilizarse de forma abusiva para falsificar facturas de restaurantes.

El inversor Deedy Das publicó una imagen de un recibo falso de un restaurante de carnes de San Francisco en X, afirmando que la foto fue creada con GPT-4o.

El inversor Deedy compartió la imagen en la plataforma de redes sociales X.

Muchos otros usuarios también han recreado con éxito el efecto, añadiendo incluso manchas de comida y bebida para mejorar el realismo.

Otro usuario compartió una imagen de un recibo con manchas de comida que parecía muy realista, pero también fue creado por ChatGPT.

O, por ejemplo, un usuario en Francia publicó un recibo falso y arrugado de una cadena de restaurantes local.

La foto fue compartida por un usuario en Francia.

Muchos otros han probado la nueva función y también han creado recibos falsos para tiendas, pero las imágenes aún tienen inconsistencias como: comas en lugar de puntos en el monto total; cálculos incorrectos (una debilidad de la IA en los cálculos básicos).

Sin embargo, los actores maliciosos pueden solucionar esto fácilmente haciendo ediciones simples mediante software o modificando comandos (indicaciones).

La facilidad con la que se pueden crear facturas falsas abre riesgos importantes, como reembolsos fraudulentos de gastos inexistentes.

En respuesta a este problema, OpenAI declaró que todas las imágenes generadas por IA contienen metadatos que reconocen su origen en ChatGPT. La empresa también toma medidas cuando los usuarios infringen sus políticas y aprende continuamente de la retroalimentación del mundo real.

Cuando se le preguntó sobre permitir la creación de facturas falsas, la portavoz de OpenAI, Taya Christianson, explicó que el objetivo es "maximizar la libertad creativa" y sugirió que las facturas falsas podrían usarse con fines de educación financiera, arte o publicidad.

Esta no es la primera vez que se explota la IA. Anteriormente, MidJourney y DALL-E se utilizaron para crear imágenes falsas de documentos, documentos de identidad e incluso moneda.

Cao Phong (según TC, MSB)

Fuente: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html