Les dangers de la nouvelle technologie de génération d'images de ChatGPT pour la falsification de reçus.

(CLO) ChatGPT a récemment lancé un nouvel outil de création d'images intégré au modèle GPT-4o, avec des capacités supérieures de création de texte dans l'image.

Cependant, les utilisateurs ont rapidement découvert que cette fonctionnalité pouvait être utilisée à mauvais escient pour falsifier les factures de restaurant.

L'investisseur Deedy Das a publié sur X l'image d'un faux reçu d'un restaurant de steaks de San Francisco, affirmant que la photo avait été créée à l'aide de GPT-4o.

L'investisseur Deedy a partagé l'image sur la plateforme de médias sociaux X.

De nombreux autres utilisateurs ont également réussi à recréer cet effet, en ajoutant même des taches de nourriture et de boisson pour renforcer le réalisme.

Un autre utilisateur a partagé l'image d'un reçu avec des taches de nourriture qui semblaient très réalistes, mais qui avaient également été créées par ChatGPT.

Ou encore, par exemple, un utilisateur en France a publié un faux ticket de caisse froissé d'une chaîne de restaurants locale.

La photo a été partagée par un utilisateur en France.

Beaucoup d'autres ont testé la nouvelle fonctionnalité et ont également créé de faux reçus pour les magasins, mais les images présentent encore des incohérences telles que : des virgules au lieu de points dans le montant total ; des calculs incorrects (une faiblesse de l'IA dans les calculs de base).

Cependant, des acteurs malveillants peuvent facilement corriger cela en effectuant de simples modifications à l'aide d'un logiciel ou en modifiant les commandes (invites).

La facilité avec laquelle de fausses factures peuvent être créées engendre des risques importants, tels que des remboursements frauduleux pour des dépenses inexistantes.

En réponse à ce problème, OpenAI a déclaré que toutes les images générées par l'IA contiennent des métadonnées attestant de leur origine ChatGPT. L'entreprise prend également des mesures lorsque les utilisateurs enfreignent ses règles et tire des enseignements constants des retours d'expérience.

Interrogée sur la possibilité d'autoriser la création de fausses factures, la porte-parole d'OpenAI, Taya Christianson, a expliqué que l'objectif était de « maximiser la liberté créative » et a suggéré que les fausses factures pourraient être utilisées à des fins d'éducation financière, artistiques ou publicitaires.

Ce n'est pas la première fois que l'IA est exploitée. Auparavant, MidJourney et DALL-E avaient été utilisés pour créer de fausses images de documents, de cartes d'identité et même de monnaie.

Cao Phong (selon TC, MSB)

Source : https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html