Cependant, les utilisateurs ont rapidement découvert que cette fonctionnalité pouvait être utilisée abusivement pour falsifier les factures de restaurant.
L'investisseur Deedy Das a publié sur X une image d'un faux reçu d'un steakhouse de San Francisco, affirmant que l'image avait été créée à l'aide de GPT-4o.
L'investisseur Deedy a partagé l'image sur le réseau social X.
De nombreux autres utilisateurs l'ont également recréé avec succès, en ajoutant même des taches de nourriture et de boisson pour augmenter le réalisme.
Un autre utilisateur a partagé une photo d'un reçu avec des taches de nourriture, qui semblait très réaliste, mais qui a également été créée par ChatGPT.
Ou comme un utilisateur en France qui a publié un faux reçu d'une chaîne de restaurants locale qui avait une apparence froissée.
Photo partagée par un utilisateur en France.
Beaucoup d'autres ont testé la nouvelle fonctionnalité et ont également créé de faux reçus pour les magasins, mais les photos présentent toujours des points déraisonnables tels que : des virgules au lieu de points dans le montant total ; un calcul erroné (faiblesse de l'IA dans le calcul de base).
Cependant, l'attaquant n'a besoin que d'effectuer des modifications simples à l'aide d'un logiciel ou de modifier l'invite de commande pour résoudre le problème.
La possibilité de créer facilement de fausses factures ouvre la voie à des risques majeurs, comme des remboursements frauduleux pour des dépenses inexistantes.
En réponse à ce problème, OpenAI a déclaré que toutes les images générées par l'IA incluent des métadonnées identifiant l'image comme provenant de ChatGPT. L'entreprise prend également des mesures lorsque les utilisateurs enfreignent ses politiques et s'inspire continuellement des retours d'expérience.
Interrogée sur la possibilité d'autoriser la création de fausses factures, la porte-parole d'OpenAI, Taya Christianson, a expliqué que l'objectif était de « maximiser la liberté créative » et a suggéré que les fausses factures pourraient être utilisées à des fins d'éducation financière, d'art ou de publicité.
Ce n'est pas la première fois que l'IA est exploitée. Auparavant, MidJourney et DALL-E étaient utilisés pour créer de fausses images de documents, de cartes d'identité et même de devises.
Cao Phong (selon TC, MSB)
Source : https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html
Comment (0)