Der neue Bildgenerator von ChatGPT stellt eine Bedrohung für gefälschte Quittungen dar

Benutzer stellten jedoch schnell fest, dass diese Funktion missbraucht werden könnte, um Restaurantrechnungen zu fälschen.

Investor Deedy Das hat auf X ein Bild einer gefälschten Quittung eines Steakhauses in San Francisco gepostet und behauptet, das Bild sei mit GPT-4o erstellt worden.

Investor Deedy teilte das Bild im sozialen Netzwerk X.

Auch viele andere Benutzer haben es erfolgreich nachgebaut und dabei sogar Essens- und Getränkeflecken hinzugefügt, um den Realismus zu erhöhen.

Ein anderer Benutzer teilte ein Foto einer Quittung mit Essensflecken, das sehr realistisch aussah, aber ebenfalls von ChatGPT erstellt wurde.

Oder wie ein Benutzer in Frankreich, der eine gefälschte Quittung einer lokalen Restaurantkette postete, die zerknittert aussah.

Foto geteilt von einem Benutzer in Frankreich.

Viele andere haben die neue Funktion getestet und auch gefälschte Quittungen für Geschäfte erstellt, aber die Fotos weisen immer noch Unstimmigkeiten auf, wie zum Beispiel: Kommas statt Punkte in der Summe; Fehlkalkulation (Schwäche der KI bei grundlegenden Berechnungen).

Um das Problem zu beheben, muss der Angreifer jedoch nur einfache Änderungen mithilfe einer Software vornehmen oder die Eingabeaufforderung anpassen.

Die Möglichkeit, leicht gefälschte Rechnungen zu erstellen, birgt große Risiken, beispielsweise betrügerische Rückerstattungen für nicht vorhandene Ausgaben.

Als Reaktion auf dieses Problem erklärte OpenAI, dass alle KI-generierten Bilder Metadaten (Attribute) enthalten, die den Ursprung des Bildes aus ChatGPT aufzeichnen. Das Unternehmen „ergreift Maßnahmen“, wenn Benutzer gegen Richtlinien verstoßen, und „lernt kontinuierlich“ aus dem Feedback aus der Praxis.

Auf die Frage, ob die Erstellung gefälschter Rechnungen erlaubt sei, erklärte OpenAI-Sprecherin Taya Christianson, das Ziel bestehe darin, „die kreative Freiheit zu maximieren“, und schlug vor, gefälschte Rechnungen könnten für Zwecke der Finanzbildung, der Kunst oder der Werbung verwendet werden.

Dies ist nicht das erste Mal, dass KI ausgenutzt wird. Zuvor wurden MidJourney und DALL-E verwendet, um gefälschte Bilder von Dokumenten, Ausweisen und sogar Bargeld zu erstellen.

Cao Phong (laut TC, MSB)

Quelle: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html