Die Gefahren der neuen Bildgenerierungstechnologie von ChatGPT bei der Fälschung von Belegen.

(CLO) ChatGPT hat kürzlich ein neues Bildgenerierungstool auf den Markt gebracht, das in das GPT-4o-Modell integriert ist und über überlegene Möglichkeiten zur Erstellung von Text in Bildern verfügt.

Allerdings stellten die Nutzer schnell fest, dass diese Funktion missbraucht werden konnte, um Restaurantrechnungen zu fälschen.

Der Investor Deedy Das veröffentlichte auf X ein Bild einer gefälschten Quittung eines Steakhauses in San Francisco und behauptete, das Foto sei mit Hilfe von GPT-4o erstellt worden.

Investor Deedy teilte das Bild auf der Social-Media-Plattform X.

Viele andere Nutzer haben den Effekt ebenfalls erfolgreich nachgebildet und sogar Essens- und Getränkeflecken hinzugefügt, um den Realismus zu steigern.

Ein anderer Nutzer teilte ein Bild eines Kassenbons mit Essensflecken, das sehr realistisch aussah, aber ebenfalls von ChatGPT erstellt worden war.

Oder beispielsweise veröffentlichte ein Nutzer in Frankreich eine gefälschte, zerknitterte Quittung einer lokalen Restaurantkette.

Das Foto wurde von einem Nutzer in Frankreich geteilt.

Viele andere haben die neue Funktion getestet und auch gefälschte Kassenbons für Geschäfte erstellt, aber die Bilder weisen immer noch Unstimmigkeiten auf, wie zum Beispiel: Kommas anstelle von Punkten im Gesamtbetrag; falsche Berechnungen (eine Schwäche der KI bei grundlegenden Berechnungen).

Allerdings können böswillige Akteure dies leicht beheben, indem sie einfache Änderungen mit Hilfe von Software vornehmen oder Befehle (Eingabeaufforderungen) modifizieren.

Die Leichtigkeit, mit der gefälschte Rechnungen erstellt werden können, birgt erhebliche Risiken, wie beispielsweise betrügerische Rückerstattungen für nicht existierende Ausgaben.

Als Reaktion auf dieses Problem erklärte OpenAI, dass alle KI-generierten Bilder Metadaten enthalten, die ihre Herkunft von ChatGPT bestätigen. Das Unternehmen ergreift außerdem Maßnahmen, wenn Nutzer gegen seine Richtlinien verstoßen, und lernt kontinuierlich aus dem Feedback der Nutzer.

Auf die Frage nach der Zulassung der Erstellung gefälschter Rechnungen erklärte OpenAI-Sprecherin Taya Christianson, dass das Ziel darin bestehe, „die kreative Freiheit zu maximieren“, und schlug vor, dass gefälschte Rechnungen für Zwecke der Finanzbildung , der Kunst oder der Werbung verwendet werden könnten.

Dies ist nicht das erste Mal, dass KI missbraucht wurde. Zuvor wurden MidJourney und DALL-E verwendet, um gefälschte Bilder von Dokumenten, Ausweisen und sogar Banknoten zu erstellen.

Cao Phong (laut TC, MSB)

Quelle: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html