De gevaren van ChatGPT's nieuwe technologie voor het genereren van afbeeldingen bij het vervalsen van bonnen.

(CLO) ChatGPT heeft onlangs een nieuwe tool voor het maken van afbeeldingen gelanceerd, geïntegreerd in het GPT-4o-model, met superieure mogelijkheden voor het toevoegen van tekst aan afbeeldingen.

Gebruikers ontdekten echter al snel dat deze functie misbruikt kon worden om restaurantrekeningen te vervalsen.

Investeerder Deedy Das plaatste op X een afbeelding van een nepbon van een steakhouse in San Francisco, met de bewering dat de foto was gemaakt met GPT-4o.

Investeerder Deedy deelde de afbeelding op het socialemediaplatform X.

Veel andere gebruikers hebben het effect ook met succes nagebootst, en hebben zelfs voedsel- en drankvlekken toegevoegd om het realisme te vergroten.

Een andere gebruiker deelde een afbeelding van een kassabon met voedselvlekken die er zeer realistisch uitzagen, maar die ook door ChatGPT was gemaakt.

Of bijvoorbeeld, een gebruiker in Frankrijk plaatste een nep, verfrommeld bonnetje van een lokale restaurantketen.

De foto werd gedeeld door een gebruiker in Frankrijk.

Velen hebben de nieuwe functie getest en ook nepbonnen voor winkels gemaakt, maar de afbeeldingen vertonen nog steeds inconsistenties, zoals: komma's in plaats van punten in het totaalbedrag; onjuiste berekeningen (een zwakte van AI bij eenvoudige berekeningen).

Kwaadwillende personen kunnen dit echter eenvoudig verhelpen door middel van softwarematige aanpassingen of door het wijzigen van commando's (prompts).

Het gemak waarmee valse facturen kunnen worden gemaakt, brengt aanzienlijke risico's met zich mee, zoals frauduleuze terugbetalingen voor niet-bestaande uitgaven.

In reactie op dit probleem verklaarde OpenAI dat alle door AI gegenereerde afbeeldingen metadata bevatten die hun oorsprong bij ChatGPT bevestigen. Het bedrijf neemt ook maatregelen wanneer gebruikers het beleid schenden en leert continu van feedback uit de praktijk.

Toen haar gevraagd werd naar het toestaan ​​van het maken van valse facturen, legde OpenAI-woordvoerder Taya Christianson uit dat het doel is om "de creatieve vrijheid te maximaliseren" en suggereerde dat valse facturen gebruikt zouden kunnen worden voor financiële educatie , kunst of reclamedoeleinden.

Dit is niet de eerste keer dat AI wordt misbruikt. Eerder werden MidJourney en DALL-E gebruikt om valse afbeeldingen te maken van documenten, identiteitskaarten en zelfs valuta.

Cao Phong (volgens TC, MSB)

Bron: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html