Farorna med ChatGPT:s nya bildgenereringsteknik vid förfalskning av kvitton.

(CLO) ChatGPT lanserade nyligen ett nytt verktyg för bildskapande integrerat i GPT-4o-modellen, med överlägsna funktioner för att skapa text-i-bild.

Användare upptäckte dock snabbt att den här funktionen kunde missbrukas för att förfalska restaurangnotor.

Investeraren Deedy Das publicerade en bild på ett falskt kvitto från en steakhouse i San Francisco på X och hävdade att fotot skapades med GPT-4o.

Investeraren Deedy delade bilden på sociala medieplattformen X.

Många andra användare har också lyckats återskapa effekten, och till och med lagt till mat- och dryckesfläckar för att förbättra realismen.

En annan användare delade en bild på ett kvitto med matfläckar som såg väldigt realistisk ut, men som också skapades av ChatGPT.

Eller, till exempel, en användare i Frankrike publicerade ett falskt, skrynkligt kvitto från en lokal restaurangkedja.

Fotot delades av en användare i Frankrike.

Många andra har testat den nya funktionen och även skapat falska kvitton för butiker, men bilderna har fortfarande inkonsekvenser som: Kommatecken istället för punkter i totalbeloppet; felaktiga beräkningar (en svaghet hos AI i grundläggande beräkningar).

Illvilliga aktörer kan dock enkelt åtgärda detta genom att göra enkla redigeringar med hjälp av programvara eller modifiera kommandon (prompts).

Den lätthet med vilken falska fakturor kan skapas öppnar upp för betydande risker, såsom bedrägliga återbetalningar för obefintliga utgifter.

Som svar på detta problem uppgav OpenAI att alla AI-genererade bilder innehåller metadata som bekräftar deras ursprung från ChatGPT. Företaget "vidtar också åtgärder" när användare bryter mot deras policyer och "lär sig kontinuerligt" av feedback från verkligheten.

När OpenAI:s talesperson Taya Christianson tillfrågades om att tillåta skapande av falska fakturor förklarade hon att målet är att "maximera den kreativa friheten" och föreslog att falska fakturor skulle kunna användas för ekonomisk utbildning , konst eller reklamändamål.

Det här är inte första gången AI har utnyttjats. Tidigare användes MidJourney och DALL-E för att skapa falska bilder av dokument, identitetskort och till och med valuta.

Cao Phong (enligt TC, MSB)

Källa: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html