Farene ved ChatGPTs nye bildegenereringsteknologi ved forfalskning av kvitteringer.

(CLO) ChatGPT lanserte nylig et nytt verktøy for bildeoppretting integrert i GPT-4o-modellen, med overlegne funksjoner for tekst-i-bilde-oppretting.

Brukerne oppdaget imidlertid raskt at denne funksjonen kunne misbrukes til å forfalske restaurantregninger.

Investoren Deedy Das la ut et bilde av en falsk kvittering fra en steakhouse i San Francisco på X, og hevdet at bildet ble laget med GPT-4o.

Investor Deedy delte bildet på den sosiale medieplattformen X.

Mange andre brukere har også gjenskapt effekten, og til og med lagt til mat- og drikkeflekker for å forbedre realismen.

En annen bruker delte et bilde av en kvittering med matflekker som så veldig realistisk ut, men som også var laget av ChatGPT.

Eller, for eksempel, en bruker i Frankrike la ut en falsk, krøllete kvittering fra en lokal restaurantkjede.

Bildet ble delt av en bruker i Frankrike.

Mange andre har testet den nye funksjonen og også laget falske kvitteringer for butikker, men bildene har fortsatt inkonsekvenser som: Komma i stedet for punktum i totalbeløpet; feil beregninger (en svakhet ved AI i grunnleggende beregninger).

Ondsinnede aktører kan imidlertid enkelt fikse dette ved å gjøre enkle redigeringer ved hjelp av programvare eller endre kommandoer (ledetekster).

Den enkle måten falske fakturaer kan opprettes på åpner for betydelige risikoer, som for eksempel uredelige refusjoner for ikke-eksisterende utgifter.

Som svar på dette problemet uttalte OpenAI at alle AI-genererte bilder inneholder metadata som bekrefter at de kommer fra ChatGPT. Selskapet «tar også grep» når brukere bryter retningslinjene og «lærer kontinuerlig» av tilbakemeldinger fra den virkelige verden.

Da OpenAI-talsperson Taya Christianson ble spurt om å tillate opprettelse av falske fakturaer, forklarte hun at målet er å «maksimere kreativ frihet», og foreslo at falske fakturaer kunne brukes til økonomisk utdanning , kunst eller reklameformål.

Dette er ikke første gang AI har blitt utnyttet. Tidligere ble MidJourney og DALL-E brukt til å lage falske bilder av dokumenter, identitetskort og til og med valuta.

Cao Phong (ifølge TC, MSB)

Kilde: https://www.congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html