Bekymringer om svindel som stammer fra ChatGPTs evne til å lage realistiske bilder.

ChatGPT «tegner som et fotografi»

Den 26. mars var det stor begeistring blant globale og vietnamesiske AI-brukermiljøer da OpenAI offisielt lanserte Images i ChatGPT, et verktøy fokusert på bildeoppretting, for brukere av den intelligente modellen. Tidligere hadde ChatGPT også muligheter for bildeoppretting, men disse var begrensede og var avhengige av en annen kjent tekst-til-bilde-modell kalt DALL-E.

Verktøyets evne til å transformere tekst til tegninger og utføre «bildesammenslåing i Photoshop-kvalitet» vakte raskt oppmerksomhet. Mange brukere rapporterte at bildekvaliteten var «forbløffende», og de fleste vurderte den som «overlegen» i forhold til andre populære AI-modeller på markedet.

ChatGPT lager realistiske bilder av kaffekopper med bare en enkel kommando.

Ifølge Gabriel Goh, forskningssjef ved OpenAI, er den betydelige forbedringen i ChatGPTs bildegenereringsmuligheter ved bruk av GPT-4o-modellen «binding» – et begrep som refererer til i hvilken grad AI-bildegeneratoren opprettholder koblinger mellom attributter og objekter. Goh hevder at GPT-4o nøyaktig kan koble attributter for 15–20 forskjellige objekter uten feil, noe som forbedrer nøyaktigheten og påliteligheten til det genererte innholdet betydelig.

Ikke bare utmerker bilder i ChatGPT seg når det gjelder bildeoppretting, men det adresserer også en kritisk svakhet i andre AI-verktøy for bildeoppretting: gjengivelse av tekst i bilder. Faktisk gjengis mange bilder som inneholder tekst nøyaktig, noe som gjør det stadig vanskeligere å skille mellom ekte og falske bilder.

Verktøyets ulempe er den relativt lange tiden det tar å lage bilder, men dette anses som rimelig fordi forsinkelsen skyldes at bilder av høy kvalitet med nøyaktige detaljer som samsvarer med brukerens beskrivelse alltid krever tålmodighet. Forskerteamet uttalte at forsinkelsesproblemet vil bli forbedret i fremtiden.

Det har blitt reist mange bekymringer rundt muligheten for bildemanipulering.

Utover den første gleden ChatGPT og OpenAI tilbyr brukerne, har bekymringer rundt informasjonssikkerhet, personvern og risikoen for utnyttelse nok en gang kommet i forgrunnen. «Snart er det ikke sikkert at bildene du ser på nettet er ekte,» uttrykte en Facebook-bruker i Vietnam sin bekymring, ettersom han kunne be ChatGPT om å lage fullstendig fabrikkerte bilder som ser like realistiske ut som fotografier, for eksempel et bilde av skuespiller og tidligere bryter Dwayne Johnson (The Rock) som reklamerer for et tyggegummimerke, eller en kalikokatt som sitter på en komfyr og ser akkurat ut som et fotografi.

Med detaljerte kommandoer kan brukere skape overraskende resultater uten å trenge inngående kunnskap om tradisjonelle bilderedigeringsverktøy.

Faktisk har mange til og med prøvd det nye verktøyets «avkledningsfunksjon». TN ( Hanoi ) sa at hun brukte et modellbilde fra internett for å be ChatGPT om å skifte klær som forespurt, og nesten alle forespørsler ble oppfylt med høy nøyaktighet. «Det var imidlertid noen få ganger forespørsler ble avvist, hovedsakelig på grunn av brudd på systemets retningslinjer angående oppretting av opphavsrettsbeskyttede bilder eller overdrevent suggestivt innhold», delte TN.

I tester utført av avisen Thanh Nien nektet ChatGPT å lage bilder relatert til kjente eller opphavsrettsbeskyttede karakterer i den virkelige verden eller i filmer og tegneserier. «Jeg kan ikke lage bildet som forespurt fordi referansebildet du sendte tydelig viser Doctor Strange – en opphavsrettsbeskyttet karakter fra Marvel – og dette bryter med vår nåværende innholdspolicy», svarte systemet da de ble bedt om å lage et bilde av Doctor Strange som satt ... og drakk iste i Vietnam.

Jackie Shannon, leder for multimodal produkt hos ChatGPT, bekrefter at bilder i ChatGPT tilbyr robust beskyttelse mot deepfake, pornografisk eller uredelig innhold. Det er verdt å merke seg at de genererte bildene inneholder standard C2PA-metadata for å identifisere dem som AI-produkter, men krever et separat verktøy for verifisering.

Imidlertid lykkes det fortsatt mange med å «omgå reglene» og bruke bilder av kjendiser til underholdningsformål. For eksempel et bilde av administrerende direktør Tim Cook som holder en Samsung-telefon i stedet for en iPhone, eller et bilde av skuespiller Robert Downey Jr. som tygger på et grønnsaksgodteri, eller en serie malerier av Cristiano Ronaldo og Lionel Messi som konkurrerer om en ball i en liten smug i Vietnam foran mange tilskuere ...

Kilde: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm