Bezorgdheid over oplichting komt voort uit het vermogen van ChatGPT om realistische afbeeldingen te creëren.

ChatGPT "tekent als een foto"

Op 26 maart was de wereldwijde en Vietnamese AI-gebruikersgemeenschap in rep en roer toen OpenAI officieel Images in ChatGPT uitbracht, een tool gericht op het maken van afbeeldingen voor gebruikers van hun intelligente model. ChatGPT had voorheen ook al mogelijkheden voor het maken van afbeeldingen, maar deze waren beperkt en maakten gebruik van een ander bekend tekst-naar-afbeeldingmodel genaamd DALL-E.

De mogelijkheid van de tool om tekst om te zetten in tekeningen en "afbeeldingen van Photoshop-kwaliteit samen te voegen" trok al snel de aandacht. Veel gebruikers vonden de kwaliteit van de resulterende afbeeldingen "verbluffend", en de meesten beoordeelden het als "superieur" aan andere populaire AI-modellen op de markt.

ChatGPT maakt realistische afbeeldingen van koffiekopjes met slechts een simpele opdracht.

Volgens Gabriel Goh, hoofd onderzoek bij OpenAI, is de aanzienlijke verbetering in de beeldgeneratiemogelijkheden van ChatGPT met behulp van het GPT-4o-model te danken aan "Binding"—een term die verwijst naar de mate waarin de AI-beeldgenerator verbanden tussen attributen en objecten behoudt. Goh stelt dat GPT-4o attributen voor 15-20 verschillende objecten nauwkeurig en foutloos aan elkaar kan koppelen, waardoor de nauwkeurigheid en betrouwbaarheid van de gegenereerde content aanzienlijk verbeteren.

De Images-functie in ChatGPT blinkt niet alleen uit in het maken van afbeeldingen, maar pakt ook een cruciaal zwak punt van andere AI-tools voor beeldcreatie aan: het weergeven van tekst in afbeeldingen. Sterker nog, veel afbeeldingen met tekst worden nauwkeurig weergegeven, waardoor het steeds moeilijker wordt om echte en neppe afbeeldingen van elkaar te onderscheiden.

Een nadeel van de tool is de relatief lange tijd die nodig is om een ​​afbeelding te maken. Dit wordt echter als acceptabel beschouwd, omdat de vertraging nu eenmaal geduld vereist om afbeeldingen van hoge kwaliteit te produceren met nauwkeurige details die overeenkomen met de beschrijving van de gebruiker. Het onderzoeksteam gaf aan dat dit probleem in de toekomst zal worden opgelost.

Er zijn veel zorgen geuit over de mogelijkheid van beeldmanipulatie.

Naast het aanvankelijke plezier dat ChatGPT en OpenAI gebruikers bieden, zijn zorgen over informatiebeveiliging, privacy en het risico op misbruik opnieuw op de voorgrond getreden. "Binnenkort zijn de afbeeldingen die je online ziet misschien niet eens meer echt", uitte een Facebook-gebruiker in Vietnam zijn bezorgdheid. Hij kon ChatGPT namelijk vragen om volledig gefabriceerde afbeeldingen te creëren die er net zo realistisch uitzagen als foto's. Denk bijvoorbeeld aan een foto van acteur en voormalig worstelaar Dwayne Johnson (The Rock) die reclame maakt voor een kauwgommerk, of een driekleurige kat die op een fornuis zit en er precies zo uitziet als op een foto.

Met de gedetailleerde instructies kunnen gebruikers verrassende resultaten creëren zonder diepgaande kennis van traditionele fotobewerkingsprogramma's.

Sterker nog, veel mensen hebben zelfs de 'uitkleed'-functie van de nieuwe tool uitgeprobeerd. TN ( Hanoi ) vertelde dat ze een foto van een model van internet gebruikte om ChatGPT te vragen haar kleding te veranderen, en dat bijna alle verzoeken zeer nauwkeurig werden ingewilligd. "Er waren echter een paar gevallen waarin verzoeken werden afgewezen, voornamelijk vanwege schendingen van het beleid van het systeem met betrekking tot het gebruik van auteursrechtelijk beschermde afbeeldingen of te suggestieve inhoud," aldus TN.

In tests uitgevoerd door de krant Thanh Nien weigerde ChatGPT afbeeldingen te maken van bekende of auteursrechtelijk beschermde personages uit de echte wereld, films of strips. "Ik kan de gevraagde afbeelding niet maken, omdat de referentieafbeelding die u hebt gestuurd duidelijk Doctor Strange toont – een auteursrechtelijk beschermd personage van Marvel – en dit is in strijd met ons huidige contentbeleid", antwoordde het systeem toen er werd gevraagd een afbeelding te maken van Doctor Strange die zittend ijsthee drinkt in Vietnam.

Jackie Shannon, hoofd van de multimodale productontwikkeling bij ChatGPT, bevestigt dat de afbeeldingen in ChatGPT een robuuste bescherming bieden tegen deepfakes, pornografische of frauduleuze content. De gegenereerde afbeeldingen bevatten standaard C2PA-metadata om ze te identificeren als AI-producten, maar vereisen een aparte tool voor verificatie.

Veel mensen slagen er echter nog steeds in om de regels te omzeilen en afbeeldingen van beroemdheden voor amusementsdoeleinden te gebruiken. Bijvoorbeeld een foto van CEO Tim Cook met een Samsung-telefoon in plaats van een iPhone, of een afbeelding van acteur Robert Downey Jr. die op een groentesnoepje kauwt, of een reeks schilderijen van Cristiano Ronaldo en Lionel Messi die in een smal steegje in Vietnam voor een groot publiek om een ​​bal strijden...

Bron: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm