Angst voor fraude met de realistische fotocreatiemogelijkheid van ChatGPT

ChatGPT "tekent als een foto"

Op 26 maart was de AI-gebruikersgemeenschap (kunstmatige intelligentie) wereldwijd, en ook in Vietnam, in rep en roer toen OpenAI officieel Images in ChatGPT lanceerde, gericht op mogelijkheden voor het maken van afbeeldingen voor gebruikers van het intelligente model van het bedrijf. Voorheen kon ChatGPT ook afbeeldingen maken, maar deze waren beperkt en moesten ze gebruikmaken van een ander bekend tekst-naar-afbeeldingmodel, DALL-E.

De mogelijkheid van de tool om tekst om te zetten in tekeningen en "afbeeldingen te combineren zoals in Photoshop" trok al snel de aandacht. Velen noemden de kwaliteit van de afbeeldingen "geweldig" en de meesten beoordeelden het als "superieur" in vergelijking met populaire AI-modellen op de markt.

ChatGPT creëert realistische koffiekopjes met slechts een eenvoudig commando

Volgens Gabriel Goh, onderzoeksleider bij OpenAI, is de significante verbetering in de mogelijkheden van ChatGPT voor het genereren van afbeeldingen met behulp van het GPT-4o-model "Binding" – een term voor de mate waarin de AI-afbeeldingsgenerator de verbinding tussen attributen en objecten in stand houdt. Goh stelde dat GPT-4o nauwkeurig attributen van 15 tot 20 verschillende objecten kan koppelen zonder verwarring, wat de nauwkeurigheid en betrouwbaarheid van de gegenereerde content aanzienlijk verbetert.

Niet alleen blinkt Afbeeldingen in ChatGPT uit in het creëren van afbeeldingen, het lost ook de "fatale" zwakte van andere AI-tools voor het genereren van afbeeldingen op, namelijk het weergeven van tekst en tekst in de afbeelding. Sterker nog, veel afbeeldingen met tekst worden nauwkeurig weergegeven, waardoor het nog moeilijker wordt om de afbeelding te onderscheiden van nep.

Het nadeel van deze tool is dat het lang duurt om afbeeldingen te genereren, maar dat wordt als acceptabel beschouwd omdat de vertraging ontstaat doordat afbeeldingen van goede kwaliteit, nauwkeurige details en een weergave van de beschrijving van de gebruiker altijd geduld vereisen. Het onderzoeksteam gaf aan dat dit probleem in de toekomst zal worden opgelost.

Veel zorgen over de mogelijkheid om foto's te combineren

Naast het plezier dat ChatGPT en OpenAI gebruikers bieden in de eerste ervaring, komen ook de kwesties van informatiebeveiliging, privacy en het risico op misbruik opnieuw ter sprake. "In de nabije toekomst zijn de afbeeldingen die je online ziet misschien niet per se echt", uitte een Facebook-gebruiker in Vietnam zijn bezorgdheid toen hij ChatGPT kon vragen om volledig onwerkelijke afbeeldingen te maken die er net zo echt uitzien als foto's, bijvoorbeeld een foto van acteur en voormalig worstelaar Dwayne Johnson (The Rock) die reclame maakt voor een kauwgommerk, of een foto van een lapjeskat die op de kachel zit en precies op een foto lijkt.

Dankzij de gedetailleerde opdrachten kunnen gebruikers verrassende resultaten creëren zonder dat ze diepgaande kennis hoeven te hebben van traditionele fotobewerkingstools.

Veel mensen hebben zelfs de 'stripfunctie' van de nieuwe tool geprobeerd. TN ( Hanoi ) zei dat hij een foto van een model van internet had gebruikt om ChatGPT te vragen zich om te kleden zoals gevraagd, en dat bijna alle verzoeken met grote nauwkeurigheid werden afgehandeld. "Er waren echter nog steeds enkele afwijzingen, voornamelijk vanwege schending van het beleid van het systeem met betrekking tot het maken van auteursrechtelijk beschermde afbeeldingen of het aanbieden van overdreven sexy content", aldus TN.

In de tests van Thanh Nien weigerde ChatGPT afbeeldingen te maken van beroemde of auteursrechtelijk beschermde personages uit de echte wereld of uit films en verhalen. "Ik kan de afbeelding niet maken zoals gevraagd, omdat de referentieafbeelding die u hebt gestuurd duidelijk het personage Doctor Strange laat zien - een auteursrechtelijk beschermd personage van Marvel - en dit is in strijd met het huidige contentbeleid", antwoordde het systeem toen het werd gevraagd een afbeelding te maken van Doctor Strange die... ijsthee drinkt in Vietnam.

Jackie Shannon, hoofd multimodale producten bij ChatGPT, bevestigde dat afbeeldingen in ChatGPT een sterke bescherming bieden tegen deepfake, pornografische of frauduleuze content. De gegenereerde afbeeldingen zullen met name C2PA-standaardmetadata integreren om ze als AI-producten te markeren, maar er zijn aparte tools nodig om ze te controleren.

Er zijn echter nog steeds veel mensen die met succes de wet omzeilen en afbeeldingen van beroemde mensen gebruiken voor entertainmentdoeleinden. Bijvoorbeeld de afbeelding van CEO Tim Cook die een Samsung-telefoon vasthoudt in plaats van een iPhone, of de afbeelding van acteur Robert Downey Jr. die op een groentesnoepje kauwt, of de foto van Cristiano Ronaldo die met Lionel Messi in een klein steegje in Vietnam voor een groot publiek speelt om een ​​bal...

Bron: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm