Vanaf vandaag moet je screenshots niet meer vertrouwen.

Afbeeldingen van bankoverschrijvingen kunnen met behulp van AI zo worden gemanipuleerd dat ze er echt uitzien. Foto: Fireart .

Een screenshot van een nieuwsartikel met de kop "Gamebedrijf uit Xishanju ontbonden, games worden doorverkocht" circuleerde in tientallen Chinese chatgroepen. Dit was volledig nepnieuws, gemaakt met GPT Image 2 in minder dan een minuut. Het is slechts één van een reeks voorbeelden die laten zien hoe OpenAI's nieuwste model voor beeldgeneratie onze perceptie van de betrouwbaarheid van afbeeldingen op internet volledig verandert.

De afgelopen drie jaar kampten AI-modellen voor het genereren van afbeeldingen steevast met een groot probleem: tekst, met name in andere talen dan Engels. Hoewel AI prachtige afbeeldingen kan creëren, is de tekst in de afbeeldingen vaak betekenisloos of onduidelijk, waardoor gebruikers ze direct als nep herkennen. GPT Image 2 heeft dit probleem volledig opgelost.

GPT maakt zeer realistische nep-screenshots zonder interface- of lettertypefouten. Afbeelding: QQ.

Met slechts een beschrijvende zin en zonder referentieafbeeldingen creëert GPT Image 2 een complete bankoverschrijvingsgeschiedenis met alle details, rekeningnummer, naam van de ontvanger, transactiedatum en -tijd, en de standaardindeling van echte bankapplicaties. Telefooninterfaces, berichten op sociale media en app-meldingen worden allemaal perfect gereproduceerd, zelfs zonder voorbeeldafbeeldingen.

De impact was direct merkbaar. De communicatieafdeling van Xiaomi moest een verklaring afgeven waarin een reeks nepfoto's, gemaakt door AI, werd ontkend. Een van die foto's toonde Apple-CEO Tim Cook die "een samenwerkingsovereenkomst met Xiaomi ondertekende". CEO's en leiders van grote bedrijven werden het vaakst het doelwit van nepafbeeldingen, omdat hun gezichten volledig in beeld verschijnen op televisie en sociale media. Hierdoor kan AI ze nauwkeuriger reconstrueren dan gewone mensen.

De snelheid waarmee AI-beelden worden gegenereerd in de drieënhalf jaar sinds de lancering van ChatGPT laat een ongelooflijke sprong voorwaarts zien. Van onvermogen om letters te schrijven, nauwkeurige handgebaren te maken of ogenschijnlijk kunstmatige mensfiguren te produceren, is AI nu zo ver gevorderd dat er vrijwel geen zwakke punten meer zijn die met het blote oog te detecteren zijn.

In deze context wordt de neiging om sceptisch te staan tegenover elke screenshot die via sms wordt ontvangen, een noodzakelijke vaardigheid.

Bron: https://znews.vn/tu-hom-nay-dung-tin-anh-chup-man-hinh-post1646556.html