Från och med idag, lita inte på skärmdumpar.

OpenAI:s GPT Image 2 kan skapa skärmdumpar, överföringshistorik och kändisfoton som är så realistiska att de inte går att skilja från riktiga människor, vilket utlöser en våg av falska nyheter på sociala medier.

Bilder från banköverföringar kan förfalskas med hjälp av AI för att se äkta ut. Foto: Fireart .

En skärmdump av en nyhetsartikel med rubriken "Xishanju-spelföretaget upplöst, spelen ska säljas vidare" cirkulerade i dussintals kinesiska chattgrupper. Detta var helt falska nyheter, skapade med GPT Image 2 på mindre än en minut. Det är bara ett i en serie exempel som visar hur OpenAI:s senaste bildgenereringsmodell helt förändrar hur vi uppfattar bilders tillförlitlighet på internet.

Under de senaste tre åren har AI-modeller för bildskapande konsekvent mött en stor svaghet: text, särskilt på andra språk än engelska. Även om AI kan skapa vackra bilder är texten i bilderna ofta meningslös eller rörig, vilket gör att användare omedelbart kan känna igen dem som falska. GPT Image 2 har helt eliminerat denna svaghet.

GPT skapar mycket realistiska falska skärmdumpar utan gränssnitts- eller typsnittsfel. Bild: QQ.

Med bara en beskrivande mening och inga referensbilder skapar GPT Image 2 en komplett banköverföringshistorik med fullständiga detaljer, kontonummer, mottagarens namn, transaktionsdatum och tid och standardformatet för verkliga bankapplikationer. Telefongränssnitt, inlägg på sociala medier och appaviseringar återges perfekt, även utan exempelbilder.

Den verkliga effekten var omedelbar. Xiaomis kommunikationsavdelning var tvungen att utfärda ett uttalande där de förnekade en serie falska foton skapade av AI, inklusive ett på Apples VD Tim Cook som "skriver under ett partnerskapsavtal med Xiaomi". VD:ar och ledare för stora företag blev de vanligaste målen för falska bilder eftersom deras ansikten visas i sin helhet på tv och sociala medier, vilket gör att AI kan återskapa dem mer exakt än vanliga människor.

Takten för AI-bildskapande under de tre och ett halvt år som gått sedan ChatGPT lanserades visar ett otroligt språng framåt. Från att inte kunna skriva brev, skapa korrekta handgester eller producera till synes artificiella mänskliga figurer har AI utvecklats till en punkt där den nästan inte har några svagheter som kan upptäckas med blotta ögat.

I detta sammanhang blir tendensen att vara skeptisk till varje skärmdump som tas emot via sms en nödvändig färdighet.

Källa: https://znews.vn/tu-hom-nay-dung-tin-anh-chup-man-hinh-post1646556.html