Fra i dag av, ikke stol på skjermbilder.

OpenAIs GPT Image 2 kan lage skjermbilder, overføringshistorikk og kjendisbilder som er så realistiske at de ikke kan skilles fra ekte mennesker, noe som utløser en bølge av falske nyheter på sosiale medier.

Bilder fra bankoverføringer kan forfalskes for å se ekte ut ved hjelp av kunstig intelligens. Foto: Fireart .

Et skjermbilde av en nyhetsartikkel med overskriften «Xishanju-spillselskapet oppløst, spillene skal videreselges» sirkulerte i dusinvis av kinesiske chattegrupper. Dette var fullstendig falske nyheter, laget med GPT Image 2 på under ett minutt. Det er bare ett av en rekke eksempler som viser hvordan OpenAIs nyeste bildegenereringsmodell fullstendig endrer hvordan vi oppfatter troverdigheten til bilder på internett.

De siste tre årene har AI-modeller for bildeoppretting konsekvent møtt en stor svakhet: tekst, spesielt på andre språk enn engelsk. Selv om AI kan lage vakre bilder, er teksten i bildene ofte meningsløs eller rotete, slik at brukerne umiddelbart kan gjenkjenne dem som falske. GPT Image 2 har fullstendig eliminert denne svakheten.

GPT lager svært realistiske falske skjermbilder uten grensesnitt- eller skriftfeil. Bilde: QQ.

Med bare en beskrivende setning og ingen referansebilder, oppretter GPT Image 2 en komplett bankoverføringshistorikk med fullstendige detaljer, kontonummer, mottakernavn, transaksjonsdato og -klokkeslett og standardformatet for virkelige bankapplikasjoner. Telefongrensesnitt, innlegg på sosiale medier og appvarsler gjengis perfekt, selv uten eksempelbilder.

Den virkelige effekten var umiddelbar. Xiaomis kommunikasjonsavdeling måtte utstede en uttalelse der de benektet en rekke falske bilder laget av AI, inkludert et av Apple-sjef Tim Cook som «signerer en partnerskapsavtale med Xiaomi». Administrerende direktører og ledere i store selskaper ble de hyppigste målene for falske bilder fordi ansiktene deres vises i sin helhet på TV og sosiale medier, slik at AI kan gjenskape dem mer nøyaktig enn vanlige mennesker.

Tempoet i AI-bildeproduksjon i de tre og et halvt årene siden ChatGPT ble lansert viser et utrolig sprang fremover. Fra å være ute av stand til å skrive bokstaver, lage nøyaktige håndbevegelser eller produsere tilsynelatende kunstige menneskefigurer, har AI utviklet seg til et punkt der den nesten ikke har noen svakheter som kan oppdages med det blotte øye.

I denne sammenhengen er tendensen til å være skeptisk til hvert skjermbilde mottatt via tekstmelding i ferd med å bli en nødvendig ferdighet.

Kilde: https://znews.vn/tu-hom-nay-dung-tin-anh-chup-man-hinh-post1646556.html