 |
Obrázky bankovních převodů lze pomocí umělé inteligence zfalšovat tak, aby vypadaly skutečně. Foto: Fireart . |
Snímek obrazovky novinového článku s titulkem „Herní společnost Xishanju rozpuštěna, hry budou dále prodány“ koloval v desítkách čínských chatovacích skupin. Jednalo se o zcela falešnou zprávu, vytvořenou pomocí GPT Image 2 za méně než minutu. Je to jen jeden z řady příkladů, které ukazují, jak nejnovější model generování obrázků od OpenAI zcela mění to, jak vnímáme důvěryhodnost obrázků na internetu.
V posledních třech letech se modely pro tvorbu obrázků s využitím umělé inteligence neustále potýkaly s jednou zásadní slabinou: textem, zejména v jiných jazycích než v angličtině. I když umělá inteligence dokáže vytvářet krásné obrázky, text v nich je často bezvýznamný nebo zpřeházený, což uživatelům umožňuje okamžitě je rozpoznat jako falešné. GPT Image 2 tuto slabinu zcela odstranil.
  |
GPT vytváří vysoce realistické falešné snímky obrazovky bez chyb rozhraní nebo písma. Obrázek: QQ. |
GPT Image 2 vytváří kompletní historii bankovních převodů s pouhou popisnou větou a bez referenčních obrázků, a to včetně úplných podrobností, čísla účtu, jména příjemce, data a času transakce a standardního formátu reálných bankovních aplikací. Rozhraní telefonu, příspěvky na sociálních sítích a oznámení aplikací jsou dokonale reprodukovány, a to i bez vzorových obrázků.
Skutečný dopad byl okamžitý. Komunikační oddělení společnosti Xiaomi muselo vydat prohlášení, v němž popřelo sérii falešných fotografií vytvořených umělou inteligencí, včetně fotografie, na které generální ředitel společnosti Apple Tim Cook „podepisuje partnerskou dohodu se společností Xiaomi“. Generální ředitelé a vedoucí představitelé velkých společností se stali nejčastějšími terči falešných obrázků, protože se jejich tváře objevují v plném rozsahu v televizi a na sociálních sítích, což umožňuje umělé inteligenci je reprodukovat přesněji než běžné lidi.
Tempo tvorby obrázků s využitím umělé inteligence za tři a půl roku od spuštění ChatGPT ukazuje neuvěřitelný skok vpřed. Z doby, kdy umělá inteligence nedokázala psát písmena, vytvářet přesná gesta rukou nebo vytvářet zdánlivě umělé lidské postavy, se dostala do bodu, kdy téměř nemá žádné slabiny, které by bylo možné odhalit pouhým okem.
V této souvislosti se stává nezbytnou dovedností tendence být skeptický ke každému snímku obrazovky přijatému prostřednictvím textové zprávy.
Zdroj: https://znews.vn/tu-hom-nay-dung-tin-anh-chup-man-hinh-post1646556.html
Komentář (0)