Aggodalmak merültek fel a ChatGPT valósághű képek létrehozására való képességéből eredő csalásokkal kapcsolatban.

A ChatGPT „úgy rajzol, mint egy fénykép”

Március 26-án a globális és a vietnami MI-felhasználói közösségek izgatottak voltak, amikor az OpenAI hivatalosan is kiadta az Images in ChatGPT-t, egy képalkotásra összpontosító eszközt az intelligens modelljének felhasználói számára. Korábban a ChatGPT is rendelkezett képalkotási képességekkel, de ezek korlátozottak voltak, és egy másik jól ismert szövegből képbe konvertáló modellre, a DALL-E-re támaszkodtak.

Az eszköz szöveg rajzokká alakítására és „Photoshop-minőségű képegyesítésre” való képessége gyorsan felkeltette a figyelmet. Sok felhasználó „elképesztőnek” minősítette a kimeneti képminőséget, a legtöbben „kiválóbbnak” értékelték a piacon kapható más népszerű mesterséges intelligencia modellekhez képest.

A ChatGPT valósághű kávéscsésze képeket készít egyetlen paranccsal.

Gabriel Goh, az OpenAI kutatási vezetője szerint a ChatGPT képgeneráló képességeinek jelentős javulása a GPT-4o modell használatával a „kötés” – ez a kifejezés arra utal, hogy az AI képgenerátor milyen mértékben tartja fenn a kapcsolatokat az attribútumok és az objektumok között. Goh azt állítja, hogy a GPT-4o képes pontosan, hiba nélkül összekapcsolni 15-20 különböző objektum attribútumait, jelentősen javítva a generált tartalom pontosságát és megbízhatóságát.

A ChatGPT Images nemcsak a képalkotásban jeleskedik, hanem más mesterséges intelligencia által támogatott képkészítő eszközök egy kritikus gyengeségét is orvosolja: a képeken belüli szöveg megjelenítését. Valójában sok szöveget tartalmazó kép pontosan jelenik meg, ami egyre nehezebbé teszi a valódi és a hamis képek megkülönböztetését.

Az eszköz hátránya a viszonylag hosszú képkészítési idő, de ezt ésszerűnek tekintik, mivel a késleltetés annak köszönhető, hogy a pontos részletekkel rendelkező és a felhasználó leírásának megfelelő, kiváló minőségű képek mindig türelmet igényelnek. A kutatócsoport kijelentette, hogy a késleltetési problémát a jövőben javítani fogják.

Sok aggodalom merült fel a képmanipuláció lehetőségével kapcsolatban.

A ChatGPT és az OpenAI által a felhasználóknak nyújtott kezdeti élvezeten túl ismét előtérbe kerültek az információbiztonsággal, az adatvédelemmel és a visszaélések kockázatával kapcsolatos aggodalmak. „Hamarosan az online látható képek nem feltétlenül lesznek valódiak” – fejezte ki aggodalmát egy vietnami Facebook-felhasználó, mivel kérheti a ChatGPT-től, hogy teljesen kitalált képeket készítsen, amelyek ugyanolyan valósághűek, mint a fényképek, például egy képet Dwayne Johnson színészről és egykori birkózóról (The Rock), amint egy rágógumimárkát reklámoz, vagy egy tűzhelyen ülő kaliszta macskát, amely pontosan úgy néz ki, mint egy fénykép.

A részletes parancsoknak köszönhetően a felhasználók meglepő eredményeket hozhatnak létre anélkül, hogy mélyreható ismeretekre lenne szükségük a hagyományos fotószerkesztő eszközökkel kapcsolatban.

Sőt, sokan kipróbálták már az új eszköz „vetkőzés” funkcióját is. TN ( Hanoi ) elmondta, hogy egy modell internetről származó fotóját használta arra, hogy megkérje a ChatGPT-t, hogy a kérésnek megfelelően öltözzön át, és szinte minden kérést nagy pontossággal teljesítettek. „Volt azonban néhány alkalom, amikor a kéréseket elutasították, főként a rendszer szerzői joggal védett képek létrehozásával vagy túlzottan szuggesztív tartalommal kapcsolatos irányelveinek megsértése miatt” – osztotta meg TN.

A Thanh Nien újság által végzett tesztek során a ChatGPT megtagadta, hogy híres vagy szerzői jogvédelem alatt álló karakterekhez kapcsolódó képeket készítsen a való világban, filmekben és képregényekben. „Nem tudom létrehozni a kért képet, mert az Ön által küldött referenciaképen egyértelműen látható Doctor Strange – a Marvel egyik szerzői jogvédelem alatt álló karaktere –, és ez sérti a jelenlegi tartalomra vonatkozó irányelveinket” – válaszolta a rendszer, amikor arra kérték, hogy készítsen egy képet, amelyen Doctor Strange jeges teát iszik Vietnámban.

Jackie Shannon, a ChatGPT multimodális termékeinek vezetője megerősíti, hogy a ChatGPT képei hatékony védelmet nyújtanak a deepfake, pornográf vagy csalárd tartalmak ellen. Figyelemre méltó, hogy a létrehozott képek szabványos C2PA metaadatokat tartalmaznak, amelyek mesterséges intelligencia-termékekként azonosítják őket, de az ellenőrzéshez külön eszközre van szükség.

Azonban sokan még mindig sikeresen „megkerülik a szabályokat”, és hírességek képeit használják szórakoztatási célokra. Például egy kép, amelyen Tim Cook vezérigazgató egy Samsung telefont tart iPhone helyett, vagy egy kép, amelyen Robert Downey Jr. színész zöldséges cukorkát rágcsál, vagy egy festménysorozat, amelyen Cristiano Ronaldo és Lionel Messi egy labdáért versenyeznek egy kis sikátorban Vietnámban, sok bámészkodó előtt...

Forrás: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm