Obavy z podvodů pramenících ze schopnosti ChatGPT vytvářet realistické obrázky.

ChatGPT „kreslí jako fotografie“

26. března se globální i vietnamská uživatelská komunita umělé inteligence rozplývala nad tím, že OpenAI oficiálně zveřejnila Obrázky v ChatGPT, nástroj zaměřený na tvorbu obrázků, pro uživatele svého inteligentního modelu. Dříve měl ChatGPT také možnosti tvorby obrázků, ale ty byly omezené a spoléhaly se na jiný známý model převodu textu na obrázek s názvem DALL-E.

Schopnost nástroje transformovat text do kreseb a provádět „slučování obrázků v kvalitě Photoshopu“ rychle upoutala pozornost. Mnoho uživatelů označilo kvalitu výstupního obrazu za „úžasnou“, přičemž většina ji hodnotila jako „lepší“ než jiné populární modely umělé inteligence na trhu.

ChatGPT vytváří realistické obrázky šálků kávy pomocí jednoduchého příkazu.

Podle Gabriela Goha, vedoucího výzkumu v OpenAI, je významným zlepšením schopností generování obrázků v ChatGPT s využitím modelu GPT-4o „vázání“ – termín označující míru, do jaké generátor obrázků s využitím umělé inteligence udržuje vazby mezi atributy a objekty. Goh tvrdí, že GPT-4o dokáže přesně propojit atributy pro 15–20 různých objektů bez chyby, což výrazně zlepšuje přesnost a spolehlivost generovaného obsahu.

Obrázky v ChatGPT nejen vynikají ve vytváření obrázků, ale také řeší kritickou slabinu jiných nástrojů pro tvorbu obrázků s umělou inteligencí: vykreslování textu v obrázcích. Mnoho obrázků obsahujících text je ve skutečnosti vykresleno přesně, takže je stále obtížnější rozlišit mezi skutečnými a falešnými obrázky.

Nevýhodou nástroje je relativně dlouhá doba vytváření obrázků, ale to je považováno za rozumné, protože zpoždění je způsobeno tím, že vysoce kvalitní obrázky s přesnými detaily a odpovídající popisu uživatele vždy vyžadují trpělivost. Výzkumný tým uvedl, že problém se zpožděním bude v budoucnu vylepšen.

Objevilo se mnoho obav ohledně možnosti manipulace s obrazy.

Kromě počátečního potěšení, které ChatGPT a OpenAI uživatelům nabízejí, se do popředí opět dostaly obavy ohledně bezpečnosti informací, soukromí a rizika zneužití. „Brzy obrázky, které vidíte online, nemusí být nutně skutečné,“ vyjádřil své obavy uživatel Facebooku ve Vietnamu, protože by mohl požádat ChatGPT o vytvoření zcela smyšlených obrázků, které vypadají stejně realisticky jako fotografie, například obrázek herce a bývalého wrestlera Dwaynea Johnsona (The Rock) propagujícího značku žvýkaček, nebo kočky z kalika sedící na sporáku, která vypadá přesně jako fotografie.

Díky podrobným příkazům mohou uživatelé vytvářet překvapivé výsledky, aniž by potřebovali hluboké znalosti tradičních nástrojů pro úpravu fotografií.

Ve skutečnosti mnoho lidí dokonce vyzkoušelo funkci „svlékání“ v novém nástroji. TN ( Hanoj ) uvedla, že použila fotografii modelky z internetu, aby požádala ChatGPT o převlečení, jak bylo požadováno, a téměř všechny požadavky byly splněny s vysokou přesností. „Několikrát však byly žádosti zamítnuty, zejména kvůli porušení zásad systému týkajících se vytváření obrázků chráněných autorskými právy nebo příliš sugestivního obsahu,“ sdělila TN.

V testech provedených novinami Thanh Nien systém ChatGPT odmítl vytvářet obrázky související se slavnými nebo autorsky chráněnými postavami z reálného světa, filmů a komiksů. „Nemohu vytvořit požadovaný obrázek, protože referenční obrázek, který jste zaslali, jasně ukazuje Doctora Strangeho – postavu Marvelu chráněnou autorskými právy – a to porušuje naše aktuální zásady pro obsah,“ odpověděl systém, když byl požádán o vytvoření obrázku Doctora Strangeho, jak sedí... a pije ledový čaj ve Vietnamu.

Jackie Shannon, vedoucí multimodálních produktů ve společnosti ChatGPT, potvrzuje, že obrázky v ChatGPT nabízejí robustní ochranu před deepfake, pornografickým nebo podvodným obsahem. Generované obrázky zahrnují standardní metadata C2PA, která je identifikují jako produkty umělé inteligence, ale k ověření vyžadují samostatný nástroj.

Mnoho lidí však stále úspěšně „obchází pravidla“ a používá obrázky celebrit k zábavným účelům. Například obrázek generálního ředitele Tima Cooka, na kterém místo iPhonu drží telefon Samsung, nebo obrázek herce Roberta Downeyho Jr. žvýkajícího zeleninový bonbón, nebo série obrazů Cristiana Ronalda a Lionela Messiho, jak soupeří o míč v malé uličce ve Vietnamu před mnoha přihlížejícími...

Zdroj: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm