Strach z podvodů s realistickou schopností ChatGPT vytvářet fotografie

ChatGPT „kreslí jako fotka“

26. března se komunita uživatelů umělé inteligence (AI) po celém světě i ve Vietnamu rozplývala nad oznámením, že OpenAI oficiálně vydala aplikaci Obrázky v ChatGPT, která se zaměřuje na možnosti vytváření obrázků pro uživatele inteligentního modelu společnosti. Dříve ChatGPT také umožňoval vytvářet obrázky, ale byl omezený a musel projít jiným slavným modelem převodu textu na obrázek, DALL-E.

Schopnost nástroje převádět text na kresby a „kombinovat obrázky jako ve Photoshopu“ rychle upoutala pozornost. Mnozí uvedli, že kvalita výstupního obrazu je „úžasná“ a většina ji hodnotila jako „vynikající“ ve srovnání s populárními modely umělé inteligence na trhu.

ChatGPT vytváří realistické šálky kávy pomocí jednoduchého příkazu

Podle Gabriela Goha, vedoucího výzkumného týmu v OpenAI, je významným zlepšením schopností generování obrázků v ChatGPT s využitím modelu GPT-4o „vázání“ – termín pro míru, do jaké generátor obrázků s využitím umělé inteligence udržuje propojení mezi atributy a objekty. Pan Goh tvrdil, že GPT-4o dokáže přesně propojit atributy pro 15–20 různých objektů bez zmatku, což výrazně zlepšuje přesnost a spolehlivost generovaného obsahu.

Obrázky v ChatGPT nejen vynikají svou schopností vytvářet obrázky, ale také řeší „fatální“ slabinu jiných nástrojů umělé inteligence pro generování obrázků, kterou je zobrazování písma a textu uvnitř obrázku. Mnoho obrázků obsahujících text se ve skutečnosti zobrazuje přesně, takže je obtížnější rozlišit mezi falešným a skutečným obrázkem.

Nevýhodou tohoto nástroje je, že generování obrázků trvá déle, ale je to považováno za rozumné, protože ke zpoždění dochází, protože kvalitní obrázky, přesné detaily a shoda s popisem uživatele vždy vyžadují trpělivost. Výzkumný tým uvedl, že problém se zpožděním bude v budoucnu vyřešen.

Mnoho obav ohledně možnosti kombinování fotografií

Kromě zábavy v počátečním zážitku, který ChatGPT a OpenAI uživatelům přinášejí, se do popředí opět dostává otázka informační bezpečnosti, soukromí a také rizika zneužití. „V blízké budoucnosti nebudou obrázky, které vidíte online, nutně skutečné,“ vyjádřil uživatel Facebooku ve Vietnamu obavy, když by mohl požádat ChatGPT o vytvoření zcela neskutečných obrázků, které ale budou vypadat stejně reálně jako fotografie, například fotografie herce a bývalého wrestlera Dwaynea Johnsona (The Rock) propagujícího značku žvýkaček, nebo obrázek kočky z kalika sedící na sporáku, který vypadá přesně jako fotografie.

Díky podrobným příkazům mohou uživatelé vytvářet překvapivé výsledky, aniž by potřebovali hluboké znalosti o používání tradičních nástrojů pro úpravu fotografií.

Mnoho lidí dokonce vyzkoušelo „striptýzové“ schopnosti nového nástroje. TN ( Hanoj ) uvedl, že použil modelovou fotografii z internetu, aby požádal ChatGPT o převlečení, jak bylo požadováno, a téměř všechny příkazy byly splněny s vysokou přesností. „Přesto se několikrát vyskytlo odmítnutí, zejména kvůli porušení zásad systému týkajících se vytváření obrázků chráněných autorskými právy nebo příliš sexy obsahu,“ sdělil TN.

V testech Thanh Niena odmítl ChatGPT vytvářet obrázky související se slavnými nebo autorsky chráněnými postavami v reálném světě, filmech a příbězích. „Nemohu vytvořit požadovaný obrázek, protože referenční obrázek, který jste odeslali, jasně ukazuje postavu Doktora Strangeho – postavu Marvelu chráněnou autorskými právy, a to porušuje aktuální zásady pro obsah,“ odpověděl systém, když byl požádán o vytvoření obrázku Doktora Strangeho, jak sedí... a pije ledový čaj ve Vietnamu.

Jackie Shannon, vedoucí oddělení multimodálních produktů ve společnosti ChatGPT, potvrdila, že obrázky v ChatGPT mají silnou ochranu proti deepfake, pornografickému nebo podvodnému obsahu. Generované obrázky budou integrovat standardní metadata C2PA, aby byly označeny jako produkty umělé inteligence, ale k jejich kontrole budou potřebovat samostatné nástroje.

Stále se však nachází mnoho lidí, kteří úspěšně „ohýbají zákon“ a používají obrázky slavných osobností k vkládání pro zábavné účely. Například obrázek generálního ředitele Tima Cooka, jak drží telefon Samsung místo iPhonu, nebo obrázek herce Roberta Downeyho Jr. žvýká zeleninový bonbón, nebo obrázek Cristiana Ronalda, jak bojuje o míč s Lionelem Messim v malé uličce ve Vietnamu před mnoha lidmi...

Zdroj: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm