Strach z podvodů s realistickou schopností ChatGPT vytvářet fotografie

ChatGPT „kreslí jako fotka“

26. března se komunita uživatelů umělé inteligence (AI) po celém světě i ve Vietnamu rozpovídala, když OpenAI oficiálně vydala aplikaci Obrázky v ChatGPT, která se zaměřuje na možnosti vytváření obrázků pro uživatele inteligentního modelu společnosti. Dříve ChatGPT také umožňoval vytvářet obrázky, ale byl omezený a musel projít jiným známým modelem převodu textu na obrázek, DALL-E.

Schopnost nástroje převádět text na kresby a „kombinovat obrázky jako ve Photoshopu“ rychle upoutala pozornost. Mnozí uvedli, že kvalita výstupního obrazu je „úžasná“ a většina ji hodnotila jako „vynikající“ ve srovnání s populárními modely umělé inteligence na trhu.

ChatGPT vytváří realistické šálky kávy pomocí jednoduchého příkazu

Podle Gabriela Goha, vedoucího výzkumného týmu v OpenAI, je významným zlepšením schopností generování obrázků v ChatGPT s využitím modelu GPT-4o „vázání“ – termín pro míru, do jaké generátor obrázků s umělou inteligencí udržuje spojení mezi atributy a objekty. Pan Goh tvrdil, že GPT-4o dokáže přesně propojit atributy pro 15–20 různých objektů bez zmatku, což výrazně zlepšuje přesnost a spolehlivost generovaného obsahu.

Obrázky v ChatGPT nejen vynikají ve své schopnosti vytvářet obrázky, ale také řeší „fatální“ slabinu jiných nástrojů umělé inteligence pro generování obrázků, kterou je zobrazování písma a textu uvnitř obrázku. Mnoho obrázků obsahujících text se ve skutečnosti zobrazuje přesně, což ještě více ztěžuje rozlišení mezi falešným a skutečným obrázkem.

Nevýhodou tohoto nástroje je, že generování obrázků trvá déle, ale je to považováno za rozumné, protože ke zpoždění dochází, protože kvalitní obrázky, přesné detaily a shoda s popisem uživatele vždy vyžadují trpělivost. Výzkumný tým uvedl, že problém se zpožděním bude v budoucnu vyřešen.

Mnoho obav ohledně možnosti kombinování fotografií

Kromě zábavy v počátečním zážitku, který ChatGPT a OpenAI uživatelům přinášejí, se do popředí opět dostává otázka informační bezpečnosti, soukromí a také rizika zneužití. „V blízké budoucnosti nemusí být obrázky, které vidíte online, nutně skutečné,“ vyjádřil uživatel Facebooku ve Vietnamu obavy, když by mohl požádat ChatGPT o vytvoření zcela neskutečných obrázků, které vypadají stejně reálně jako fotografie, například fotografie herce a bývalého wrestlera Dwaynea Johnsona (The Rock) propagujícího značku žvýkaček, nebo fotografie kočky z kalika sedící na sporáku, která vypadá přesně jako fotografie.

Díky podrobným příkazům mohou uživatelé vytvářet překvapivé výsledky, aniž by potřebovali hluboké znalosti o používání tradičních nástrojů pro úpravu fotografií.

Mnoho lidí dokonce vyzkoušelo „striptýzové“ schopnosti nového nástroje. TN ( Hanoj ) uvedl, že použil modelovou fotografii pořízenou z internetu, aby požádal ChatGPT o převlečení, jak bylo požadováno, a téměř všechny objednávky byly splněny s vysokou přesností. „Přesto se vyskytla i nějaká odmítnutí, zejména kvůli porušení zásad systému týkajících se vytváření obrázků chráněných autorskými právy nebo příliš sexy obsahu,“ sdělil TN.

V testech Thanh Niena odmítl ChatGPT vytvářet obrázky související se slavnými nebo autorsky chráněnými postavami v reálném světě, filmech a příbězích. „Nemohu vytvořit požadovaný obrázek, protože referenční obrázek, který jste odeslali, jasně ukazuje postavu Doktora Strangeho – postavu Marvelu chráněnou autorskými právy, a to porušuje aktuální obsahové zásady,“ odpověděl systém, když byl požádán o vytvoření obrázku Doktora Strangeho, jak sedí... a pije ledový čaj ve Vietnamu.

Jackie Shannon, vedoucí oddělení multimodálních produktů ve společnosti ChatGPT, potvrdila, že obrázky v ChatGPT mají silnou ochranu proti deepfake, pornografickému nebo podvodnému obsahu. Generované obrázky budou integrovat standardní metadata C2PA, aby byly označeny jako produkty umělé inteligence, ale k jejich kontrole budou potřebovat samostatné nástroje.

Stále však existuje mnoho lidí, kteří úspěšně „ohýbají zákon“ a používají obrázky slavných osobností k zábavným účelům. Například obrázek generálního ředitele Tima Cooka, který drží telefon Samsung místo iPhonu, nebo obrázek herce Roberta Downeyho Jr. žvýkajícího zeleninový bonbón, nebo obrázek Cristiana Ronalda, jak si hraje o míč s Lionelem Messim v malé uličce ve Vietnamu před mnoha lidmi...

Zdroj: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm