Červený varovný signál pro vydavatele literatury faktu.

Podle časopisu New York Magazine je šíření obsahu s umělou inteligencí obzvláště zranitelné pro vydávání literatury faktu.

Ilustrační obrázek. Zdroj: New York Magazine.

Steven Rosenbaum začal psát knihu Budoucnost pravdy: Jak umělá inteligence přetváří realitu v roce 2022, přibližně v době vydání ChatGPT.

V květnu New York Times informoval, že Rosenbaum do knihy zahrnul více než půl tuctu citátů s nesprávnými zdroji nebo vymyšlených citací.

Rosenbaum, mediální podnikatel, dříve přiznal, že ve svém výzkumu, psaní a editaci používá nástroje umělé inteligence. Vyšetřování Times však Rosenbauma i jeho vydavatele Simon & Schuster uvedlo do rozpaků.

Vydavatelé jsou bezmocní proti falešným zprávám generovaným umělou inteligencí.

Šíření obsahu generovaného umělou inteligencí v současnosti činí odvětví vydávání literatury faktu obzvláště zranitelným. Je to proto, že svět vydávání literatury faktu dlouhodobě zanedbával ověřování a verifikaci faktů.

„Lidé mimo obor nechápou, že vydavatelé nejsou na základě smlouvy povinni ověřovat fakta,“ řekl Paul Bogaards, výkonný ředitel marketingu a propagace v nakladatelství Knopf.

Ve skutečnosti je ověřování faktů velmi drahé. Najímání externích ověřovatelů faktů může stát od 7 000 do 10 000 dolarů za knihu, nebo i více v závislosti na délce knihy.

Vedoucí redaktor literatury faktu ve velkém nakladatelství řekl: „Minulý rok jsem nastolil otázku ověřování faktů, protože jsem v knihách, které jsem editoval, objevil spoustu chyb. Bylo mi však řečeno, že ‚vydavatel není zodpovědný za ověřování faktů ani za najímání nezávislých ověřovatelů faktů, protože kdyby to udělali, odpovědnost za ověřování faktů by se přenesla na nás.‘“

I když je nepravděpodobné, že by autoři utratili velké částky za samoověřování svých knih, nakladatelský průmysl dosud nenašel řešení. „Nemáme žádné zavedené systémy,“ řekla literární agentka Alia Hanna Habibová.

„Každá vydavatelská smlouva zahrnuje diskusi o této otázce. Ale zdá se, že nikdo nemá odpověď,“ řekl redaktor velkého nakladatelství.

Pro autory neexistují žádná pravidla týkající se umělé inteligence.

Z pohledu autora Rosenbaum tvrdí: „Každý spisovatel, který dnes pracuje a sedí před počítačem, ať už píše dlouhé texty, krátké texty nebo články do časopisů, a bez ohledu na vaše pracovní tempo, používá umělou inteligenci tak či onak. Částečně je to proto, že je atraktivní, a částečně proto, že je velmi užitečná.“

Kniha *Budoucnost pravdy* vyvolává kontroverze, stejně jako její autor. Foto: Times Now.

Ačkoli mnoho autorů tento názor odmítá, jejich nesouhlas ukazuje, že neexistuje žádný společný průmyslový standard pro používání umělé inteligence.

Todd Shuster, spoluzakladatel literární agentury Aevitas, řekl: „Mnoho autorů zpočátku používá umělou inteligenci v dobré víře, protože se na ni nechtějí spoléhat, a pak si dílo nárokují jako své. Technologii používají pouze k výzkumu nebo brainstormingu struktury a osnovy knihy. A pak se autoři nechají unést. Popírají nebo zatajují, do jaké míry se na umělou inteligenci spoléhali. A než se nadějí, obrátí se na umělou inteligenci nejen pro pomoc, ale i pro skutečné vytvoření obsahu pro svůj rukopis.“

Habib mezitím řekl: „V současné době většina vydavatelů nemá konkrétní smluvní doložky týkající se otázek umělé inteligence.“

„Vždycky jsem měl pocit, že je potřeba vést hlubší diskusi o tom, do jakého obsahu by se umělá inteligence absolutně neměla zapojovat. Ale zdá se, že nikdo není ochotný o tom diskutovat,“ řekl redaktor jednoho velkého nakladatelství.

Redaktor v jiném nakladatelství uvedl, že jejich společnost zasílá autorům pokyny, jak určitým způsobem nepoužívat umělou inteligenci, „ale nejsou právně závazné. Jakmile je kniha v redakční fázi, jde v podstatě jen o důvěru,“ řekl redaktor.

Literární zástupce Chris Parris-Lamb v Gernertu uvedl, že „diskutovali o vydání prohlášení, že nezastupují žádná díla, která využívají umělou inteligenci k generování textu, ať už celá nebo zčásti. Nevyžadujeme však, aby lidé při odevzdávání rukopisů podepisovali prohlášení o zřeknutí se odpovědnosti.“

Nástroje pro detekci pomocí umělé inteligence se v průběhu let staly efektivnějšími, ale stále nejsou zcela spolehlivé.

V blízké budoucnosti se zdá, že celý vydavatelský průmysl není schopen najít schůdné řešení pro řešení zavádějícího obsahu vytvořeného umělou inteligencí, zejména proto, že zúčastněné strany nadále přesouvají odpovědnost na sebe navzájem.

Zdroj: https://znews.vn/canh-bao-do-voi-cac-nha-xuat-ban-sach-phi-hu-cau-post1656852.html