Röd varning för utgivare av fackböcker.

Spridningen av AI-innehåll gör facklitteraturförlagsbranschen särskilt sårbar, enligt New York Magazine.

Illustrativ bild. Källa: New York Magazine.

Steven Rosenbaum började skriva boken The Future of Truth: How AI Reshapes Reality år 2022, ungefär samtidigt som ChatGPT släpptes.

I maj rapporterade New York Times att Rosenbaum hade inkluderat mer än ett halvdussin felaktigt hämtade eller påhittade citat i boken.

Rosenbaum, en medieentreprenör, hade tidigare erkänt att han använde AI-verktyg i sin forskning, sitt skrivande och sin redigering. Times utredning har dock generat Rosenbaum och hans utgivare, Simon & Schuster.

Utgivare är maktlösa mot AI-genererade falska nyheter.

För närvarande gör spridningen av AI-genererat innehåll facklitteraturförlagsbranschen särskilt sårbar. Detta beror på att facklitteraturförlagsbranschen länge har försummat faktakontroll och verifiering.

"Folk utanför branschen förstår inte att förlag, enligt kontrakt, inte är skyldiga att faktagranska", säger Paul Bogaards, marknads- och promotionchef på Knopf förlag.

I verkligheten är faktagranskning mycket dyrt. Att anlita externa faktagranskare kan kosta allt från 7 000 till 10 000 dollar per bok, eller ännu mer beroende på bokens längd.

En erfaren redaktör för facklitteratur på ett stort förlag sa: ”Jag tog upp frågan om faktagranskning förra året eftersom jag upptäckte många fel i de böcker jag redigerade. Jag fick dock höra att ’förlaget inte ansvarar för faktagranskning eller att anlita oberoende faktagranskare, för om de gjorde det skulle ansvaret för faktagranskningen överföras till oss.’”

Även om författare sannolikt inte kommer att spendera en stor summa pengar på att självverifiera sina böcker, har förlagsbranschen ännu inte hittat en lösning. "Vi har inga etablerade system", säger Alia Hanna Habib, en litterär agent.

”Varje förlagskontrakt innebär en diskussion om den här frågan. Men ingen verkar ha ett svar”, sa en redaktör på ett stort förlag.

Det finns inga regler för författare gällande AI.

Ur författarens perspektiv hävdar Rosenbaum: ”Varje författare som arbetar idag, sitter framför en dator, oavsett om de skriver långa texter, korta texter eller artiklar för tidskrifter, och oavsett arbetstakt, använder man AI på ett eller annat sätt. En del av anledningen är att det är tilltalande, och en annan del är att det är väldigt användbart.”

Boken *Sanningens framtid* orsakar kontrovers, tillsammans med dess författare. Foto: Times Now.

Medan många skribenter avvisar denna uppfattning, visar deras oenighet att det inte finns någon gemensam branschstandard för användningen av AI.

Todd Shuster, medgrundare av litteraturagenturen Aevitas, sa: ”Många författare använder AI inledningsvis i god tro eftersom de inte vill förlita sig på AI och sedan gör de anspråk på att verket är sitt eget. De använder bara tekniken för att undersöka eller brainstorma bokens struktur och disposition. Och sedan blir författarna fast. De förnekar eller döljer i vilken utsträckning de har förlitat sig på AI. Och innan de vet ordet av har de vänt sig till AI inte bara för att få hjälp, utan för att faktiskt skapa innehållet till sitt manuskript.”

Samtidigt sa Habib: "För närvarande har de flesta utgivare inga specifika avtalsklausuler gällande AI-frågor."

”Jag har alltid känt att det behövs en mer djupgående diskussion om vilket innehåll AI absolut inte bör vara involverad i. Men ingen verkar vara villig att diskutera det”, sa en redaktör på ett stort förlag.

En redaktör på ett annat förlag sa att deras företag skickar författare en riktlinje om att inte använda AI på vissa sätt, ”men det är inte juridiskt bindande. När boken väl är i redaktionsstadiet handlar det i princip bara om förtroende”, sa redaktören.

På Gernert uppgav litteraturrepresentanten Chris Parris-Lamb att de har ”diskuterat att utfärda ett uttalande om att de inte representerar några verk som använder AI för att generera text, helt eller delvis. Vi kräver dock inte att folk skriver under ett avstående när de skickar in sina manuskript.”

AI-detekteringsverktyg har blivit mer effektiva med åren, men de är fortfarande inte helt tillförlitliga.

Inom en snar framtid verkar hela förlagsbranschen oförmögen att hitta en hållbar lösning för att hantera vilseledande innehåll som skapats av AI, särskilt eftersom de inblandade parterna fortsätter att flytta ansvaret över på varandra.

Källa: https://znews.vn/canh-bao-do-voi-cac-nha-xuat-ban-sach-phi-hu-cau-post1656852.html