 |
イメージ画像。出典：ニューヨーク・マガジン。 |
スティーブン・ローゼンバウムは、ChatGPTがリリースされた頃の2022年に、 『真実の未来：AIはいかに現実を再構築するか』という本の執筆を開始した。
5月、ニューヨーク・タイムズ紙は、ローゼンバウム氏が著書の中で、出典を誤認した、あるいは捏造した引用を6つ以上も掲載していたと報じた。
メディア起業家のローゼンバウム氏は以前、調査、執筆、編集においてAIツールを使用していることを認めていた。しかし、今回のニューヨーク・タイムズの調査によって、ローゼンバウム氏と彼の出版社であるサイモン＆シュスター社は窮地に立たされた。
出版社はAIが生成する偽ニュースに対して無力だ。
現在、AI生成コンテンツの急増により、ノンフィクション出版業界は特に脆弱な立場に置かれている。これは、ノンフィクション出版業界が長年にわたり事実確認や検証を怠ってきたためである。
「業界関係者以外の人々は、契約上、出版社には事実確認を行う義務がないことを理解していない」と、クノップ出版社のマーケティング・プロモーション担当エグゼクティブディレクター、ポール・ボガーズ氏は述べた。
実際には、事実確認は非常に費用がかかる。外部の事実確認担当者を雇う場合、書籍1冊あたり7,000ドルから10,000ドル、書籍の長さによってはそれ以上の費用がかかることもある。
大手出版社のノンフィクション部門のベテラン編集者は、「昨年、編集していた書籍に多くの誤りを発見したため、事実確認の問題を提起しました。しかし、『出版社は事実確認や独立した事実確認者を雇う責任はない。もし出版社がそうすれば、事実確認の責任は我々に移ってしまうからだ』と言われました」と語った。
著者が自分の本の真偽を自己検証するために多額の費用をかける可能性は低いものの、出版業界はまだ解決策を見出せていない。「確立されたシステムは存在しない」と、文芸エージェントのアリア・ハンナ・ハビブ氏は語る。
「出版契約を結ぶ際には必ずこの問題について話し合うのですが、誰も明確な答えを持っていないようです」と、ある大手出版社の編集者は語った。
AIに関する著者向けの規制は存在しない。
著者の視点から、ローゼンバウムは次のように述べている。「今日、コンピューターの前に座って執筆活動をしている作家は、長編記事、短編記事、雑誌記事など、執筆するジャンルや執筆ペースに関わらず、何らかの形でAIを利用している。その理由の一つはAIが魅力的だからであり、もう一つは非常に有用だからだ。」
 |
書籍『真実の未来』とその著者が物議を醸している。写真：タイムズ・ナウ。 |
多くの著者はこの見解を否定しているが、彼らの意見の相違は、AIの利用に関して業界共通の基準が存在しないことを示している。
文学エージェンシーAevitasの共同創設者であるトッド・シュスター氏は、「多くの著者は、AIに頼り切って自分の作品だと主張することを避けたいという思いから、最初は善意でAIを利用します。彼らは、本の構成や概要を調査またはブレインストーミングするためにのみAIを使用するのです。ところが、著者は次第にAIにのめり込んでいきます。AIに頼った程度を否定したり隠したりし、気づけば、単なる補助手段としてだけでなく、原稿の内容を実際に作成するためにAIに頼るようになってしまうのです」と述べています。
一方、ハビブ氏は「現在、ほとんどの出版社はAIに関する具体的な契約条項を設けていない」と述べた。
「AIが絶対に関与すべきでないコンテンツについて、もっと掘り下げた議論が必要だと常々感じていました。しかし、誰もその議論をしたがらないようです」と、ある大手出版社の編集者は語った。
別の出版社の編集者は、自社では著者に対し、特定の方法でAIを使用しないようガイドラインを送っているが、「法的拘束力はない。書籍が編集段階に入ると、基本的には信頼関係の問題になる」と述べた。
ゲルナート社の文学担当者であるクリス・パリス＝ラム氏は、「AIを用いてテキストを生成した作品（全部または一部を問わず）は一切取り扱っていないという声明を発表することを検討した。ただし、原稿提出時に免責同意書への署名は求めていない」と述べた。
AIによる検出ツールは年々効果を高めてきたが、依然として完全に信頼できるとは言えない。
近い将来、出版業界全体は、AIによって作成された誤解を招くコンテンツに対処するための有効な解決策を見出すことができないように思われる。特に、関係者同士が責任をなすりつけ合っている状況ではなおさらだ。
出典：https://znews.vn/canh-bao-do-voi-cac-nha-xuat-ban-sach-phi-hu-cau-post1656852.html
コメント (0)