논픽션 서적 출판사들에게 적색 경보가 발령되었습니다.

삽화 이미지. 출처: 뉴욕 매거진.

스티븐 로젠바움은 ChatGPT가 출시될 무렵인 2022년에 '진실의 미래: AI가 현실을 어떻게 재편하는가'라는 책을 쓰기 시작했습니다.

지난 5월, 뉴욕 타임스는 로젠바움이 자신의 책에 출처가 불분명하거나 날조된 인용문을 6개 이상 포함시켰다고 보도했습니다.

미디어 사업가인 로젠바움은 이전에 연구, 집필 및 편집 과정에서 AI 도구를 사용했음을 인정한 바 있습니다. 그러나 타임스의 이번 조사로 로젠바움과 그의 출판사인 사이먼 앤 슈스터는 곤란한 상황에 처하게 되었습니다.

출판사들은 AI가 생성한 가짜 뉴스에 대해 무력하다.

현재 인공지능(AI) 생성 콘텐츠의 확산으로 인해 논픽션 출판 업계가 특히 취약해지고 있습니다. 이는 논픽션 출판계가 오랫동안 사실 확인과 검증을 소홀히 해왔기 때문입니다.

크노프 출판사의 마케팅 및 홍보 담당 이사인 폴 보가즈는 "업계 외부 사람들은 계약상 출판사가 사실 확인을 할 의무가 없다는 사실을 이해하지 못한다"고 말했다.

실제로 사실 확인 작업은 매우 비용이 많이 듭니다. 외부 사실 확인 전문가를 고용하는 데는 책 한 권당 7,000달러에서 10,000달러 이상이 들 수 있으며, 책의 분량에 따라 그 이상이 추가될 수도 있습니다.

한 주요 출판사의 논픽션 수석 편집자는 "작년에 제가 편집하던 책들에서 많은 오류를 발견해서 사실 확인 문제를 제기했습니다. 하지만 '출판사는 사실 확인이나 독립적인 사실 확인 기관 고용에 대한 책임이 없습니다. 만약 그렇게 한다면 사실 확인에 대한 책임이 저희에게 전가될 것입니다.'라는 답변을 들었습니다."라고 말했습니다.

저자들이 자신의 책 내용을 직접 검증하는 데 큰돈을 쓸 가능성은 낮지만, 출판 업계는 아직 해결책을 찾지 못했다. 문학 에이전트인 알리아 한나 하비브는 "정립된 시스템이 없다"고 말했다.

관심 있을 수도 있어요

후에 왕립공원 도심 지역 주민들에게 기정사실을 제시하지 마십시오.후에시 비다동에 위치한 로열파크 도심 지역에 수많은 전기차 충전소와 배터리 교환소가 설치되면서 많은 논란이 일고 있습니다. 이는 단순한 친환경 교통 인프라 구축을 넘어, 도시 계획, 투명성, 그리고 주민들의 정보 접근권에 대한 우려를 불러일으키고 있습니다.

"모든 출판 계약에는 이 문제에 대한 논의가 포함되지만, 아무도 답을 내놓지 못하는 것 같습니다."라고 한 대형 출판사 편집자가 말했다.

인공지능과 관련하여 작가를 위한 규정은 없습니다.

저자의 관점에서 로젠바움은 다음과 같이 주장합니다. "오늘날 컴퓨터 앞에 앉아 글을 쓰는 모든 작가는 장편이든 단편이든 잡지 기사든, 작업 속도와 관계없이 어떤 방식으로든 AI를 사용하고 있습니다. 그 이유는 AI가 매력적이기도 하고, 매우 유용하기 때문이기도 합니다."

책 《진실의 미래》가 저자와 함께 논란을 불러일으키고 있다. 사진: 타임스 나우.

많은 저자들이 이러한 견해에 반대하지만, 그들의 의견 차이는 인공지능 사용에 대한 공통된 산업 표준이 존재하지 않음을 보여줍니다.

문학 에이전시 에비타스의 공동 창립자인 토드 슈스터는 이렇게 말했습니다. "많은 작가들이 처음에는 선의로 AI를 사용합니다. AI에 의존해서 자신의 작품이라고 주장하고 싶지 않기 때문입니다. 그들은 단지 책의 구조와 개요를 구상하거나 조사하는 데에만 기술을 활용합니다. 그러다 보면 작가들은 AI에 빠져들게 됩니다. AI에 얼마나 의존했는지 부인하거나 숨기려 하고, 자신도 모르는 사이에 AI에 도움을 받는 것을 넘어 원고의 내용을 직접 만들어내는 데까지 의존하게 됩니다."

한편 하비브는 "현재 대부분의 출판사들은 AI 문제에 관한 구체적인 계약 조항을 두고 있지 않다"고 말했다.

"인공지능이 절대로 관여해서는 안 되는 콘텐츠에 대해 더 심도 있는 논의가 필요하다고 항상 생각해 왔습니다. 하지만 아무도 그 문제에 대해 이야기하려 하지 않는 것 같습니다."라고 한 주요 출판사 편집자가 말했습니다.

다른 출판사의 한 편집자는 자사에서 저자들에게 특정 방식으로 AI를 사용하지 말라는 지침을 보내지만, "법적 구속력은 없다"며 "책이 편집 단계에 들어가면 기본적으로는 신뢰의 문제"라고 말했다.

게르너트 출판사의 문학 담당자인 크리스 패리스-램은 "인공지능을 이용해 텍스트를 전부 또는 일부 생성하는 작품은 대리하지 않는다는 성명을 발표하는 방안을 논의해 왔다"면서도 "원고 제출 시 면책 동의서에 서명하도록 요구하지는 않는다"고 밝혔습니다.

인공지능 기반 탐지 도구는 시간이 지남에 따라 더욱 효과적이 되었지만, 여전히 완전히 신뢰할 수는 없습니다.

관심 있을 수도 있어요

후에(Hue)의 로열 파크 도심 지역: 주민들에게 기정사실을 제시하지 마십시오.후에시 비다동에 위치한 로열파크 도심 지역에 수많은 전기차 충전소와 배터리 교환소가 설치되면서 많은 논란이 일고 있습니다. 이는 단순한 친환경 교통 인프라 구축을 넘어, 도시 계획, 투명성, 그리고 주민들의 정보 접근권에 대한 우려를 불러일으키고 있습니다.

머지않아 출판 업계 전체는 인공지능이 만들어내는 허위 콘텐츠 문제를 해결할 마땅한 해법을 찾지 못할 것으로 보이며, 특히 관련 당사자들이 서로에게 책임을 전가하는 상황이 더욱 심각해질 전망입니다.

출처: https://znews.vn/canh-bao-do-voi-cac-nha-xuat-ban-sach-phi-hu-cau-post1656852.html