אזהרה אדומה למו"לים של ספרי עיון.

התפשטות תוכן מבוסס בינה מלאכותית הופכת את תעשיית ההוצאה לאור של ספרי עיון לפגיעה במיוחד, על פי מגזין ניו יורק.

תמונה להמחשה. מקור: מגזין ניו יורק.

סטיבן רוזנבאום החל לכתוב את הספר "עתיד האמת: כיצד בינה מלאכותית מעצבת מחדש את המציאות" בשנת 2022, בערך בזמן ש-ChatGPT יצא לאור.

בחודש מאי דיווח הניו יורק טיימס כי רוזנבאום כלל בספר יותר מחצי תריסר ציטוטים ממקורות שגויים או מפוברקים.

רוזנבאום, יזם מדיה, הודה בעבר כי השתמש בכלי בינה מלאכותית במחקר, כתיבה ועריכה שלו. עם זאת, חקירת הטיימס הביכה את רוזנבאום ואת המו"ל שלו, סיימון ושוסטר.

מו"לים חסרי אונים מול חדשות מזויפות שנוצרות על ידי בינה מלאכותית.

כיום, התפשטות התוכן שנוצר על ידי בינה מלאכותית הופכת את תעשיית הוצאת הספרים העיון לפגיעה במיוחד. הסיבה לכך היא שעולם הוצאת הספרים העיון הזניח זה מכבר בדיקת עובדות ואימות.

"אנשים מחוץ לתעשייה לא מבינים שבמסגרת חוזה, מו"לים אינם מחויבים לבדוק עובדות", אמר פול בוגארדס, מנהל השיווק והקידום בפועל בהוצאת קנופף.

במציאות, בדיקת עובדות היא יקרה מאוד. שכירת בודקי עובדות חיצוניים יכולה לעלות בין 7,000 ל-10,000 דולר לספר, או אפילו יותר, תלוי לאורך הספר.

עורך בכיר בתחום עיון בהוצאה לאור גדולה אמר, "העליתי את נושא בדיקת העובדות בשנה שעברה משום שגיליתי הרבה שגיאות בספרים שערכתי. עם זאת, נאמר לי ש'ההוצאה לאור אינה אחראית לבדיקת עובדות או שכירת בודקי עובדות עצמאיים, כי אם כן, האחריות לבדיקת העובדות תועבר אלינו'".

בעוד שסופרים לא צפויים להוציא סכום כסף גדול כדי לאמת את ספריהם באופן עצמאי, תעשיית ההוצאה לאור עדיין לא מצאה פתרון. "אין לנו מערכות מבוססות", אמרה אליה חנא חביב, סוכנת ספרותית.

"כל חוזה הוצאה לאור כרוך בדיון בנושא הזה. אבל נראה שאין לאף אחד תשובה", אמר עורך בהוצאה לאור גדולה.

אין תקנות לכותבים בנוגע לבינה מלאכותית.

מנקודת מבטו של המחבר, רוזנבאום טוען: "כל סופר שעובד כיום, יושב מול מחשב, בין אם הוא כותב מאמרים ארוכים, קצרים או מאמרים למגזינים, ובלי קשר לקצב העבודה שלו, הוא משתמש בבינה מלאכותית בצורה כזו או אחרת. חלק מהסיבה לכך היא שזה מושך, וחלק אחר הוא שזה מאוד שימושי."

הספר *עתיד האמת* מעורר מחלוקת, יחד עם מחברו. צילום: טיימס עכשיו.

בעוד שכותבים רבים דוחים דעה זו, חוסר הסכמה ביניהם מוכיח כי אין סטנדרט משותף בתעשייה לשימוש בבינה מלאכותית.

טוד שוסטר, מייסד שותף של סוכנות הספרות Aevitas, אמר: "סופרים רבים משתמשים בתחילה בבינה מלאכותית בתום לב משום שהם לא רוצים להסתמך על בינה מלאכותית ואז טוענים שהיצירה שייכת להם. הם משתמשים בטכנולוגיה רק ​​כדי לחקור או לחשוב על מבנה וקווי המתאר של הספר. ואז, הסופרים מתמכרים. הם מכחישים או מסתירים את המידה שבה הם הסתמכו על בינה מלאכותית. ולפני שהם יודעים זאת, הם פונים לבינה מלאכותית לא רק לסיוע, אלא כדי ליצור בפועל את התוכן לכתב היד שלהם."

בינתיים, אמר חביב, "כיום, לרוב המוציאים לאור אין סעיפים חוזיים ספציפיים בנוגע לסוגיות של בינה מלאכותית".

"תמיד הרגשתי שצריך דיון מעמיק יותר לגבי באיזה תוכן בינה מלאכותית אסור בכלל להיות מעורבת. אבל נראה שאף אחד לא מוכן לדון בזה", אמר עורך בהוצאה לאור גדולה.

עורך בהוצאה לאור אחרת אמר שהחברה שלהם שולחת לסופרים הנחיות לגבי אי שימוש בבינה מלאכותית בדרכים מסוימות, "אבל זה לא מחייב מבחינה משפטית. ברגע שהספר נמצא בשלב העריכה, זה בעצם רק עניין של אמון", אמר העורך.

ב-Gernert, נציג הספרות כריס פאריס-לאמב הצהיר כי הם "דנו בהוצאת הצהרה לפיה הם אינם מייצגים יצירות המשתמשות בבינה מלאכותית ליצירת טקסט, במלואו או בחלקו. עם זאת, איננו דורשים מאנשים לחתום על כתב ויתור בעת הגשת כתבי היד שלהם".

כלי זיהוי מבוססי בינה מלאכותית הפכו יעילים יותר עם השנים, אך הם עדיין לא אמינים לחלוטין.

בעתיד הקרוב, נראה שכל תעשיית ההוצאה לאור אינה מסוגלת למצוא פתרון בר-קיימא להתמודדות עם תוכן מטעה שנוצר על ידי בינה מלאכותית, במיוחד כאשר הצדדים המעורבים ממשיכים להעביר את האחריות זה לזה.

מקור: https://znews.vn/canh-bao-do-voi-cac-nha-xuat-ban-sach-phi-hu-cau-post1656852.html