ניקוי זבל של בינה מלאכותית באינטרנט.

VTV.vn - "זבל של בינה מלאכותית" מציב אתגר חדש לילדים, שכן תוכן זול, חוזר על עצמו וממכר מוגבר על ידי אלגוריתמים בפלטפורמות דיגיטליות.

שלט אזהרה ובו רובוט והמילים "AI Slop". (צילום: רויטרס)

כאשר הורים רבים מתלוננים שילדיהם יכולים לשבת מול מסכי מחשב במשך שעות אך מתקשים להתרכז בלימודים, הם מבחינים ביותר מסתם שינוי בהרגלי הבידור. מאחורי הסרטונים הקצרים והמהירים, הצבעים התוססים והצלילים המעוררים התמידיים מסתתרת מערכת אקולוגית דיגיטלית שלמה שנועדה לשמור על מעורבות הצופים זמן רב ככל האפשר. ארגונים רפואיים ובריאות הציבור רואים כעת את הנושא באותו אור: הסיפור כבר לא עוסק ב"כמה שעות מול מסך", אלא באיכות התוכן, בהקשר השימוש ובמנגנוני שימור התוכן של הפלטפורמה.

בהקשר זה, מונח חדש מופיע יותר ויותר בוויכוח הבינלאומי: "AI slop", שמתורגם באופן חופשי כ"זבל של בינה מלאכותית". הכוונה היא לתוכן המיוצר המוני באמצעות כלי בינה מלאכותית, שהוא זול, מהיר, ונותן עדיפות לכמות, מעורבות צופים והכנסות מפרסום על פני ערך חינוכי או עקביות. באופן משמעותי, הדיון הנוכחי אינו מכוון להכחשת הבינה המלאכותית ככלי יצירתי, אלא מתמקד בנושא ספציפי מאוד: כאשר תוכן זול, חוזר על עצמו ושטחי מוגבר על ידי אלגוריתמים, מי יישא באחריות להשפעתו על קבוצות המשתמשים הפגיעות ביותר?

הנושא החריף באפריל 2026, כאשר למעלה מ-200 ארגונים ומומחים שלחו מכתב בו קרא לגוגל וליוטיוב לנקוט בפעולה החלטית יותר כדי להגן על ילדים. הדרישות היו ברורות למדי: לתייג את כל תוכן הבינה המלאכותית, לאסור תוכן בינה מלאכותית ב-YouTube Kids, לחסום המלצות לאנשים מתחת לגיל 18, להוסיף כפתור בקרת הורים כדי להשבית תוכן בינה מלאכותית ולהפסיק להשקיע בהפקת וידאו בינה מלאכותית לילדים. במכתב הפתוח הזה, טענה Fairplay כי ערוצים מובילים המופעלים על ידי בינה מלאכותית המכוונים לילדים צעירים יצרו הכנסות של למעלה מ-4.25 מיליון דולר מדי שנה. מאחורי נתונים אלה מסתתר היגיון עסקי מוכר מתקופת הפלטפורמות: מה שזול, מהיר להפקה ושומר על הצופים מרותקים לאורך זמן, מתעצם בקלות.

הלוגו של גוגל מוצג בטלפון, כשמאחוריו הלוגו של יוטיוב על מסך מחשב באנקרה, טורקיה, ב-2 ביולי 2025. (תמונה של AFP).jpg

מה שמדאיג הורים אינו רק כמות התוכן. הבעיה היא שקשה להימנע ממנו. Fairplay מצטטת מחקר של העיתונות הבינלאומית המראה כי לאחר צפייה בתוכניות פופולריות לגיל הרך כמו Cocomelon, כ-40% מהסרטונים הבאים המוצעים ביוטיוב מכילים אלמנטים של בינה מלאכותית. מחקר נוסף שצוטט על ידי העיתונות מראה שכ-21% מהסרטונים הקצרים המוצעים לחשבונות משתמשים חדשים הם רפש של בינה מלאכותית; 278 ערוצים שנוצרו כולם על ידי בינה מלאכותית צברו כ-63 מיליארד צפיות, 221 מיליון מנויים והכנסות שנתיות מוערכות של 117 מיליון דולר. מנקודת מבט של עסקי תוכן, זו כבר לא "נישה" אלא הפכה לקו ייצור רווחי באמת.

אבל מדוע מומחים מקדישים תשומת לב מיוחדת לילדים? ראשית, ראיות קיימות מצביעות על כך שרוב הסרטונים שילדים צעירים צופים בהם בפלטפורמות פתוחות אינם בהכרח תוכן חינוכי איכותי. Common Sense Media מציינת שרק כ-5% מהסרטונים שצופים בהם ילדים בני 8 ומטה הם בעלי ערך חינוכי גבוה, בעוד של-75% יש ערך חינוכי מועט או ללא ערך חינוכי כלל. הדו"ח מראה גם ש-30% מהסרטונים מכילים אלימות פיזית קלה לפחות, ו-20% מכילים אלימות בין-אישית כמו הקנטה, בריונות או התנהגות מניפולטיבית. משמעות הדבר היא שגם לפני "גל הבינה המלאכותית", סביבת הווידאו לילדים בפלטפורמות פתוחות כבר הייתה זקוקה לניטור צמוד יותר. בינה מלאכותית רק הופכת את הפקת תוכן מסוג זה לזולה, מהירה ונרחבת יותר.

אפליקציית YouTube Kids מוצגת על מסך טלפון בקרקוב, פולין, ב-7 ביוני 2025. (צילום: NurPhoto, AFP).jpg

נכון לעכשיו, תגובת יוטיוב לא הרגיעה לחלוטין את הצופים. הפלטפורמה דורשת גילוי נאות של תוכן שנערך או נערך שנראה אותנטי, אך סרטוני אנימציה רבים לילדים נופלים מחוץ לדרישה זו. WIRED ציינה כי סרטוני אנימציה המכוונים לילדים צעירים עלולים לחמוק מכלל התיוג של דיפפייק מכיוון שהם נחשבים "לא מציאותיים", למרות שזהו בדיוק סוג התוכן שחודר עמוק לחוויותיהם של ילדים. זו גם הסיבה שתומכי התוכנית טוענים כי תיוג לבדו אינו מספיק, במיוחד כאשר ילדים צעירים עשויים אפילו לא לדעת לקרוא כדי להבין את התיאורים. עם זאת, יש לציין כי יוטיוב הצהירה בפומבי כי טיפול בבזבוז של בינה מלאכותית הוא בראש סדר העדיפויות לשנת 2026, וגם מוסיפה כלי ניטור למשפחות.

במבט על התמונה הגדולה, "ניקוי באמצעות בינה מלאכותית" אינו מיועד רק לילדים. העולם המקוון חושף מציאות שונה: נזק דיגיטלי יכול בהחלט להתבטא בנזק ממשי. ארגון הבריאות העולמי/אירופה מדווח שכשישית מבני הנוער חוו בריונות מקוונת; יוניסף מציין כי למעלה משליש מהצעירים ב-30 מדינות אומרים שהם היו קורבנות של בריונות ברשת. עבור נשים ונערות, UN Women מדווחת כי בריונות ברשת נפוצה בין 16% ל-58%, בעוד שמחקרים בינלאומיים מצאו כי 58% מהנערות והנשים הצעירות חוות הטרדה מקוונת. מכיוון שבינה מלאכותית הופכת את יצירת תמונות, סרטונים ותוכן משמיץ מזויפים לזולים ומהירים יותר, סיכון זה עולה עוד יותר.

נער צופה בסרטון בטלפון שלו בצרפת, 3 בינואר 2026. (צילום: רויטרס).JPG

אז איך יש להבין "ניקוי באמצעות בינה מלאכותית"? אם אנחנו מבינים זאת כמחיקת כמה סרטונים פוגעניים בלבד, אנחנו רק מטפלים בסימפטומים. במציאות, אנחנו צריכים לנקות את כל ה"צינור" שמספק זבל למשתמשים: כללי תיוג ברורים יותר; עיצובים ברירת מחדל בטוחים יותר לילדים; הסתמכות מופחתת על אלגוריתמים שממטבים את זמן הצפייה; נתונים פתוחים למחקר עצמאי; ואילוץ פלטפורמות להגיב מהר יותר לתוכן מזיק. חוק השירותים הדיגיטליים האירופי הולך בכיוון זה על ידי דרישה מפלטפורמות גדולות להפחית את הסיכונים לקטינים, מתן אפשרות למשתמשים לבחור פידים שאינם מותאמים אישית, ואיסור פרסום ממוקד לילדים. בצד המשפחתי, יוטיוב הוסיפה גם מגבלות זמן לגלילה בסרטונים קצרים, תזכורות להפסקות ותזכורות לפני השינה עבור חשבונות בפיקוח; עבור חשבונות של ילדים צעירים, הורים יכולים להשתמש בבחירת תוכן או בדפדוף ידני בסרטונים.

עבור וייטנאם, יש לגשת לסוגיה זו מנקודת מבט זהירה יותר מאשר מבוהלת. לא כל תוכן המופעל על ידי בינה מלאכותית הוא "זבל". אבל כאשר פלטפורמות נותנות עדיפות לסיפוק מיידי על פני ערך לטווח ארוך, כאשר תוויות אזהרה אינן ברורות מספיק לילדים, וכאשר הורים רודפים כל הזמן אחרי כל סרטון וסרטון, הבעיה כבר אינה עניין של מיומנות אישית בלבד. זוהי בעיה של סטנדרטים של פלטפורמות, חינוך לבטיחות דיגיטלית בבתי ספר, אחריותן של חברות טכנולוגיה ואפילו מסגרת הרגולציה הציבורית.

בסביבה מקוונת רוויה יותר ויותר בתוכן מצטבר, ניקוי באמצעות בינה מלאכותית הוא אם כן יותר מניקוי של כמה מוצרים רעים; באופן מהותי יותר, זהו מאמץ לנקות את המנגנונים שהופכים את תשומת ליבם של אנשים, במיוחד של ילדים, למשאב מנוצל יתר על המידה.

מקור: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm