تنظيف المحتوى غير المرغوب فيه الناتج عن الذكاء الاصطناعي على الإنترنت.

VTV.vn - "المحتوى الرخيص والمتكرر والمسبب للإدمان الذي يتم تضخيمه بواسطة الخوارزميات على المنصات الرقمية يشكل تحديًا جديدًا للأطفال.

لافتة تحذيرية عليها صورة روبوت وعبارة "مواد رديئة مصنوعة بالذكاء الاصطناعي". (صورة: رويترز)

عندما يشكو العديد من الآباء من أن أطفالهم يجلسون أمام شاشات الكمبيوتر لساعات طويلة لكنهم يجدون صعوبة في التركيز على دراستهم، فإنهم لا يرون مجرد تغير في عادات الترفيه فحسب. فخلف مقاطع الفيديو القصيرة والسريعة، والألوان الزاهية، والأصوات المحفزة باستمرار، يكمن نظام رقمي متكامل مصمم لإبقاء المشاهدين منجذبين لأطول فترة ممكنة. وتنظر المنظمات الطبية والصحية العامة الآن إلى هذه المسألة من المنظور نفسه: لم يعد الأمر يتعلق بـ "عدد الساعات التي يقضيها المستخدمون أمام الشاشة"، بل بجودة المحتوى، وسياق الاستخدام، وآليات الاحتفاظ بالمشاهدين التي توفرها المنصة.

في هذا السياق، يبرز مصطلح جديد في النقاشات الدولية: "هراء الذكاء الاصطناعي"، والذي يمكن ترجمته بشكل عام إلى "نفايات الذكاء الاصطناعي". يشير هذا المصطلح إلى المحتوى المُنتَج بكميات كبيرة باستخدام أدوات الذكاء الاصطناعي، والذي يتميز بانخفاض تكلفته وسرعته العالية، ويُعطي الأولوية للكمية وتفاعل المشاهدين وعائدات الإعلانات على حساب القيمة التعليمية أو الاتساق. والجدير بالذكر أن النقاش الحالي لا يهدف إلى إنكار الذكاء الاصطناعي كأداة إبداعية، بل يركز على قضية محددة للغاية: عندما تُضخّم الخوارزميات المحتوى الرخيص والمتكرر والسطحي، فمن سيُحاسب على تأثيره على الفئات الأكثر ضعفاً من المستخدمين؟

تفاقمت المشكلة في أبريل 2026، عندما وجّهت أكثر من 200 منظمة وخبير رسالةً تحثّ جوجل ويوتيوب على اتخاذ إجراءات أكثر حسمًا لحماية الأطفال. كانت المطالب واضحة تمامًا: تصنيف جميع محتويات الذكاء الاصطناعي، وحظرها من يوتيوب كيدز، ومنع التوصيات لمن هم دون سن 18 عامًا، وإضافة زرّ للرقابة الأبوية لتعطيل محتوى الذكاء الاصطناعي، والتوقف عن الاستثمار في إنتاج فيديوهات الذكاء الاصطناعي للأطفال. في تلك الرسالة المفتوحة، جادلت منظمة فيربلاي بأنّ أبرز القنوات التي تعتمد على الذكاء الاصطناعي والموجّهة للأطفال الصغار تُدرّ أكثر من 4.25 مليون دولار سنويًا. وراء هذه الأرقام يكمن منطق أعمال مألوف في عصر المنصات الرقمية: ما هو رخيص وسريع الإنتاج ويُبقي المشاهدين منجذبين لفترة طويلة، يسهل تضخيمه.

يظهر شعار جوجل على هاتف، وخلفه شعار يوتيوب على شاشة كمبيوتر في أنقرة، تركيا، في 2 يوليو 2025. (صورة من وكالة فرانس برس).jpg

لا يقتصر قلق الآباء على كمية المحتوى فحسب، بل تكمن المشكلة في صعوبة تجنبه. تشير فيربلاي إلى بحث صحفي دولي يُظهر أن حوالي 40% من مقاطع الفيديو المقترحة التالية على يوتيوب، بعد مشاهدة برامج ما قبل المدرسة الشهيرة مثل كوكوميلون، تحتوي على عناصر ذكاء اصطناعي. كما تُظهر دراسة أخرى، استشهدت بها الصحافة، أن حوالي 21% من مقاطع الفيديو القصيرة المقترحة لحسابات المستخدمين الجدد هي محتوى رديء مُولّد بواسطة الذكاء الاصطناعي؛ وقد حصدت 278 قناة مُولّدة بالكامل بواسطة الذكاء الاصطناعي ما يقارب 63 مليار مشاهدة، و221 مليون مشترك، وإيرادات سنوية تُقدّر بـ 117 مليون دولار. من منظور صناعة المحتوى، لم يعد هذا مجرد "مجال متخصص"، بل أصبح خط إنتاج مربحًا للغاية.

لكن لماذا يولي الخبراء اهتمامًا خاصًا بالأطفال؟ أولًا، تشير الأدلة المتوفرة إلى أن غالبية مقاطع الفيديو التي يشاهدها الأطفال الصغار على المنصات المفتوحة ليست بالضرورة محتوى تعليميًا عالي الجودة. تشير مؤسسة "كومن سينس ميديا" إلى أن 5% فقط من مقاطع الفيديو التي يشاهدها الأطفال دون سن الثامنة ذات قيمة تعليمية عالية، بينما 75% منها ذات قيمة تعليمية ضئيلة أو معدومة. كما يُظهر التقرير أن 30% من مقاطع الفيديو تحتوي على عنف جسدي ولو كان طفيفًا، و20% تحتوي على عنف بين الأشخاص مثل السخرية والتنمر والسلوك التلاعبي. هذا يعني أنه حتى قبل "موجة الذكاء الاصطناعي"، كانت بيئة الفيديو المخصصة للأطفال على المنصات المفتوحة بحاجة إلى مراقبة دقيقة. لم يُسهم الذكاء الاصطناعي إلا في جعل إنتاج هذا النوع من المحتوى أرخص وأسرع وأكثر انتشارًا.

يظهر تطبيق يوتيوب كيدز على شاشة هاتف في كراكوف، بولندا، في 7 يونيو 2025. (صورة: نور فوتو، وكالة فرانس برس).jpg

لم يُطمئن ردّ يوتيوب المراقبين تمامًا حتى الآن. إذ تشترط المنصة الإفصاح عن المحتوى المُجمّع أو المُحرّر الذي يبدو أصليًا، لكن العديد من مقاطع الفيديو المتحركة الموجهة للأطفال لا تندرج ضمن هذا الشرط. وقد أشارت مجلة WIRED إلى أن مقاطع الفيديو المتحركة الموجهة للأطفال الصغار قد تفلت من قاعدة تصنيف التزييف العميق لأنها تُعتبر "غير واقعية"، مع أن هذا النوع من المحتوى تحديدًا يتغلغل بعمق في تجارب الأطفال. ولهذا السبب أيضًا يرى المدافعون عن حقوق الطفل أن التصنيف وحده غير كافٍ، خاصةً وأن الأطفال الصغار قد لا يجيدون القراءة لفهم الأوصاف. مع ذلك، تجدر الإشارة إلى أن يوتيوب قد صرّح علنًا بأن معالجة ثغرات الذكاء الاصطناعي تُعدّ أولوية لعام 2026، كما أنه يُضيف أدوات مراقبة للعائلات.

بالنظر إلى الصورة الأوسع، فإن "التنظيف بالذكاء الاصطناعي" ليس مقتصراً على الأطفال. يكشف العالم الرقمي عن واقع مختلف: فالضرر الرقمي قد يتحول إلى ضرر حقيقي. تشير منظمة الصحة العالمية/أوروبا إلى أن حوالي سدس المراهقين تعرضوا للتنمر الإلكتروني؛ وتلاحظ اليونيسف أن أكثر من ثلث الشباب في 30 دولة يقولون إنهم وقعوا ضحايا للتنمر الإلكتروني. أما بالنسبة للنساء والفتيات، فتشير هيئة الأمم المتحدة للمرأة إلى أن التنمر الإلكتروني ينتشر بنسبة تتراوح بين 16% و58%، بينما وجدت دراسات دولية أن 58% من الفتيات والشابات يتعرضن للمضايقات عبر الإنترنت. ومع تزايد سهولة وسرعة إنشاء الصور ومقاطع الفيديو والمحتوى المسيء بفضل الذكاء الاصطناعي، يتفاقم هذا الخطر.

مراهق يشاهد مقطع فيديو على هاتفه في فرنسا، 3 يناير/كانون الثاني 2026. (صورة: رويترز).

كيف ينبغي فهم "التنظيف بالذكاء الاصطناعي"؟ إذا اقتصر فهمنا له على حذف بعض الفيديوهات المسيئة، فإننا نعالج الأعراض فقط. في الواقع، نحتاج إلى تنظيف "سلسلة" المحتوى بالكامل التي تُوصل المحتوى غير المرغوب فيه إلى المستخدمين: قواعد تصنيف أوضح؛ تصميمات افتراضية أكثر أمانًا للأطفال؛ تقليل الاعتماد على الخوارزميات التي تُحسّن وقت المشاهدة؛ بيانات مفتوحة للبحوث المستقلة؛ وإلزام المنصات بالاستجابة بشكل أسرع للمحتوى الضار. يتماشى قانون الخدمات الرقمية الأوروبي مع هذا التوجه، إذ يُلزم المنصات الكبرى بتقليل المخاطر التي يتعرض لها القاصرون، ويسمح للمستخدمين باختيار خلاصات غير مُخصصة، ويحظر الإعلانات المُستهدفة للأطفال. أما فيما يخصّ الأسرة، فقد أضاف يوتيوب أيضًا حدودًا زمنية لتصفح الفيديوهات القصيرة، وتذكيرات بفترات الراحة، وتذكيرات بوقت النوم للحسابات الخاضعة للإشراف؛ وبالنسبة لحسابات الأطفال الصغار، يُمكن للوالدين استخدام خاصية اختيار المحتوى أو تصفح الفيديوهات يدويًا.

بالنسبة لفيتنام، يجب التعامل مع هذه القضية بحذر بدلاً من الذعر. ليس كل المحتوى المدعوم بالذكاء الاصطناعي "رديئاً". ولكن عندما تُعطي المنصات الأولوية للإشباع الفوري على حساب القيمة طويلة الأجل، وعندما لا تكون التحذيرات واضحة بما يكفي للأطفال، وعندما يُلاحق الآباء كل مقطع فيديو باستمرار، فإن المشكلة لم تعد مسألة مهارة فردية فحسب، بل أصبحت مشكلة تتعلق بمعايير المنصات، والتوعية بالسلامة الرقمية في المدارس، ومسؤولية شركات التكنولوجيا، وحتى الإطار التنظيمي العام.

في بيئة الإنترنت المشبعة بشكل متزايد بالمحتوى المجمع، فإن تنظيف الذكاء الاصطناعي هو أكثر من مجرد تنظيف بعض المنتجات السيئة؛ بل هو في الأساس جهد لتنظيف الآليات التي تحول انتباه الناس، وخاصة انتباه الأطفال، إلى مورد يتم استغلاله بشكل مفرط.

المصدر: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm