پاکسازی زباله‌های هوش مصنوعی در اینترنت.

VTV.vn - «آشغال‌های هوش مصنوعی» چالش جدیدی را برای کودکان ایجاد می‌کنند، زیرا محتوای ارزان، تکراری و اعتیادآور توسط الگوریتم‌های پلتفرم‌های دیجیتال تقویت می‌شود.

یک تابلوی هشدار دهنده با تصویر یک ربات و نوشته "AI Slop". (عکس: رویترز)

وقتی بسیاری از والدین شکایت می‌کنند که فرزندانشان می‌توانند ساعت‌ها جلوی صفحه نمایش کامپیوتر بنشینند اما برای تمرکز روی درس‌هایشان مشکل دارند، چیزی بیش از یک تغییر در عادات سرگرمی را درک می‌کنند. پشت ویدیوهای کوتاه و سریع، رنگ‌های پر جنب و جوش و صداهای محرک مداوم، یک اکوسیستم دیجیتال کامل نهفته است که برای سرگرم نگه داشتن بینندگان تا حد امکان طراحی شده است. سازمان‌های پزشکی و بهداشت عمومی اکنون به این موضوع از همان زاویه نگاه می‌کنند: داستان دیگر در مورد "چند ساعت جلوی صفحه نمایش" نیست، بلکه در مورد کیفیت محتوا، زمینه استفاده و مکانیسم‌های حفظ پلتفرم است.

در این زمینه، اصطلاح جدیدی به طور فزاینده‌ای در بحث‌های بین‌المللی ظاهر می‌شود: «AI slop» که می‌توان آن را به طور آزادانه به عنوان «زباله هوش مصنوعی» ترجمه کرد. این اصطلاح به محتوای تولید انبوه با استفاده از ابزارهای هوش مصنوعی اشاره دارد که کم‌هزینه، پرسرعت است و کمیت، جذب بیننده و درآمد تبلیغاتی را بر ارزش آموزشی یا ثبات اولویت می‌دهد. نکته قابل توجه این است که بحث فعلی با هدف انکار هوش مصنوعی به عنوان یک ابزار خلاقانه نیست، بلکه بر یک موضوع بسیار خاص تمرکز دارد: وقتی محتوای ارزان، تکراری و سطحی توسط الگوریتم‌ها تقویت می‌شود، چه کسی مسئول تأثیر آن بر آسیب‌پذیرترین گروه‌های کاربر خواهد بود؟

این موضوع در آوریل ۲۰۲۶ تشدید شد، زمانی که بیش از ۲۰۰ سازمان و متخصص نامه‌ای ارسال کردند و از گوگل و یوتیوب خواستند تا اقدامات قاطع‌تری برای محافظت از کودکان انجام دهند. خواسته‌ها کاملاً واضح بود: برچسب‌گذاری تمام محتوای هوش مصنوعی، ممنوعیت محتوای هوش مصنوعی از یوتیوب کیدز، مسدود کردن توصیه‌ها به افراد زیر ۱۸ سال، اضافه کردن دکمه کنترل والدین برای غیرفعال کردن محتوای هوش مصنوعی و توقف سرمایه‌گذاری در تولید ویدیوی هوش مصنوعی برای کودکان. در آن نامه سرگشاده، فیرپلی استدلال کرد که کانال‌های برتر مبتنی بر هوش مصنوعی که کودکان خردسال را هدف قرار می‌دهند، سالانه بیش از ۴.۲۵ میلیون دلار درآمد کسب می‌کنند. در پشت این ارقام، یک منطق تجاری آشنا در دوران پلتفرم نهفته است: آنچه ارزان، سریع تولید می‌شود و بینندگان را برای مدت طولانی درگیر نگه می‌دارد، به راحتی تقویت می‌شود.

لوگوی گوگل روی یک تلفن همراه و لوگوی یوتیوب پشت آن روی صفحه کامپیوتر در آنکارا، ترکیه، در تاریخ ۲ ژوئیه ۲۰۲۵ نمایش داده می‌شود. (عکس از خبرگزاری فرانسه).jpg

چیزی که والدین را نگران می‌کند فقط کمیت محتوا نیست. مشکل این است که اجتناب از آن دشوار است. فیرپلی به تحقیقات مطبوعات بین‌المللی استناد می‌کند که نشان می‌دهد پس از تماشای برنامه‌های محبوب پیش‌دبستانی مانند کوکوملون، حدود ۴۰٪ از ویدیوهای پیشنهادی بعدی یوتیوب حاوی عناصر هوش مصنوعی هستند. مطالعه دیگری که مطبوعات به آن استناد کرده‌اند نشان می‌دهد که حدود ۲۱٪ از ویدیوهای کوتاه پیشنهادی به حساب‌های کاربری جدید، محتوای نامناسب هوش مصنوعی هستند. ۲۷۸ کانال کاملاً تولید شده توسط هوش مصنوعی تقریباً ۶۳ میلیارد بازدید، ۲۲۱ میلیون مشترک و درآمد سالانه تخمینی ۱۱۷ میلیون دلار کسب کرده‌اند. از دیدگاه تجارت محتوا، این دیگر یک «جایگاه ویژه» نیست، بلکه به یک خط تولید واقعاً سودآور تبدیل شده است.

اما چرا کارشناسان توجه ویژه‌ای به کودکان دارند؟ اولاً، شواهد موجود نشان می‌دهد که اکثر ویدیوهایی که کودکان خردسال در پلتفرم‌های باز تماشا می‌کنند، لزوماً محتوای آموزشی باکیفیتی ندارند. کامن سنس مدیا خاطرنشان می‌کند که تنها حدود ۵٪ از ویدیوهایی که توسط کودکان ۸ سال و کمتر تماشا می‌شوند، ارزش آموزشی بالایی دارند، در حالی که ۷۵٪ ارزش آموزشی کمی دارند یا اصلاً ارزش آموزشی ندارند. این گزارش همچنین نشان می‌دهد که ۳۰٪ از ویدیوها حاوی حداقل خشونت فیزیکی خفیف و ۲۰٪ حاوی خشونت بین فردی مانند اذیت کردن، قلدری یا رفتارهای فریبکارانه هستند. این بدان معناست که حتی قبل از «موج هوش مصنوعی»، محیط ویدیویی برای کودکان در پلتفرم‌های باز، نیاز به نظارت دقیق‌تری داشت. هوش مصنوعی فقط تولید این نوع محتوا را ارزان‌تر، سریع‌تر و گسترده‌تر می‌کند.

اپلیکیشن یوتیوب کیدز در تاریخ ۷ ژوئن ۲۰۲۵ روی صفحه گوشی در کراکوف، لهستان نمایش داده می‌شود. (عکس: NurPhoto، AFP).jpg

در حال حاضر، پاسخ یوتیوب ناظران را کاملاً مطمئن نکرده است. این پلتفرم برای محتوای گردآوری یا ویرایش‌شده‌ای که معتبر به نظر می‌رسد، افشای اطلاعات را الزامی می‌داند، اما بسیاری از ویدیوهای انیمیشنی برای کودکان از این الزام خارج هستند. وایرد خاطرنشان کرده است که ویدیوهای انیمیشنی که برای کودکان خردسال ساخته شده‌اند، می‌توانند از قانون برچسب‌گذاری دیپ‌فیک عبور کنند، زیرا «غیرواقعی» تلقی می‌شوند، حتی اگر این دقیقاً همان نوع محتوایی باشد که عمیقاً در تجربیات کودکان نفوذ می‌کند. به همین دلیل است که مدافعان استدلال می‌کنند که برچسب‌گذاری به تنهایی کافی نیست، به خصوص زمانی که کودکان خردسال حتی نمی‌دانند چگونه بخوانند تا توضیحات را درک کنند. با این حال، باید توجه داشت که یوتیوب علناً اعلام کرده است که پرداختن به خطای هوش مصنوعی برای سال ۲۰۲۶ اولویت دارد و همچنین ابزارهای نظارتی را برای خانواده‌ها اضافه می‌کند.

با نگاهی به تصویر بزرگتر، «پاکسازی با هوش مصنوعی» فقط برای کودکان نیست. دنیای آنلاین واقعیت متفاوتی را آشکار می‌کند: آسیب دیجیتال کاملاً می‌تواند به آسیب واقعی تبدیل شود. سازمان بهداشت جهانی/اروپا گزارش می‌دهد که حدود یک ششم نوجوانان مورد آزار و اذیت آنلاین قرار گرفته‌اند؛ یونیسف خاطرنشان می‌کند که بیش از یک سوم جوانان در 30 کشور می‌گویند که قربانی آزار و اذیت سایبری شده‌اند. برای زنان و دختران، نهاد زنان سازمان ملل گزارش می‌دهد که آزار و اذیت سایبری بین 16 تا 58 درصد شیوع دارد، در حالی که مطالعات بین‌المللی نشان داده است که 58 درصد از دختران و زنان جوان آزار و اذیت آنلاین را تجربه می‌کنند. از آنجایی که هوش مصنوعی ایجاد تصاویر، ویدیوها و محتوای افتراآمیز جعلی را ارزان‌تر و سریع‌تر می‌کند، این خطر حتی بیشتر افزایش می‌یابد.

یک نوجوان در فرانسه، ۳ ژانویه ۲۰۲۶، در حال تماشای ویدیو با تلفن همراهش است. (عکس: رویترز).JPG

بنابراین چگونه باید «پاکسازی هوش مصنوعی» را درک کرد؟ اگر آن را صرفاً حذف چند ویدیوی توهین‌آمیز بدانیم، فقط به علائم می‌پردازیم. در واقع، ما باید کل «خط لوله»‌ای را که زباله‌ها را به کاربران تحویل می‌دهد، پاکسازی کنیم: قوانین برچسب‌گذاری واضح‌تر؛ طراحی‌های پیش‌فرض ایمن‌تر برای کودکان؛ کاهش اتکا به الگوریتم‌هایی که زمان مشاهده را بهینه می‌کنند؛ داده‌های باز برای تحقیقات مستقل؛ و مجبور کردن پلتفرم‌ها برای واکنش سریع‌تر به محتوای مضر. قانون خدمات دیجیتال اروپا با الزام پلتفرم‌های اصلی به کاهش خطرات برای افراد زیر سن قانونی، اجازه دادن به کاربران برای انتخاب فیدهای غیرشخصی‌سازی‌شده و ممنوعیت تبلیغات هدفمند برای کودکان، از این مسیر پیروی می‌کند. در سمت خانواده، یوتیوب همچنین محدودیت‌های زمانی برای پیمایش شورت‌ها، یادآوری‌های استراحت و یادآوری‌های زمان خواب را برای حساب‌های تحت نظارت اضافه کرده است. برای حساب‌های کودکان خردسال، والدین می‌توانند از انتخاب محتوا یا مرور دستی ویدیو استفاده کنند.

برای ویتنام، این موضوع باید با احتیاط بیشتری و نه با وحشت بررسی شود. همه محتوای مبتنی بر هوش مصنوعی «بی‌ارزش» نیستند. اما وقتی پلتفرم‌ها رضایت فوری را بر ارزش بلندمدت ترجیح می‌دهند، وقتی برچسب‌های هشدار به اندازه کافی برای کودکان واضح نیستند و وقتی والدین دائماً دنبال هر ویدیو هستند، مشکل دیگر فقط مهارت فردی نیست. این مشکل مربوط به استانداردهای پلتفرم، آموزش ایمنی دیجیتال در مدارس، مسئولیت شرکت‌های فناوری و حتی چارچوب نظارتی عمومی است.

در یک محیط آنلاینِ به طور فزاینده اشباع‌شده و پر از محتوای انباشته، پاکسازی هوش مصنوعی چیزی بیش از پاکسازی چند محصول بد است؛ اساساً، این تلاشی برای پاکسازی مکانیسم‌هایی است که توجه مردم، به ویژه کودکان، را به منبعی بیش از حد مورد بهره‌برداری قرار می‌دهند.

منبع: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm