فناوری هوش مصنوعی خطرات زیادی را برای کودکان آنلاین ایجاد می‌کند

DNVN - آقای دو دونگ هین - متخصص ChildFund ویتنام، گفت که هوش مصنوعی مزایای زیادی به همراه دارد، اما خطرات بالقوه زیادی را نیز برای کودکان در اینترنت ایجاد می‌کند.

کارشناسان در کارگاه «ترویج همکاری در حفاظت از کودکان در محیط آنلاین» که توسط انجمن امنیت اطلاعات ویتنام با هماهنگی وزارت امنیت اطلاعات ( وزارت اطلاعات و ارتباطات ) در ۲۱ نوامبر در هانوی برگزار شد، اظهار داشتند که در زمینه توسعه شدید فناوری‌های دیجیتال و تبدیل شدن آنها به یک ابزار ضروری برای کار و سرگرمی در زندگی روزمره هر فرد، خطرات مربوط به ایمنی، امنیت اطلاعات و حریم خصوصی نیز در حال افزایش است.

برای کودکان، این خطرات و ریسک‌ها زمانی آشکارتر می‌شوند که مهارت‌های کافی برای شناسایی و پیشگیری از آنها را نداشته باشند. اینها نه تنها برای ویتنام، بلکه برای بسیاری از کشورهای دیگر جهان نیز چالش‌هایی هستند. بنابراین، محافظت از کودکان و تقویت همکاری و ارتباط در فضای مجازی برای محافظت و توانمندسازی کودکان، از جمله مسائلی است که در سطح جهانی مطرح شده است.

آقای Dang Vu Son - معاون رئیس VNISA.

آقای دانگ وو سون - نایب رئیس VNISA و رئیس سابق کمیته رمزنگاری دولت گفت: در این زمینه، برنامه "حفاظت و حمایت از کودکان برای تعامل سالم و خلاقانه در محیط آنلاین برای دوره 2021 تا 2025" نیروی محرکه‌ای برای ترویج مشارکت فعال سازمان‌های دولتی، سازمان‌های اجتماعی و مشاغل ایجاد کرده است. با این حال، در عمل، هنوز محدودیت‌هایی در ارتباط و هماهنگی بین طرف‌های ذیربط وجود دارد که به طور قابل توجهی بر اثربخشی کار حفاظت از کودکان در فضای مجازی تأثیر می‌گذارد.

به گفته آقای سان، انجمن VNISA متعهد به همکاری با سازمان‌های مدیریت دولتی، سازمان‌های بین‌المللی و کسب‌وکارها برای اجرای طرح‌هایی برای محافظت از کودکان در فضای آنلاین بوده است. در سال‌های اخیر، این انجمن فعالیت‌های زیادی انجام داده است.

آقای دانگ وو سون افزود: «ما معتقدیم که ارتباط و همکاری کلید حل چالش‌ها و ایجاد کارایی بیشتر در حفاظت از کودکان در فضای مجازی است. VNISA متعهد است که به تلاش‌های خود ادامه دهد و با شرکای داخلی و خارجی از نزدیک همکاری کند تا یک محیط سایبری واقعاً امن و پایدار برای نسل جوان ایجاد کند.»

آقای دو دونگ هین، کارشناس ChildFund ویتنام، در مورد تأثیر هوش مصنوعی (AI) بر کودکان آنلاین، گفت که هوش مصنوعی به شدت در حال توسعه است و مزایایی را به همراه دارد، اما خطرات بالقوه زیادی را نیز برای کودکان در اینترنت ایجاد می‌کند.

آقای هاین ضمن هشدار در مورد جنبه‌ی منفی هوش مصنوعی، خاطرنشان کرد: «هوش مصنوعی خلاقیت و ابتکار کودکان را تشویق و ترویج می‌کند. هوش مصنوعی مولد می‌تواند ابزارهای خلاقانه‌ای را در اختیار کودکان قرار دهد تا از طریق آهنگسازی، هنر و موسیقی خود را ابراز کنند. هوش مصنوعی می‌تواند به کودکان کمک کند تا در زمینه‌های جدید کاوش کنند و دانش و مهارت‌های خود را گسترش دهند.» وی افزود: «این مشکل تولید محتوای نامناسب است. ابزارها/الگوریتم‌های هوش مصنوعی ارائه‌دهندگان پلتفرم می‌توانند محتوای نامناسب برای سن و مضر ارائه دهند. علاوه بر این، هوش مصنوعی مولد می‌تواند برای ایجاد اطلاعات نادرست یا اخبار جعلی که بر شناخت و رفتار کودکان و همچنین رشد آنها تأثیر می‌گذارد، مورد استفاده قرار گیرد.»

با این حال، هوش مصنوعی همچنین می‌تواند به عنوان ابزاری برای محافظت از کودکان و نظارت بر محتوای آنلاین نقش داشته باشد. هوش مصنوعی توانایی شناسایی، حذف و هشدار سریع در مورد محتوای توهین‌آمیز یا نامناسب در رسانه‌های اجتماعی و پلتفرم‌های اینترنتی را دارد. تشخیص و گزارش محتوای سوءاستفاده جنسی از کودکان (CSAM): برنامه‌ها و نرم‌افزارها از تشخیص اسناد، محتوای CSAM پشتیبانی می‌کنند و مستقیماً روی سیستم گزارش یا مسدود می‌کنند. ابزارهای هوش مصنوعی می‌توانند از تشخیص رفتارهای خشونت‌آمیز پشتیبانی کنند.

آقای نگو توان آن، معاون رئیس VNISA، رئیس باشگاه VCSC (سوم از راست).

آقای نگو توان آن، معاون رئیس VNISA و رئیس باشگاه VCSC، در مورد فعالیت‌های اخیر در زمینه حفاظت از کودکان در فضای آنلاین گفت: «استاندارد پایه TCCS:03 VNISA که به تازگی در ژوئن 2024 منتشر شد، نقطه عطف مهمی در ارتقای اکوسیستم محصولات و خدمات برای حفاظت از کودکان در فضای آنلاین است. این استاندارد همچنین به ارزیابی کیفیت محصولات و خدمات برای حفاظت از کودکان در فضای آنلاین کمک می‌کند تا به کاربران و والدین کمک کند در انتخاب محصولات و خدمات احساس امنیت بیشتری داشته باشند. این امر زمینه‌ای برای ارتقای مشارکت مشاغل، سازمان‌ها و همچنین تعداد زیادی از کاربران برای محافظت از فرزندان خود در برابر خطرات و ریسک‌های فضای مجازی خواهد بود.»

خانم فان تی کیم لین - مدیر برنامه حمایت از کودکان و مشارکت کودکان، ورلد ویژن اینترنشنال در ویتنام، اظهار داشت که محیط دیجیتال فرصت‌ها و همچنین خطرات بی‌شماری را برای رشد کودکان به همراه دارد. در ویتنام، از هر 10 کودک، 9 کودک از اینترنت استفاده می‌کنند. در تلاش برای ایجاد یک محیط آنلاین امن و مؤثر برای کودکان، ورلد ویژن اینترنشنال در ویتنام بر برنامه‌های جامع آموزش مهارت‌های دیجیتال تمرکز دارد تا کودکان بتوانند هم بدانند چگونه از خود محافظت کنند و هم خلاقانه از اینترنت استفاده کنند و همچنین در ایجاد یک محیط اینترنتی امن و مؤثر، پیشگیرانه عمل کنند.

نگوین دوک

منبع: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281