טכנולוגיית בינה מלאכותית מציבה סיכונים רבים לילדים ברשת

DNVN - מר דו דונג היין - מומחה מארגון ChildFund Vietnam, אמר כי בינה מלאכותית מביאה יתרונות רבים אך גם מהווה סיכונים פוטנציאליים רבים לילדים באינטרנט.

בסדנה "קידום שיתוף פעולה בהגנה על ילדים בסביבה המקוונת" שאורגנה על ידי איגוד אבטחת המידע של וייטנאם בתיאום עם מחלקת אבטחת המידע ( משרד המידע והתקשורת ) ב-21 בנובמבר בהאנוי, ציינו מומחים כי בהקשר של התפתחות חזקה של טכנולוגיות דיגיטליות והפיכה לכלי עבודה ובידור הכרחי בחיי היומיום של כל אדם, גם הסיכונים לבטיחות, אבטחת מידע ופרטיות הולכים וגדלים.

עבור ילדים, סכנות וסיכונים אלה הופכים בולטים עוד יותר כאשר לילדים אין מספיק מיומנויות לזהות אותן ולמנוע אותן. אלו אתגרים לא רק עבור וייטנאם אלא גם עבור מדינות רבות אחרות בעולם . לכן, הגנה על ילדים וחיזוק שיתוף הפעולה והקשר במרחב הקיברנטי כדי להגן ולהעצים ילדים הן גם סוגיות המועלות ברחבי העולם.

מר דאנג וו סון - סגן נשיא VNISA.

מר דאנג וו סון - סגן נשיא VNISA, ראש ועדת הצפנים הממשלתית לשעבר, אמר: "בהקשר זה, התוכנית "הגנה ותמיכה בילדים לאינטראקציה בריאה ויצירתית בסביבה המקוונת לתקופה 2021 - 2025" יצרה כוח מניע לקידום השתתפות פעילה מצד סוכנויות מדינה, ארגונים חברתיים ועסקים. עם זאת, בפועל, עדיין קיימות מגבלות בחיבור ובתיאום בין גורמים רלוונטיים, דבר המשפיע באופן משמעותי על יעילות עבודת הגנת הילד במרחב הקיברנטי".

לדברי מר סון, VNISA מחויבת לעבוד עם סוכנויות ניהול ממלכתיות, ארגונים בינלאומיים ועסקים כדי ליישם יוזמות להגנה על ילדים ברשת. לאחרונה, האיגוד ביצע פעילויות רבות.

"אנו מאמינים שחיבור ושיתוף פעולה הם המפתח לפתרון אתגרים ולהבאת יעילות רבה יותר בהגנה על ילדים במרחב הקיברנטי. VNISA מתחייבת להמשיך במאמציה ולתאם בשיתוף פעולה הדוק עם שותפים מקומיים וזרים כדי לבנות סביבת סייבר בטוחה ובת קיימא באמת עבור הדור הצעיר", הוסיף מר דאנג וו סון.

מר דו דונג הואן - מומחה מארגון ChildFund Vietnam, ששיתף את נושא ההשפעה של בינה מלאכותית (AI) על ילדים ברשת, אמר כי הבינה המלאכותית מתפתחת במהירות, מביאה יתרונות אך גם מהווה סיכונים פוטנציאליים רבים לילדים באינטרנט.

"בינה מלאכותית מעודדת ומקדמת את היצירתיות והיוזמה של ילדים. בינה מלאכותית גנרטיבית יכולה לספק לילדים כלים יצירתיים לבטא את עצמם באמצעות קומפוזיציה, אמנות ומוזיקה. בינה מלאכותית יכולה לעזור לילדים לחקור וללמוד על תחומים חדשים, להרחיב את הידע והכישורים שלהם", ציין מר היין, תוך שהוא מזהיר מפני החסרונות: "זוהי הבעיה של יצירת תוכן לא הולם. כלי/אלגוריתמים של בינה מלאכותית של ספקי פלטפורמות יכולים לספק תוכן לא הולם לגיל ומזיק. בנוסף, בינה מלאכותית גנרטיבית יכולה לשמש ליצירת מידע שגוי או חדשות כוזבות המשפיעות על הקוגניציה וההתנהגות של ילדים, כמו גם על התפתחותם."

עם זאת, לבינה מלאכותית יכולה גם למלא תפקיד ככלי להגנה על ילדים ולניטור תוכן מקוון. לבינה מלאכותית יש את היכולת לזהות, להסיר ולהתריע במהירות על תוכן פוגעני או לא הולם ברשתות חברתיות ובפלטפורמות אינטרנט. זיהוי ודיווח על תוכן של התעללות מינית בילדים (CSAM): יישומים ותוכנות תומכים בזיהוי מסמכים, תוכן CSAM ודיווח או חסימה ישירות במערכת. כלי בינה מלאכותית יכולים לתמוך בזיהוי התנהגות אלימה.

מר נגו טואן אן, סגן נשיא VNISA, יו"ר מועדון VCSC (שלישי מימין).

מר נגו טואן אן, סגן נשיא VNISA וראש מועדון VCSC, אמר על פעילויות ההגנה על ילדים ברשת בתקופה האחרונה: "התקן הבסיסי TCCS:03 VNISA, שפורסם ביוני 2024, הוא אבן דרך חשובה התורמת לקידום המערכת האקולוגית של מוצרים ושירותים להגנה על ילדים ברשת. תקן זה תורם גם להערכת איכות המוצרים והשירותים להגנה על ילדים ברשת כדי לעזור למשתמשים ולהורים להרגיש בטוחים יותר בבחירת מוצרים ושירותים. זה יהיה תנאי לקידום השתתפות של עסקים, ארגונים ומספר רב של משתמשים כדי לשלב ידיים בהגנה על ילדיהם מפני סכנות וסיכונים במרחב הקיברנטי".

גב' פאן טי קים ליאן - מנהלת תוכנית הגנת הילד והשתתפות ילדים, World Vision International בווייטנאם, ציינה כי הסביבה הדיגיטלית מביאה איתה אינספור הזדמנויות וגם סיכונים להתפתחותם של ילדים. בווייטנאם, 9 מתוך 10 ילדים משתמשים באינטרנט. במאמץ לבנות סביבה מקוונת בטוחה ויעילה לילדים, World Vision International בווייטנאם מתמקדת בתוכניות חינוך מקיפות למיומנויות דיגיטליות, כך שילדים יוכלו לדעת כיצד להגן על עצמם ולהשתמש באינטרנט באופן יצירתי, וכן להיות פרואקטיביים בבניית סביבת אינטרנט בטוחה ויעילה.

נגוין דוק

מקור: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281