מומחים מזהירים מפני הסיכונים של בינה מלאכותית לילדים

[מודעה_1]
כדי למזער את הסיכונים של בינה מלאכותית המשפיעה על ילדים, אין צורך לאסור על ילדים להשתמש בה, אלא חשוב מכל, לחנך ילדים להעלות את המודעות לסיכונים כדי להגן על עצמם בסביבה המקוונת.

גב' דין טי נו הואה אמרה כי יישומים המשלבים בינה מלאכותית (AI) הופכים פופולריים יותר ויותר ובעלי השפעה משמעותית על ילדים. (צילום: NVCC)

זוהי דעתה של גב' דין טי נהו הואה, ראש מחלקת הפיקוח, מרכז תגובת החירום בסייברספייס של וייטנאם (VNCERT/CC), מחלקת אבטחת מידע, משרד המידע והתקשורת עם העולם ועיתון וייטנאם, על הסיכונים והפתרונות להגנה על ילדים מפני השפעות הבינה המלאכותית.

סיכונים רבים כאשר ילדים תלויים בבינה מלאכותית

לאחרונה, יישומים המשלבים בינה מלאכותית (AI) הפכו פופולריים יותר ויותר. ביניהם, ילדים פגיעים לכלי בינה מלאכותית. האם יש לכם אזהרות לגבי בעיה זו?

כיום, יישומים המשלבים בינה מלאכותית (AI) הופכים פופולריים יותר ויותר, משותפים ונמצאים בשימוש על ידי אנשים רבים. אופייניים לכך הם אפליקציות עריכת תמונות, אפליקציות צ'אט (צ'אטבוטים)... עם זאת, אנשים רבים שכחו שהאנשים שעלולים להיפגע מכלי בינה מלאכותית, ולהשאיר השלכות ארוכות טווח, הם ילדים. ילדים בכל הגילאים יכולים לגשת בקלות לכלי בינה מלאכותית, אך כלים אלה כמעט ולא דורשים התחייבות לפני השימוש.

כיום, לילדים יש גישה נוחה לכלי בינה מלאכותית, אך כמעט ואין דרישות לפני השימוש בהם. מהם לדעתך הסיכונים העומדים בפניהם?

על פי הסטטיסטיקה, שיעור הילדים המשתמשים באינטרנט בגילאי 12-17 גבוה מאוד, ועומד על 93% באזורים עירוניים ו-88% באזורים כפריים. בפרט, ילדים הניגשים לאינטרנט דרך סמארטפונים מהווים 98%.

לדעתי, ישנם כמה סיכונים להשפעת בינה מלאכותית על ילדים. ראשית , הסיכון של גישה למידע לא הולם. המידע המסופק למשתמשים על ידי אפליקציות משולבות בינה מלאכותית כמו ChatGPT הוא מידע מצטבר ממקורות רבים באינטרנט. זה כולל מידע מדויק וגם מידע לא מדויק. בנוסף, מידע זה אינו נבחר, מוערך או מסונן בהתאם לגיל המשתמש. לכן, חיפושים עלולים להציג מידע כוזב, תוכן לא הולם או תוכן אלים.

שנית , הסיכון לדליפת מידע פרטי, מידע אישי של ילדים. ילדים משתפים בטעות מידע אישי באינטרנט, והופכים בקלות לקורבנות של חדירה בלתי חוקית לנתונים בעת שימוש באפליקציות עריכת תמונות, אפליקציות צ'אט (צ'אטבוטים).

יום שלישי , פיתוי ופיתוי נערות מתבגרות להשתתף באתגרים מסוכנים. למעשה, היו מקרים מדאיגים שבהם נערות מתבגרות פונות ל-ChatGPT לקבלת מידע בריאותי ותוכניות דיאטה. בינה מלאכותית יכולה לספק מידע במהירות עם תוכניות מפורטות ועצות ספציפיות. עם זאת, מידע זה אינו מתייחס לנתונים אמיתיים והוא רק אוסף אקראי של מידע מהאינטרנט.

במקביל, ילדים, לאחר חשיפה לצ'אטבוטים מגיל כה צעיר, יחשבו בינה מלאכותית בטעות כחבר אמיתי ויפעלו על סמך עצות של בינה מלאכותית, בעוד שעצות אלו עשויות לכלול תוכן מוטה, לא מדויק, מזיק או מטעה.

רביעית, ההשפעה על הפסיכולוגיה, הפיזיולוגיה וההתנהגות של ילדים. בעזרת כלי בינה מלאכותית, משתמשים יכולים למצוא מידע בכל נושא באמצעות שאלה אחת בלבד. צ'אטבוטים מבוססי בינה מלאכותית הקלו על הניווט במידע מבלי לפתוח עשרות אתרים שונים ולקרוא אינספור מאמרים כדי לאסוף מידע.

לפיכך, אינטראקציה מרובה מדי עם מכונות טכנולוגיה עלולה להוביל לדיכאון, חרדה או אובדן מיומנויות חברתיות עקב פחות אינטראקציה עם אחרים. בנוסף, הסתמכות יתר של ילדים על בינה מלאכותית מפחיתה את יכולתם ללמוד ולעבוד באופן יזום.

הסתמכות יתר של ילדים על בינה מלאכותית מפחיתה את יכולתם ללמוד ולעבוד באופן יזום. (מקור: אינטרנט)

עזרו לילדים להתנהג בנימוס ובאדיבות באינטרנט

מהו לדעתך הפתרון בר-קיימא למזעור ההשלכות של כלי בינה מלאכותית על ילדים?

על פי דו"ח של יוניסף משנת 2022, 23% מהילדים אמרו שלפעמים ראו בטעות תמונות או סרטונים רגישים שפורסמו באינטרנט. למעשה, תוכן פורנוגרפי נמצא בכל מקום, כך שחסימת אתרים פורנוגרפיים אינה מספיקה ואינה יעילה. ילדים זקוקים לכלי רב עוצמה ויעיל לסינון תוכן מקוון, שיעזור להם לא להיחשף למידע רע ורעיל.

כדי למזער את הסיכונים של בינה מלאכותית המשפיעה על ילדים, אין צורך לאסור על ילדים להשתמש בה, אלא חשוב מכל, לחנך אותם להעלות את המודעות שלהם, לזהות את הסיכונים ולהגן על עצמם ברשת. לדעתי, ישנם כמה עקרונות שיעזרו לילדים להישאר בטוחים ברשת, והם עקרונות 4T: ציות - אינטליגנציה - זהירות ונחמדות.

ראשית, יש לציית לכללי השימוש באינטרנט שנקבעו על ידי ספק השירות ובית הספר עצמו. יש לציית לחוק, כגון ציות לכללי הקהילה של חלק מיישומי הבינה המלאכותית שאינם מיועדים לילדים מתחת לגיל 13.

שנית, הקניית ידע ומיומנויות להשתתפות בסביבות רשת חכמות כגון מיומנויות במתן מידע אישי בסביבת הרשת, מיומנויות בשימוש בטוח ברשתות חברתיות וניהול סיסמאות להבטחת בטיחות.

שלישית, היזהרו עם חבריכם המקוונים מכיוון שייתכן שיש אנשים שמתחזים לפגוש אתכם, היזהרו כשאתם ניגשים לקישורים מוזרים, היזהרו כשאתם נתקלים בהצעות אטרקטיביות להפליא, היזהרו במתן מידע באינטרנט, כולל תיבות צ'אט... כדי למזער סיכונים הקשורים להונאה מקוונת. לבסוף, היו מתורבתים ואדיבים בסביבה המקוונת, אל תשלחו או תגיבו להודעות עם תוכן רע או שפוגעניות באחרים.

כיצד על הורים לפעול כ"שומרי סף" במרחב הקיברנטי עבור ילדיהם?

הורים יכולים להשתמש בכלים טכנולוגיים כדי לחסום מידע לא הולם לילדים, כגון Cyberpurify kid, Safe Gate Family, BKAV Safe kid, שומר נייד לילדים, אזור בטוח,...

בנוסף, על הורים לקבוע כללים לשימוש במחשבים ובמכשירי רשת עבור ילדיהם. הכללים שונים לכל גיל. יש לאפשר לילדים להשתמש ברשתות חברתיות רק כשהם מבוגרים מספיק כדי להשתמש בהן בהתאם לעקרונות הקהילה המומלצים של פלטפורמות הרשתות החברתיות.

בפרט, על הורים לשים לב ולעקוב מקרוב אחר התוכן המקוון שילדיהם ניגשים אליו באינטרנט. לספק פתרונות אבטחת מידע למשפחות כגון תוכנות אנטי-וירוס ותוכנות זדוניות, פתרונות לחסימת מידע מזיק ומוצרים לניטור וחסימת מידע מזיק כאשר ילדים ניגשים אליו.

תודה רבה!

וייטנאם ומדינות ASEAN אחרות הסכימו לאמץ את ההצהרה בדבר הגנה על ילדים מפני כל צורות הניצול וההתעללות המקוונות באסיאן בשנת 2019, ולאחר מכן בשנת 2021 אימצו את ההצהרה בדבר מיגור בריונות באסיאן, כולל בריונות מקוונת.

[מודעה_2]
מָקוֹר