מנגנונים הדרושים להגנה על ילדים מפני חסרונותיה של הבינה המלאכותית

יו"ר ועדת המדע, הטכנולוגיה והסביבה של האסיפה הלאומית, נגוין טאנה האי, אמר כי יש ללמוד ולהשלים את טיוטת החוק בנושא בינה מלאכותית לתקנות ספציפיות שמטרתן להגן על ילדים מההיבטים השליליים של בינה מלאכותית, במטרה להנחות ילדים להשתמש בבינה מלאכותית בצורה בטוחה ובריאה.

יש צורך בתקנות אתיות בפעילויות בינה מלאכותית.

בבוקר ה-21 בנובמבר, מטעם ועדת המדע , הטכנולוגיה והסביבה (KH,CN&MT), בהציגו את הדו"ח על סקירת פרויקט חוק הבינה המלאכותית (AI), הצהיר יו"ר הוועדה נגוין טאנה האי : סעיף 27 לטיוטת החוק קבע בתחילה עקרונות בסיסיים, בהתאם לנהלים בינלאומיים כגון כבוד לאדם, שקיפות, הוגנות, אי פגיעה והגנה על הפרטיות.

עם זאת, ועדת המדע, הטכנולוגיה והסביבה מצאה כי במדינות רבות, תהליך פיתוח מדיניות בנושא בינה מלאכותית מתחיל לעתים קרובות בהפצת מסגרות אתיות ועקרונות מנחים, ולאחר מכן בהערכת פרקטיקות לצורך גיבוש וקידום חקיקה.

על בסיס זה, הציעה ועדת המדע, הטכנולוגיה והסביבה כי הסוכנות המנסחת תבחן ותשלים עקרונות כלליים בנושא אתיקה כדי שהממשלה תפרט בפירוט . בהם, יש התייחסויות לערכי אונסק"ו וה-OECD, כולל עקרונות של כבוד לאדם, הוגנות, בטיחות, שקיפות, אחריות ופיתוח בר-קיימא; תעודד עסקים לפתח קוד אתי פנימי משלהם לבינה מלאכותית בהתאם למסגרת זו, ותפרסם אותו לסוכנויות ניהול המדינה כפי שנקבע.

המבקרים נהנים מדגם הרובוט ההומנואידי המוצג בתערוכה A80. תמונה להמחשה

במקביל, יש לחקור את הוספת עקרון "אחריות בעלי העניין להשפעות האתיות והחברתיות של מערכות בינה מלאכותית לאורך כל התהליך, החל ממחקר ועד לשימוש במערכת"; להבהיר את הקשר בין כללים אתיים (המלצה) לבין חובות משפטיות (חובה).

בנוסף, על פי ועדת המדע, הטכנולוגיה והסביבה, סעיף 28 בטיוטת החוק קובע רק אחריות אתית עבור המגזר הציבורי, בעוד שיישומי בינה מלאכותית במגזר הפרטי (כגון שירותי בריאות, פיננסים, חינוך וכו') עלולים גם הם לגרום להשפעות חברתיות ואתיות דומות. לכן, מומלץ שהסוכנות המנסחת תחקור ותשקול הוספת הוראות בנוגע לאחריות אתית במגזר הפרטי, תוך הבטחת מקיפות בהוראות החוק.

הוספת תקנות ספציפיות להגנה על ילדים

יו"ר הוועדה למדע, טכנולוגיה וסביבה, נגוין טאן האי, הצהיר בבירור בדו"ח על סקירת פרויקט החוק: עבור נושאים פגיעים כמו ילדים, לבינה מלאכותית יש גם היבטים שליליים מדאיגים כגון: כאשר מסתמכים יותר מדי על בינה מלאכותית כדי למצוא תשובות או לפתור תרגילים, ילדים נמצאים בסיכון לאבד את ההזדמנות לתרגל את היכולת לחשוב באופן עצמאי, לנתח ולהיות יצירתיים; נוטים להתנהגות סוטה; עלולים לטעות ולחשוב שבינה מלאכותית היא חברה אמיתית ולפעול על פי עצות מבינה מלאכותית שעשויות להיות לא הולמות או מסוכנות; להיות מניפולטיביים או מוטעים...

חוק הבינה המלאכותית צריך לכלול תקנות נפרדות כדי להגן על ילדים מההיבטים השליליים של בינה מלאכותית, ולהדריך ילדים להשתמש בבינה מלאכותית בצורה בטוחה ובריאה. תמונה להמחשה

יו"ר הוועדה למדע, טכנולוגיה וסביבה, נגוין טאנה האי, ציטט: "חוק הבינה המלאכותית של איטליה קובע כי אנשים מתחת לגיל 14 יכולים להשתמש בבינה מלאכותית רק בהסכמת הוריהם או אפוטרופסיהם; על פי הצעה שפורסמה לאחרונה, משתמשים באיחוד האירופי חייבים להיות מעל גיל 16 כדי להשתמש בבינה מלאכותית ללא הסכמת הורים; חוק בקרת הצ'אטבוטים של בינה מלאכותית של מדינת קליפורניה (ארה"ב) קובע כי פלטפורמות בינה מלאכותית נדרשות להודיע ​​בבירור למשתמשים מתחת לגיל 18 כל 3 שעות שהם משוחחים עם צ'אטבוט, לא עם בן אדם."

על בסיס זה, הוועדה ממליצה כי הסוכנות המנסחת תלמד ותשלים תקנות ספציפיות להגנה על ילדים מפני ההיבטים השליליים של בינה מלאכותית, תנחה ילדים להשתמש בבינה מלאכותית בצורה בטוחה ובריאה, תוך קידום תפקידם ואחריותם של הורים ובתי ספר בניטור והעלאת מודעותם של ילדים לבינה מלאכותית.

מקור: https://phunuvietnam.vn/can-co-che-de-bao-ve-tre-em-truoc-cac-mat-trai-cua-ai-20251121112842757.htm