יש צורך בתקנות מיוחדות כדי להגן על ילדים מפני הצד האפל של הבינה המלאכותית.

בבוקר ה-21 בנובמבר, צירי האסיפה הלאומית האזינו לשר המדע והטכנולוגיה נגוין מאן הונג, שהוסמך על ידי ראש הממשלה, שהציג את טיוטת החוק בנושא בינה מלאכותית.

שר המדע והטכנולוגיה נגוין מאן הונג מציג את הצעת החוק בנושא בינה מלאכותית. צילום: קוואנג פוק

יו"ר ועדת המדע, הטכנולוגיה והסביבה של האסיפה הלאומית (KHCN-MT), נגוין טאן האי, הציג את הדו"ח על סקירת הצעת החוק, ואמר כי הוועדה מסכימה עם הצורך לפרסם את החוק בנושא בינה מלאכותית בהקשר של ההתפתחות המרשימה של בינה מלאכותית. לצד פיתוח מהיר, יישום נרחב יותר ויותר והשפעות חיוביות, בינה מלאכותית מציבה גם אתגרים רבים מבחינת הכלכלה , החברה, הביטחון והבטיחות; וסיכונים פוטנציאליים שקשה לחזות.

ועדת המדע, הטכנולוגיה והסביבה ממליצה כי הסוכנות המנסחת תמשיך לבחון ולהעריך ביתר קפדנות את רמת המיסוד של מדיניות המפלגה והכיוון שלה, במיוחד בנושא פיתוח בינה מלאכותית עבור בני אדם ופיתוח בר-קיימא; לפתח באופן משמעותי יישומי בינה מלאכותית המבוססים על ביג דאטה עבור תעשיות ותחומים חשובים; למשוך, להעסיק ולשמר מדענים , מומחים ו"מהנדסים ראשיים" מובילים בארץ ובחו"ל בפיתוח טכנולוגיות בינה מלאכותית...

נציגים שהשתתפו בפגישת הבוקר ב-21 בנובמבר. צילום: קוואנג פוק

בנוגע למדיניות המדינה בנושא בינה מלאכותית, הוועדה למדע, טכנולוגיה וסביבה הציעה להוסיף מספר תכני מדיניות, ובמיוחד לקידום בדיקות מבוקרות של טכנולוגיות בינה מלאכותית מתקדמות, אך עם סיכונים פוטנציאליים; תכנים: המדינה מבטיחה גישה לביג דאטה איכותי כדי לשרת הכשרה בתחום המודלים של בינה מלאכותית; למדינה יש מנגנון למשיכת ותגמול של מומחים, תוך הכוונת הכשרת משאבי אנוש לצרכים העסקיים; למדינה יש מדיניות של הכשרה מעמיקה והפצת ידע ומיומנויות דיגיטליות בסיסיות, אתיקה של בינה מלאכותית עבור עובדי מדינה, אנשים, ובמיוחד ילדים, לשימוש בטוח בבינה מלאכותית.

יו"ר ועדת המדע, הטכנולוגיה והסביבה של האסיפה הלאומית , נגוין טאן האי, מציג דו"ח על סקירת פרויקט חוק הבינה המלאכותית. צילום: קוואנג פוק

בנוגע למנגנון הבדיקה המבוקרת של בינה מלאכותית, הוועדה מכירה בכך שבדיקות הן שלב בלתי נמנע בפיתוח מוצרים, במיוחד עבור מערכות בינה מלאכותית חדשות ובעלות סיכון גבוה. מתן אפשרות לבדיקות מבוקרות נחוץ לקידום חדשנות. לכן, יש צורך ללמוד ולהשלים את מנגנון הפטור מאחריות לסיכונים הנובעים במהלך תהליך הבדיקה כאשר ארגונים ויחידים עמדו בתקנות.

עם זאת, מנגנון הבדיקות המבוקרות הוסדר בחוק המדע, הטכנולוגיה והחדשנות, בטיוטת חוק הטרנספורמציה הדיגיטלית ובמסמכי ההנחיה בנושא ארגזי חול. לכן, כדי למנוע כפילויות, מוצע שחוק זה יסדיר רק את התוכן הספציפי של בדיקות עבור מערכות בינה מלאכותית; במקביל, הוא יתמקד במנגנון הבדיקה שלאחר הבדיקה, יעריך את תוצאות הבדיקות ויבטיח פישוט של הליכים מנהליים.

עבור קבוצות פגיעות כמו ילדים, הוועדה סבורה כי לבינה מלאכותית יש גם חסרונות מדאיגים, כגון כאשר ילדים תלויים מדי בבינה מלאכותית כדי למצוא תשובות או לפתור תרגילים, הם מאבדים את ההזדמנות לתרגל חשיבה עצמאית, ניתוח ויצירתיות; נוטים להתנהגות סוטה; עלולים לטעות ולחשוב שבינה מלאכותית היא חבר אמיתי ולפעול על סמך עצות מבינה מלאכותית שעשויות להיות לא הולמות או מסוכנות; ולהיות מנוצלים או מרומים.

סוכנות הפיקוח ציינה ניסיון ממדינות אחרות, המראה כי חוק הבינה המלאכותית של איטליה קובע כי אנשים מתחת לגיל 14 יכולים להשתמש בבינה מלאכותית רק בהסכמת הוריהם או אפוטרופסיהם; על פי הצעה שפורסמה לאחרונה, משתמשים באיחוד האירופי חייבים להיות מעל גיל 16 כדי להשתמש בבינה מלאכותית ללא הסכמת הורים; חוק בקרת הצ'אטבוטים של בינה מלאכותית של מדינת קליפורניה (ארה"ב) קובע כי פלטפורמות בינה מלאכותית נדרשות להודיע ​​​​ברור למשתמשים מתחת לגיל 18 כל 3 שעות שהם משוחחים עם צ'אטבוט ולא עם בן אדם.

לכן, הוועדה ממליצה כי הסוכנות המנסחת תלמד ותשלים תקנות ספציפיות להגנה על ילדים מפני ההיבטים השליליים של בינה מלאכותית, תנחה ילדים להשתמש בבינה מלאכותית בצורה בטוחה ובריאה, תוך קידום תפקידם ואחריותם של הורים ובתי ספר בניטור והעלאת מודעותם של ילדים לבינה מלאכותית.

פאן תאו

מקור: https://www.sggp.org.vn/can-co-quy-dinh-rieng-nham-bao-ve-tre-em-truoc-mat-trai-cua-ai-post824617.html