בינה מלאכותית חייבת לפעול במסגרת גבולות חוקיים ואתיים.

הבוקר, 21 בנובמבר, בדיון בקבוצה 6 (כולל משלחת האסיפה הלאומית של לאנג סון, דונג נאי, העיר הואה) על פרויקט חוק הבינה המלאכותית, אמרו חברי האסיפה הלאומית כי על מנת להשלים את פרויקט החוק במטרה לנהל ולקדם מחקר ופיתוח של בינה מלאכותית בווייטנאם, יש צורך להבהיר סוגיות מרכזיות כגון: נתוני קלט, קניין רוחני, היקף יישום, סיווג סיכונים, אחריות משתמשים ואתיקה של בינה מלאכותית...

צורך לתכנן מנגנון ניהול מודרני וסינכרוני של בינה מלאכותית

חברי האסיפה הלאומית הביעו את הסכמתם לגישת ניסוח חוק זה כחוק מסגרת לניהול וקידום מחקר, פיתוח, פריסה ושימוש בבינה מלאכותית בווייטנאם, והעריכו מאוד את הכנת הממשלה; תיק הצעת החוק נבנה בקפידה, תוך הבטחת עמידה בתקנות; יחד עם זאת, ההצעה לבטל מספר סעיפים וסעיפים קשורים בחוק תעשיית הטכנולוגיה הדיגיטלית נחוצה כדי למנוע חפיפה, וליצור בסיס משפטי מאוחד לניהול וקידום פיתוח בינה מלאכותית. עם זאת, כדי להשלים את פרויקט החוק הזה, ביקשו חברי האסיפה הלאומית מוועדת הניסוח להמשיך ולבחון, לתקן, להשלים ולבטל מספר סעיפים וסעיפים בהתאם.

זירת פגישת קבוצה 6 בבוקר ה-21 בנובמבר. צילום: הו לונג

באופן ספציפי, בנוגע להיקף הרגולציה והנושאים הרלוונטיים, אמר חבר האסיפה הלאומית פאם טרונג נגיה (לאנג סון) כי יש צורך להמשיך ולהבהיר נושא זה. מכיוון שכיום, ההוראות הקשורות ל"פעילויות מחקר" בטיוטה נמצאות בסיכון לחפיפה עם התוכן שכבר מוסדר על ידי חוק המדע , הטכנולוגיה והחדשנות. בינתיים, הטיוטה אינה כוללת מדיניות ספציפית לקידום מחקר על מערכות בינה מלאכותית, ולא הגדירה בבירור את הנושאים המבצעים פעילות זו. לכן, הציע הנציג להבהיר אילו פעילויות נמצאות במסגרת הרגולציה של החוק, אילו פעילויות נמצאות תחת החוק הנוכחי כדי להבטיח היתכנות, עקביות ולמנוע חפיפה.

חבר האסיפה הלאומית פאם טרונג נגיה ( לאנג סון ) מגיב על הצעת החוק בנושא בינה מלאכותית. צילום: הו לונג

בנוגע להסבר המונחים, חבר האסיפה הלאומית פאם טרונג נגיה הקדיש תשומת לב מיוחדת למושג "כוונון עדין" במודל הבינה המלאכותית הכללית. הנציג אמר שזהו מונח מיוחד, שעדיין לא פופולרי, ולכן יש להגדיר את התוכן בבירור כדי להקל על יישום ואכיפת החוק בהמשך. הטיוטה קובעת כרגע רק משפט אחד על הוועדה הלאומית לבינה מלאכותית, שאינו מציג בבירור: מעמד משפטי; תפקידים, משימות, סמכויות; מבנה ארגוני, מנגנון פעולה; קשר עם משרדים וענפים. לפיכך, הנציג הציע להבהיר את הצורך בהקמת מוסד זה, ובמקביל להעריך את ההתאמה למדיניות ייעול המנגנון בהתאם לתקנות המפלגה. במקרה של המשך קיומו, יש צורך להשלים תקנות או להטיל על הממשלה את המשימה לפרט את הנושאים הנ"ל בפירוט.

בנוגע למעשים אסורים, ציינו הנציגים כי הצעת החוק טרם קבעה פעולות אסורות, בעוד שמדובר ב"מגן משפטי" חשוב להגנה על זכויות אדם, הבטחת תחרות הוגנת ועמידה בתקנים בינלאומיים. בינתיים, החוק המתקדם העולמי בנושא בינה מלאכותית (AI) קובע בבירור פעולות אסורות כגון ניצול לרעה של נתונים אישיים, אפליה שיטתית, שימוש בבינה מלאכותית למטרות מזיקות וכו'. לכן, מוצע להוסיף סעיף נפרד בנושא פעולות אסורות, המבוסס על העקרונות: שקיפות, בטיחות, אחריות, פיקוח אנושי, הוגנות, אי אפליה ותמיכה בחדשנות מבוקרת.

ציר האסיפה הלאומית נגוין טי סו (העיר הואה) דיבר בדיון הבוקר ב-21 בנובמבר. צילום: הו לונג

הערות על הצעת החוק, חברי האסיפה הלאומית נגוין טי סו (העיר הואה) התמקדה בניתוח תקנות הקשורות לתשתיות, משאבי אנוש ומסגרת אתית של בינה מלאכותית - עמודי תווך הקובעים את יעילות יישום החוק בפועל.

באופן ספציפי, בפרק ג' (סעיפים 17 ו-18) המסדיר את תשתית הבינה המלאכותית, ציינו הנציגים כי מפת הדרכים ליישום תשתית בינה מלאכותית לאומית, תפקידיהם של משרדי ממשלה, סניפים, יישובים וכן מפעלים ומכוני מחקר בתהליך הבנייה והתפעול לא הוגדרו בבירור. הנציגים הציעו להוסיף לתוכנית יישום ספציפית לוחות זמנים, אחריות של כל סוכנות ומנגנון ניטור כדי להבטיח היתכנות כאשר החוק יפורסם.

בנוגע לפיתוח משאבי אנוש (סעיף 24), אמרה נגוין טי סו כי הצעת החוק קובעת רק את המטרות, אך אינה כוללת מנגנון תמיכה אמיתי למוסדות הכשרה וללומדים כגון מימון, סטנדרטים בינלאומיים להכשרה או תוכניות משותפות עם עסקים ומכוני מחקר. לכן, יש צורך להשלים את מדיניות המלגות, לתמוך בהכשרה ולקדם שותפויות ציבוריות-פרטיות.

בנוגע למסגרת האתיקה הלאומית לבינה מלאכותית (סעיף 27), אמרו הנציגים כי התקנות הנוכחיות הן עקרוניות בלבד וחסרות מנגנונים לניטור, הערכה וטיפול בהפרות, מה שמקשה על הבטחת מחייבות בפועל; יחד עם זאת, המונח "אתיקה של בינה מלאכותית" לא הוגדר בבירור ולא הקצה אחריות ספציפית לארגונים וליחידים בעת הפרה. לכן, הציעו הנציגים לשנות את הביטוי "סקירה" ל"ציבורי" בתקנות לעדכון מסגרת האתיקה; במקביל, להוסיף הוראות על הקמת רשות אתיקה לאומית לבינה מלאכותית האחראית על ניטור, הערכה וטיפול בהפרות; לקבוע חובות ציות לארגונים וליחידים המפתחים או מפעילים מערכות בינה מלאכותית בסיכון גבוה; לאשר את הערך המחייב מבחינה משפטית של מסגרת האתיקה של בינה מלאכותית, שבה הפרות יכולות להיות כפופות לסנקציות מנהליות או פליליות; ולעודד את השתתפותם של ארגונים חברתיים, אקדמיה ועסקים בפעילויות של בנייה והערכת אתיקה של בינה מלאכותית. "רק כאשר המנגנונים הנ"ל יושלמו, מסגרת האתיקה של בינה מלאכותית יכולה להיות יעילה, ותבטיח שהטכנולוגיה תתפתח בכיוון הנכון, בבטחה ולמען בני אדם", הדגיש הנציג נגוין טי סו.

מהי האחריות כאשר בינה מלאכותית עושה טעויות?

בדיון על הצעת החוק בנושא בינה מלאכותית, אמר חבר האסיפה הלאומית פאם נו היפ (העיר הואה) כי בינה מלאכותית יוצרת שינויים עמוקים בתחום הרפואה, החל מניתוחים ואבחון ועד למחקר מדעי. הנציג ציין כי ניתוחים מרחוק מופיעים כבר יותר מ-20 שנה, וכיום, מערכות רובוטיות רבות מסוגלות לבצע ניתוחים אנדוסקופיים ללא התערבות אנושית ישירה. עם ההתפתחות המהירה של הטכנולוגיה, אם תותר, בינה מלאכותית תוכל להשתלט לחלוטין על חלק מהשלבים הכירורגיים, ואף לאיים לשנות את התפקיד המסורתי של המנתחים. באבחון הדמיה, בינה מלאכותית יושמה באופן נרחב בבתי חולים, כולל בית החולים המרכזי הואה, ותומכת בקריאת צילומי רנטגן, סריקות CT וסרטים של המוח.

חבר האסיפה הלאומית פאם נו היפ (העיר הואה) הביע את דעתו על טיוטת החוק בנושא בינה מלאכותית בקבוצה 6. צילום: הו לונג

עם זאת, נציגים הדגישו את הצורך באחריותיות כאשר בינה מלאכותית עושה טעויות. נכון לעכשיו, כל תוצאות הבינה המלאכותית עדיין חייבות להיבדק ולאמת על ידי קלינאים ורדיאולוגים. כאשר התוצאות אינן תואמות את המציאות הקלינית, הרופא יערוך ויעדכן אותן כדי שהבינה המלאכותית תוכל להמשיך ללמוד. תהליך "למידה פסיבית" זה מיושם על ידי בתי חולים רבים, אך עדיין נדרשת מסגרת משפטית ברורה כדי להבטיח את בטיחות המטופלים.

נציג הוועדה פאם נו היפ הביע גם הוא חששות בנוגע להשפעת הבינה המלאכותית על מחקר מדעי, שכן תוכנות לבדיקת גניבה ספרותית הפכו פופולריות וכיום, כלי בינה מלאכותית מסוימים יכולים לכתוב כמעט עבודת דוקטורט שלמה ביום אחד בלבד על סמך הנתונים המסופקים. מצב זה מציב אתגר משמעותי לאתיקה במחקר וליושרה המדעית, ויש לשקול הכללה בתקנות משפטיות ייעודיות.

בנוגע לאחריותם המשפטית של ספקי בינה מלאכותית (סעיף 13), הציעו הנציגים להבהיר מי הגוף האחראי כאשר מערכות בינה מלאכותית גורמות לתאונות או תקריות. המקרה של מכוניות אוטונומיות הוא דוגמה אופיינית: אם מתרחשת התנגשות, יש צורך לקבוע את אחריות המערכת, היצרן או יחידת ניהול התפעול. הנציג ציטט את תאונת הרכב של טסלה בשנת 2015 שאילצה את היצרן לשלם פיצויים גדולים, ואישר כי בינה מלאכותית אינה יכולה להיות אחראית בפני עצמה, אלא שהאחריות חייבת להיות של בני האדם - הארגונים והאנשים שמתכננים, מייצרים ומכניסים את המערכת לשימוש.

בהתייחסו למושג האתיקה של בינה מלאכותית, המיושם על ידי מדינות רבות כדי לקבוע אילו פעולות בינה מלאכותית מותרות ואסור לבצע, הכיר הנציג פאם נו הייפ גם בכך שבהקשר של מערכות בינה מלאכותית בעלות יכולת ללמוד את עצמן, לחשוב את עצמן ואף לחרוג מהמגבלות המקוריות של היצרן, הפיתוח והתפעול של בינה מלאכותית חייבים להיות ממוקמים במסגרת המשפטית והאתית. זאת לא רק כדי להבטיח את בטיחות החברה, אלא גם כדי ליצור בסיס להתפתחות בריאה של תעשיית הבינה המלאכותית בווייטנאם.

כדי לנהל ביעילות את הבינה המלאכותית, יש להבהיר את נושא נתוני הקלט והקניין הרוחני.

בהסכמה עם הדעות הנ"ל, חבר האסיפה הלאומית טרין שואן אן (דונג נאי) העיר גם סדרה של הערות עמוקות הקשורות לטיוטת החוק בנושא בינה מלאכותית, תוך התמקדות בקבוצות עיקריות של נושאים: נתוני קלט, קניין רוחני, היקף יישום, גישת ניהול סיכונים ומודל ארגון יישום.

ציר האסיפה הלאומית טרין שואן אן (דונג נאי) נואם בקבוצה 6 בבוקר ה-21 בנובמבר. צילום: הו לונג

בנוגע לנתוני קלט עבור בינה מלאכותית, אמרו הנציגים כי נתונים הם הבסיס לבינה מלאכותית, אך הצעת החוק לא הבהירה תוכן זה. תקנות בנוגע לנתונים נמצאות כיום תחת חוק הנתונים וחוק הגנת המידע האישי. אם לא צוין במפורש בחוק זה, לפחות חייבת להיות התייחסות מלאה. הנציגים הסכימו עם הדרישה שהנתונים חייבים להיות "נכונים - מספיקים - נקיים - חיים", אך הדגישו את הצורך להוסיף את הקריטריון לפיו הנתונים חייבים להיות שיטתיים ומשודרגים באופן רציף, משום שזהו תנאי לפעולה יעילה ובטוחה של בינה מלאכותית.

בנוגע לקניין רוחני, חברת האסיפה הלאומית טרין שואן אן ציינה כי תוכן הטיוטה עדיין מעורפל מדי, בעוד שבינה מלאכותית היא מוצר אנושי וקשורה קשר הדוק לסוגיות של זכויות יוצרים, בעלות, אחריות משפטית ואתיקה. אם מרכיב הקניין הרוחני לא יובהר בחוק, ניהול הבינה המלאכותית יהיה קשה מאוד. לכן, הנציג המליץ ​​לתקן את חוק הקניין הרוחני ובמקביל להסדיר את סוגיות הבעלות בחוק זה.

בנוגע להיקף היישום, הצביע הנציג על חוסר ההיגיון בסעיף 1 כאשר החוק שולל את השימוש בבינה מלאכותית להגנה לאומית, ביטחון, קריפטוגרפיה ומודיעין, אך הסעיפים הבאים פותחים אפשרות להתאמה אם מערכות אלו משמשות למטרות אחרות. בסביבה הדיגיטלית, קשה להפריד בין בינה מלאכותית למטרות ביטחון לבין הגנה ואזרחיות, משום שבינה מלאכותית יכולה לתמוך בו זמנית ברפואה, בתעשיית הביטחון או במערכות בלתי מאוישות. לכן, החרגה לפי תחום אינה אפשרית. הנציג הציע לבנות מסגרת רגולטורית משותפת, במקום לחלק לפי מטרת שימוש.

חברי האסיפה הלאומית של מחוז דונג נאי בישיבת דיון של קבוצה 6 בבוקר ה-21 בנובמבר. צילום: הו לונג

בנוגע לגישה לניהול וסיווג סיכונים, אמר הנציג כי הטיוטה "מיישמת" את מודל הניהול האירופי, ויוצרת עומסים מיותרים בהקשר של הצורך של וייטנאם לעודד פיתוח בינה מלאכותית. סיווג הסיכונים בן ארבע הרמות כפי שמופיע בטיוטה הוא גם מסובך וגם לא עולה בקנה אחד עם חוק איכות המוצר. הנציג הציע לסווג רק שתי קבוצות: מוצרי בינה מלאכותית מסוכנים ומוצרים ללא סיכון, ולשלב ניהול סיכונים עם ניהול המבוסס על יעילות תפוקה והשפעה כלכלית. הוא גם אמר כי הרגולציה המחייבת עסקים להעריך את עצמם בסיכונים ולהטיל על הממשלה את קביעת הקריטריונים היא "חצי סגורה, חצי פתוחה", וקשה ליישום בפועל.

בנוגע למודל ארגון היישום, חברת האסיפה הלאומית טרין שואן אן הביעה חששות בנוגע להצעה להקים קרן כספית חוץ-תקציבית וועדה לאומית לבינה מלאכותית. לדברי הנציג, יש לשקול היטב את נחיצותם של מוסדות אלה, תוך הימנעות ממצב של "הקמת קרנות וועדות לכל דבר" אך עם יעילות נמוכה. אם באמת יש צורך בכך, יש לשלב את קרן הבינה המלאכותית בקרנות קיימות, למעט במקרים מיוחדים כגון קרנות המשרתות את ההגנה והביטחון הלאומיים. הנציג ציין גם כי יש לקשר את הבינה המלאכותית לפעילויות כלכליות וליוזמות של ארגונים, ולכן יש לייעל את מודל הניהול ולכוון אותו ליעילות אמיתית.

ציר האסיפה הלאומית בוי שואן טונג (דונג נאי)

חברי האסיפה הלאומית נגוין טי נו י ובוי שואן טונג (דונג נאי), שהסכימו עם הדעה הנ"ל, הדגישו גם הם את המסגרת האתית בשימוש בבינה מלאכותית. לדברי הציר בוי שואן טונג, אם נקבע כי המשתמשים חייבים להיות אחראים להחלטות המתקבלות על ידי בינה מלאכותית, אזי במציאות ההחלטה הסופית עדיין היא אנושית. בינה מלאכותית היא רק כלי המספק מידע ייחוס. האדם שמקבל את ההחלטה הסופית אחראי להחלטה זו. לכן, המסגרת האתית צריכה להתמקד באחריות האדם בשימוש במידע מבינה מלאכותית, ולא בקביעה כי בינה מלאכותית חייבת להיות אחראית.

בנוגע לסוגיית הטיפול בהפרות, ציינו הנציגים כי הטיוטה קובעת באופן כללי שניתן לטפל בה באופן מנהלי, אזרחי או פלילי, אך אינה ברורה לגבי גבולות האחריות. לכן, מומלץ להגדיר בבירור אילו התנהגויות יהיו כפופות לאחריות פלילית, אילו התנהגויות יהיו כפופות לאחריות מנהלית, ואת האחריות הספציפית של הספק, המפתח והמשתמש. יחד עם זאת, יש צורך גם להשלים התנהגויות אסורות ולעצב מחדש מסגרת זו כדי שתהיה ברורה, הן כדי ליצור תנאים לפיתוח בינה מלאכותית והן כדי להגדיר בבירור את אחריותם של הגורמים הרלוונטיים.

מקור: https://daibieunhandan.vn/artificial-intelligence-must-operate-in-the-law-and-moral-system-10396524.html