מיזוג 3 קרנות מדע וטכנולוגיה מסייע לרכז משאבים

בדיון בקבוצה 16 (כולל משלחות האסיפה הלאומית של העיר דא נאנג, מחוז טויאן קוואנג ופרובינציית קאו באנג) בבוקר ה-21 בנובמבר, אמרו חברי האסיפה הלאומית כי הקמת הקרן הלאומית לפיתוח בינה מלאכותית תסייע לקדם ולתמוך ביכולת המחקר וכן ביישום בינה מלאכותית במדינה. עם זאת, כיום קיימות שתי קרנות נוספות למדע וטכנולוגיה, ולכן יש צורך לשקול למזג אותן לקרן משותפת כדי למקד משאבים בתמיכה במחקר ובחדשנות טכנולוגית, כולל בינה מלאכותית.

יש צורך לווסת התנהגויות אסורות במחקר ויישום של בינה מלאכותית.

בינה מלאכותית (AI) הופכת לטכנולוגיה פורצת דרך של המהפכה התעשייתית 4.0, ופותחת הזדמנויות רבות לפיתוח חברתי -כלכלי. עם זאת, היא מציבה גם אתגרים דחופים רבים בניהול, אתיקה ובטיחות, שהתקנות החוקיות הנוכחיות אינן מכסות במלואן.

לכן, כל חברי האסיפה הלאומית הסכימו על הצורך לפתח טיוטת חוק בנושא בינה מלאכותית כדי ליצור מסדרון משפטי פורץ דרך לבינה מלאכותית, ליצור סביבה משפטית נוחה לקידום חדשנות, לשיפור התחרותיות הלאומית, ובמקביל לנהל סיכונים, להגן על אינטרסים לאומיים וזכויות אדם.

ציר האסיפה הלאומית טראן דין צ'ונג ( דה נאנג סיטי) נואם. צילום: פאם טאנג

חבר האסיפה הלאומית טראן דין צ'ונג (דה נאנג), מודאג מהשימוש בבינה מלאכותית בסוכנויות המדינה, אמר כי הדבר יסייע לסוכנויות, פקידים ועובדי מדינה לחסוך זמן רב, לעבד עבודה מהר יותר ובצורה סינכרונית יותר, ויתרום לשיפור איכות העבודה.

בנוסף לתועלות העלות והזמן של יישום בינה מלאכותית בסוכנויות מדינה, ציינו הנציגים גם כי קיימות כיום סוגיות רבות שיש לחקור אותן לעומק ולפרט אותן בטיוטת החוק.

הראשון הוא האבטחה בעת שימוש בבינה מלאכותית, מכיוון שפקידים ועובדי מדינה צריכים כיום לספק מידע קלט עבור הכשרת בינה מלאכותית וכן במהלך תהליך ההפעלה. לכן, אם לא מנוהלים בקפדנות, קיים סיכון שנתונים פנימיים, נתונים רגישים או מידע סודי של המדינה יוכנסו לתוכנת בינה מלאכותית, או שנתונים ישמשו למטרות שאינן הכשרת בינה מלאכותית. נתונים הם גם נושא לדאגה כאשר אין תקנות ספציפיות לגבי אופן אחסונם, היכן לאחסנם וזכויות גישה.

שנית, ריכוז כמות גדולה של נתונים מסוכנויות ממשלתיות לתוך תוכנות בינה מלאכותית יוצר גם סיכון של האקרים לתקוף ולגנוב נתונים. בפרט, סיכון זה גובר גם משום שסוכנויות ממשלתיות אינן יכולות לבנות ולהפעיל תוכנות בינה מלאכותית בעצמן, אלא מסתמכות לעתים קרובות על שיתוף פעולה עם עסקים חיצוניים. במקביל, גם תוכנות ריגול עכשוויות ממדינות זרות מתפתחות, כך שהשימוש בבינה מלאכותית כרוך גם בסיכון של גניבת נתונים ושליטה.

שלישית, סיכון נוסף הוא דיוק. מכיוון שתוכנות בינה מלאכותית יכולות גם לייצר תוצאות לא מדויקות עקב למידה מנתונים זמינים, יכולות לרשת הטיות או פתרונות שגויים שעובדי מדינה קיבלו בעבר. "נתונים לא מדויקים או לא שלמים משפיעים רבות גם הם על איכות הבינה המלאכותית", הדגיש הנציג.

לפקידים, עובדי מדינה או אזרחים אין את הכישורים לשאול שאלות לבינה מלאכותית, מה שמוביל לתשובות מוגבלות. בינתיים, בינה מלאכותית זקוקה לזמן כדי לעדכן מסמכים משפטיים חדשים והוראות חדשות מסוכנויות מדינה.

ציר האסיפה הלאומית טה ואן הא (דה נאנג סיטי) נואם. צילום: פאם טאנג

רביעית, איכות הבינה המלאכותית כיום אינה עומדת בדרישות. חלק ממודלי הבינה המלאכותית מורכבים מאוד, מה שמקשה על שליטה בתהליך הניתוח, עיבוד נתונים והסבר מדוע בינה מלאכותית מקבלת החלטה מסוימת. בנוסף, בעיית השגיאות באלגוריתמים או במערכות בינה מלאכותית מובילה גם היא לשגיאות.

בנוסף לדרישות התשתית הטכנית ומשאבי האנוש ליישום בינה מלאכותית בסוכנויות המדינה, ציין הנציג טראן דין צ'ונג גם כי יש לשים לב לסיכון של ניצול לרעה של טכנולוגיית בינה מלאכותית, אשר יפחית את כישוריהם של עובדי המדינה. פקידים יעשו פחות מחקר משום שהם חושבים שהם צריכים רק לדחוף אותו לתוכנה כדי שהבינה המלאכותית תוכל לעזור לענות על שאלות מדאיגות.

"השימוש בטכנולוגיית בינה מלאכותית בסוכנויות מדינה הוא מגמה בלתי נמנעת. אבל כיצד להשתמש בה כדי להבטיח יעילות עבודה תוך הבטחת אבטחת מידע ובטיחות היא נושא שעולה." לכן, הנציג טראן דין צ'ונג הסכים לבנות את פרויקט חוק הבינה המלאכותית, אך גם הציע להמשיך ולבחון אותו כדי להבטיח עקביות ועקביות עם חוקים קשורים.

הנציגים הציעו גם ללמוד ולהוסיף סעיף המסדיר התנהגויות ופעילויות אסורות במחקר, יישום ואימוץ של בינה מלאכותית, במקום לפזר אותן בסעיפים רבים בטיוטת החוק כפי שקרה כיום, מה שמוביל לקושי במעקב.

לדברי הנציג, הגדרה ברורה של האחריות המשפטית של בינה מלאכותית חשובה מאוד כדי למנוע סכסוכים משפטיים עתידיים וכן לטפל בהפרות. מצד שני, בינה מלאכותית קשורה למכונות ולטכנולוגיה, כך שבנוסף לטעויות מעשה ידי אדם שניתן לייחס לה, ניתן לייחס אותה גם למכונות, טכנולוגיה או גורמים אחרים. לכן, יש לערוך מחקר כדי להגדיר אותם באופן ספציפי מאוד, תוך הימנעות מטשטוש של אחריות משפטית, במיוחד ביישום ובשימוש בבינה מלאכותית בסוכנויות מדינה.

יש צורך להגדיר בבירור את הגוף האחראי על ניהול הסיכונים בתחומים.

מתוך דאגה בנוגע לניהול מערכות בינה מלאכותית בסיכון גבוה, הקבוע בסעיף II, פרק II של הצעת החוק, אמר חבר האסיפה הלאומית וונג טי הואנג (טויאן קוואנג) כי יש לזהות את מגזר הבריאות כאחד המגזרים בסיכון גבוה בעת יישום בינה מלאכותית, בשל השפעתה הישירה על חיי אדם ובריאותו, נתונים אישיים רגישים ואמון חברתי. מערכות בינה מלאכותית התומכות באבחון תמונות, טיפול במחלות, ניתוחים, ניתוח גנים וכו', אם אינן מפוקחות, אינן עומדות בתקני בטיחות או אינן שקיפות בנתוני האימון, עלולות לגרום לתוצאות חמורות, ואף בלתי הפיכות.

נציג האסיפה הלאומית Vuong Thi Huong (Tuyen Quang) נואם. צילום: Pham Thang

הצעת החוק קובעת את סיווג וניהול הסיכונים, אך אינה מבהירה מי הגוף האחראי על הניהול בכל תחום ספציפי. בינתיים, מצאו הנציגים כי במגזר הבריאות, אם תיאום כללי יוקצה לגוף ניהול טכנולוגיית המידע מבלי להגדיר בבירור את תפקידו של מגזר הבריאות, הדבר עלול להוביל לחפיפה בהערכה, חוסר אחידות בסטנדרטים מקצועיים וקשיים בניהול מוצרי בינה מלאכותית המשמשים כמכשירים רפואיים או מיושמים בבדיקות וטיפולים רפואיים.

לכן, מוצע להשלים את התקנה המטילה על משרד הבריאות את האחריות לניהול מערכות בינה מלאכותית בסיכון גבוה בתחום הרפואי, לתאם עם משרד המידע והתקשורת ועם משרדים וענפים רלוונטיים על מנת: לפרסם סטנדרטים טכניים, הערכה קלינית ובדיקת בטיחות; תקנות בנושא אבטחת נתוני רשומות רפואיות וחיבור מערכות מידע רפואיות; ולנטר סיכונים במהלך השימוש.

"הגדרה ברורה של מוקד העניינים תיצור בסיס משפטי איתן, תבטיח את בטיחות המטופלים, ובמקביל תיצור תנאים לעסקי טכנולוגיה ולמתקנים רפואיים לפרוס יישומי בינה מלאכותית בצורה שקופה ומבוקר", הדגיש הנציג וונג טי הואנג.

בהסכמה עם ההוראות בנוגע לקרן הלאומית לפיתוח בינה מלאכותית בסעיף 23 של הצעת החוק, אמר חבר האסיפה הלאומית, בי מין דוק (קאו באנג), כי קרן זו הוקמה כדי לקדם ולתמוך ביכולת המחקר וכן ביישום בינה מלאכותית במדינה. עם זאת, כיום יש לנו את הקרן הלאומית לפיתוח מדע וטכנולוגיה ואת הקרן הלאומית לחדשנות טכנולוגית, שמטרתן גם לתמוך במחקר ובחדשנות טכנולוגית, כולל בינה מלאכותית.

חבר האסיפה הלאומית בי מין דוק (קאו באנג) נואם. צילום: פאם טאנג

למרות שהיקף ומטרת כל סוג של קרן שונים, כולם מתמקדים בתחומי המדע והטכנולוגיה. לכן, מומלץ לבחון ולקבוע את הקשר בין סוגי הקרנות כדי לקדם את יעילותה של כל סוג של קרן, למנוע כפילויות של תפקידים, פיזור משאבים והגדלת נטל התקציב.

אפילו משום שהם נמצאים תחת אותו משרד ניהול, הציעו הנציגים שיש לשקול שילוב של שלושת סוגי הקרנות הללו, תוך ריכוז משאבים ליישום מדיניות תמיכה לפיתוח חיובי יותר של מדע וטכנולוגיה.

בנוסף, הציע הנציג בי מין דוק כי חוקים ייעודיים רלוונטיים צריכים לכלול גם תקנות ספציפיות בנושא בינה מלאכותית בכל תחום. זהו עיקרון שיש להסדיר, משום שמדינתנו נכנסת לעידן הדיגיטלי. בינה מלאכותית נחקרה ויושמה בהרחבה בכל התעשיות, בכל תחומי הסוציו-אקונומיים, ההגנה והביטחון. הוספת העיקרון הנ"ל תסייע להבטיח רגולציה מקיפה של נושאים ספציפיים ולעמוד בדרישות הניהול בהקשר של טכנולוגיה המתפתחת במהירות כפי שהיא כיום.

מקור: https://daibieunhandan.vn/gop-3-quy-ve-khoa-hoc-cong-nghe-giup-tap-trung-nguon-luc-10396526.html