צורך במנגנון להערכת סיכונים הקשורים לבינה מלאכותית

תיוג מוצרים שנוצרו על ידי בינה מלאכותית

Quang canh.jpg — מבט על האסיפה הלאומית אחר הצהריים של ה-27 בנובמבר. צילום: קוואנג פוק

חבר הפרלמנט נגוין טאם הונג (HCMC) הדגיש את מנגנון בקרת הסיכונים של בינה מלאכותית בחיי היום יום, והביע את דעתו כי הצעת החוק המחייבת ספקים להבטיח סימון קריא מכונה עבור תוכן מבוסס בינה מלאכותית היא הכרחית ביותר; עם זאת, הוא הציע לשקול הוספת דרישה מחייבת להצגת פרטי זיהוי ישירות בממשק האינטראקטיבי כאשר התוכן נמצא בסיכון לגרום לבלבול, כדי להגן על משתמשים רגילים, במיוחד ילדים וקשישים, מפני הסיכון למידע שגוי וזיופים עמוקים. תקנה זו מחזקת את האחריות החברתית של ספקי טכנולוגיה ובונה אמון דיגיטלי עבור אנשים.

בנוסף לכך, אמר חבר הפרלמנט נגוין טאם הונג כי באמצעות מחקר, הוא גילה שמודל הבינה המלאכותית הרב-תכליתית הנוכחי לא רק יוצר טקסט או תמונות, אלא יכול גם לייצר קוד מקור, כלי תקיפה, הוראות ביצוע, תהליכי מתקפת סייבר, שיטות הונאה פיננסית וכו'. משם, הציע חבר הפרלמנט להוסיף את החובה לשלוט על "יכולת הייצור העצמי" של המודל כאשר מתירים יצירת קוד מקור, וכי יש צורך במנגנון להתרעה, חסימה והגבלת פלט כדי להבטיח את אבטחת הרשת ואת הסדר והבטיחות החברתיים.

Tam Hung.jpg — הנציג נגוין טאם הונג (HCMC). צילום: QUANG PHUC

בנוסף, בהתייחסו לסיכונים שנוצרים על ידי בינה מלאכותית, אמר סגן הנשיא פאם ואן הואה ( דונג ת'אפ ) כי למרות שטכנולוגיית בינה מלאכותית היא כלי תמיכה בבני אדם, היא מביאה עמה סיכונים גבוהים רבים; סגן הנשיא ביקש מוועדת הניסוח לערוך הערכה אובייקטיבית ומדויקת של נושא זה.

"הסיכונים יכולים להשפיע על חיי אדם, רכוש, זכויות ואינטרסים לגיטימיים של ארגונים ויחידים", אמר סגן חבר הפרלמנט פאם ואן הואה, והוסיף כי יש לכלול תוויות למוצרים שנוצרו על ידי בינה מלאכותית. לדבריו, תיוג בינה מלאכותית נועד ליידע אנשים אילו מוצרים נוצרו על ידי בינה מלאכותית ואילו לא.

הנציג פאם ואן הואה (דונג טאפ). צילום: QUANG PHUC

בינתיים, אמרה סגנית הפרלמנט טרין טי טו אנה ( לאם דונג ) כי סעיף 11 בטיוטת החוק אינו משקף באופן מלא את החשיבה של הערכת סיכונים על סמך השפעות טכנולוגיות. לדבריה, בהקשר הנוכחי, בינה מלאכותית יכולה ליצור שיטות מזיקות שמעולם לא זוהו. לכן, הציעה סגנית הפרלמנט טרין טי טו אנה להוסיף סעיף: "הממשלה תפרט בפירוט ותעדכן ותשלים מעת לעת את רשימת מערכות הבינה המלאכותית עם סיכונים בלתי מקובלים על סמך הערכת סיכונים, מגמות טכנולוגיות ודרישות ניהול מעשיות. לדבריה, מנגנון זה מבטיח שהחוק לא יתיישן ויוכל להגיב במהירות לסיכונים חדשים."

הימנעות מניצול לרעה של בינה מלאכותית

סגן חבר הפרלמנט טראן חאן ת'ו (הונג ין) העלה את נושא הבינה המלאכותית בתמיכה בבדיקות וטיפולים רפואיים, ואמר כי בינה מלאכותית לא רק מסייעת לייעל תהליכים בתעשייה הרפואית, ומפחיתה את עומס העבודה על רופאים ואנשי מקצוע רפואיים, אלא גם ממלאת תפקיד חשוב בהתאמה אישית של הטיפול, ובכך משפרת את תוצאות שירותי הבריאות ומגבירה את יעילות השימוש במשאבים. עם זאת, יישום בינה מלאכותית לזיהוי סימני בריאות הוא לעיתים לא יעיל.

Tu Anh.jpg — נציג Tran Khanh Thu (Hung Yen). צילום: QUANG PHUC

הנציגה ציטטה דוגמה מהחיים האמיתיים של מטופל בן 55 בהו צ'י מין סיטי שהיה במצב של עייפות כשהובא לבית החולים. לפני כן, משפחתו של המטופל השתמשה בבינה מלאכותית כדי לאבחן, ואז הלכה לקנות תרופות עבורו. לאחר השימוש בתרופה, מצבו של המטופל החמיר, ולאחר מכן כשהוא פונה לבית החולים, הוא אובחן עם נזק מוחי, שבץ מוחי ותופעות לוואי בלתי נמנעות.

"בהחלט, אנשים לא צריכים להשתמש בתוצאות חיפוש כדי לאבחן או לרשום תרופות. עם זאת, האם אנשים שמוכרים תרופות לפי מרשמים של בינה מלאכותית מפרים את החוק?", תהה חבר הפרלמנט טראן חאן טו וקיווה שבטיוטת החוק הזו בנושא בינה מלאכותית, יהיו הוראות מסגרת משפטיות ספציפיות יותר לניהול מוצרי בינה מלאכותית במגזר הבריאות, במיוחד בנוגע לאחריותם של הגורמים הרלוונטיים.

בנוגע למעבר מביקורת לאחר הבדיקה לביקורת קדם-ביקורת בטיוטת החוק, הציע חבר הפרלמנט טראן חאן תו כי יהיה סף כמותי ברור, למשל, כאשר המודל משנה את האלגוריתם שלו, מגדיל את גודל המשתמש או שנתוני האימון חורגים מסף מסוים.

Trọng Nghĩa.jpg — הנציג פאם טרונג נג'יה (לאנג סון). צילום: QUANG PHUC

בהתייחסו ל"ניצול לרעה של בינה מלאכותית", אמר סגן חבר הפרלמנט פאם טרונג נגיה (לאנג סון) שאם נסמך יותר מדי על בינה מלאכותית בחיינו, הדבר יפגע ביכולת החשיבה והיצירתיות שלנו. ניצול לרעה של בינה מלאכותית טומן בחובו אי יציבות פוטנציאלית רבה, כגון: הפרת הריבונות הלאומית, הפחתת יעילות המנהל הציבורי ופגיעה בפגיעה בכל אדם ובכל משפחה, ובמיוחד בדור הצעיר.

"עבור המגזר הציבורי, ניצול לרעה של בינה מלאכותית מפחית את היתכנותן, אנושיותן ויעילותן של מדיניות וחוקים. מתן מידע ונתונים רגישים לבינה מלאכותית, אם לא תחת פיקוח קפדני, עלול להוביל לדליפות נתונים, לפגוע בביטחון הלאומי ובסדר ובבטיחות החברתית עם השלכות בלתי צפויות", אמר סגן חבר הפרלמנט פאם טרונג נגיה, שהציע להוסיף סעיף לטיוטת החוק הקובע פעולות אסורות, כולל איסור ניצול לרעה של בינה מלאכותית במגזר הציבורי.

דו טרונג

מקור: https://www.sggp.org.vn/can-co-che-danh-gia-rui-ro-lien-quan-toi-ai-post825783.html