עצה ממומחה: אל תמהרו להכשיר את הבינה המלאכותית

(NLDO) - הסדנה משכה את תשומת ליבם של חוקרים, מרצים, סטודנטים ומומחים בתחום הטכנולוגיה והמשפט.

ב-7 באוקטובר, אוניברסיטת הכלכלה והמשפטים (VNU-HCM) תיאמה עם עיתון המשפט של הו צ'י מין סיטי כדי לארגן כנס מדעי בנושא "בינה מלאכותית ומשפט: ניסיון בינלאומי וכמה הצעות לווייטנאם".

צריך גמישות במקום "מסגרת נוקשה"

בסדנה, הציג פרופסור חבר ד"ר נגו הואו ​​פואוק, סגן דיקן הפקולטה למשפט כלכלי באוניברסיטת הכלכלה והמשפטים, מאמר על השפעת הבינה המלאכותית (AI) על המערכת המשפטית, ניסיון חקיקתי של מדינות ברחבי העולם והצעות מדיניות עבור וייטנאם.

פרופסור חבר, ד"ר נגו הואו ​​פואוק, סגן דיקן האחראי על הפקולטה למשפט כלכלי, אוניברסיטת כלכלה ומשפט, הציג את מאמרו. צילום: הוועדה המארגנת

לדברי מר פואוק, סין היא אחת המדינות בעלות גישה יוצאת דופן לממשל בינה מלאכותית. מדינה זו מיישמת מודל רב-שכבתי, המשלב חוקים בסיסיים כמו חוק אבטחת הסייבר (2017), חוק אבטחת מידע (2021) וחוק הגנת מידע אישי (2021) עם תקנות מיוחדות, תקנות מקומיות ותקנים טכניים בעלי אופי "חוק רך". גישה זו מסייעת לסין הן לנהל באופן קפדני והן ליצור תנאים לבדיקות טכנולוגיה במסגרת הפיקוח.

היתרונות העיקריים הם מהירות וגמישות, המאפשרים התאמות מהירות של מדיניות בהתאם לפרקטיקות טכנולוגיות, תוך קידום פיתוח של מערכת אקולוגית חזקה של בינה מלאכותית. עם זאת, מודל זה חושף גם מגבלות מבחינת פרטיות, חפיפה משפטית וסיכון לחנק חדשנות עקב התערבות עמוקה של המדינה.

בהתבסס על ניסיון בינלאומי, פרופסור חבר ד"ר נגו הואו ​​פואוק סבור כי וייטנאם עדיין לא צריכה לחוקק חוק נפרד בנושא בינה מלאכותית בשלב הנוכחי. הסיבה לכך היא שהמערכת האקולוגית המקומית של בינה מלאכותית עדיין אינה בוגרת מספיק כדי לקבל אישור חוקי. בינתיים, "מסגרת משפטית נוקשה" תעכב חדשנות. מצד שני, משאבי הניהול של המדינה עדיין מוגבלים.

במקום זאת, הוא הציע לפרסם מסגרת אתית (קוד התנהגות) בתחום הבינה המלאכותית שתנחה התנהגות ופיתוח אחראיים; בניית ארגז חול של בינה מלאכותית שתאפשר בדיקות מבוקרות; ותיקון והשלמה של חוקים קיימים כדי לשלב תקנות הקשורות לבינה מלאכותית במערכת המשפט הקיימת.

לדברי מומחים, הכוונות הללו יסייעו לווייטנאם לנצל הזדמנויות הגלומות בבינה מלאכותית בצורה גמישה, בטוחה ובהתאם לתנאים בפועל במדינה.

כאשר בינה מלאכותית דופקת על דלת בית החולים

לדברי פרופסור חבר, ד"ר לה מין קוי - ראש המחלקה למדעים והכשרה, בית החולים האוניברסיטאי לרפואה ורוקחות, הו צ'י מין סיטי, בהשוואה לתחומים כמו כלכלה או תקשורת, בינה מלאכותית ברפואה פותחה באמצעות מודלים מתקדמים רבים. עם זאת, היישום המעשי עדיין זהיר. "רופאים עדיין בתהליך של חקירה האם בינה מלאכותית היא 'ידידה' או 'אויבת'", שיתף פרופסור חבר, ד"ר לה מין קוי.

לדברי פרופסור חבר, ד"ר לה מין קוי, הכנסת הבינה המלאכותית לתחום הרפואי מציבה שורה של סיכונים פוטנציאליים כגון אבטחת מידע ופרטיות, הטיה באלגוריתמים ואתיקה, סוגיות של בטיחות, אחריות ושקיפות...

אחד הסיכונים הגדולים הוא "האשליה" של בינה מלאכותית. אם מתרחשות שגיאות במערכת שנפרסת באופן נרחב, ההשלכות עלולות להשפיע על אלפי מטופלים. שאלת האחריות היא גם קוצנית: אם בינה מלאכותית גורמת לשגיאות באבחון או בטיפול, מי אחראי - הרופא המשתמש במערכת, מפתח המערכת, המפיץ, בית החולים או הרגולטור?

סצנת הכנס - צילום: ועדת הארגון

בנוסף, אם רופאים מסתמכים יותר מדי על בינה מלאכותית, הם עלולים לאבד את יכולתם לחשוב ולבצע שיפוטים קליניים, ובהדרגה לאבד את היכולת לזהות ולתקן טעויות, בעוד שפיקוח אנושי נותר גורם הכרחי. בנוסף, מנטליות שמרנית, פחד מאובדן מקום עבודתם או חוסר הבנה של טכנולוגיה גם גורמים לרבים מהצוות הרפואי להסס לגשת לבינה מלאכותית.

בנוגע לאתגרים משפטיים, ציין פרופסור חבר ד"ר לה מין קוי כי מהירות פיתוח הבינה המלאכותית כיום חורגת בהרבה מיכולתה של מערכת הרגולציה לווסת. הטכנולוגיה מתקדמת מהר מדי, בעוד שהרגולציות איטיות, מה שגורם לנו ליפול למצב "חונק" בין שני קצוות: אם נחמיר אותה, היא תחנוק את החדשנות, אך אם נרפה אותה, היא תהיה מסוכנת למטופלים. בנוסף, תשתית הנתונים הרפואיים בווייטנאם עדיין מקוטעת, לא עקבית ובאיכות לא אחידה, מה שמקשה על אימון ובדיקת מודלים של בינה מלאכותית.

מר קוי סיכם כי בינה מלאכותית היא הזדמנות מצוינת לתעשיית הרפואה אך גם מבחן ליכולת ההסתגלות, הפתיחות והאחריות האנושית בעידן הדיגיטלי.

מקור: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm