חוק הבינה המלאכותית צריך לעצב את "תרבות הבינה המלאכותית", תוך כיבוד ערכים תרבותיים, אתיקה וזהות לאומית.

בדיון הקבוצתי על פרויקט חוק הבינה המלאכותית - החוק הראשון בווייטנאם המסדיר את תחום טכנולוגיית הפלטפורמות, אשר ישפיע ותהיה לו השפעה עמוקה על כל היבטי החיים הכלכליים, החברתיים, התרבותיים והחינוכיים, ובונה עמודי תווך מוסדיים לעידן הדיגיטלי, פרופסור חבר ד"ר בוי הואי סון, חבר קבוע בוועדת התרבות - חברה, התעניין במיוחד באופן שבו חוק זה מעצב את "תרבות הבינה המלאכותית", תוך הבטחה שהבינה המלאכותית משרתת את האנשים, מכבדת ערכים תרבותיים, אתיקה, זהות לאומית וזכויות אדם.

יש להדגיש בצורה ברורה יותר עומק תרבותי וזכויות אדם בניהול בינה מלאכותית

הציר בוי הואי סון העריך מאוד את סעיף 4 בטיוטת החוק, אשר אישר את עקרונות "לקיחת האדם במרכז, כיבוד כבוד האדם, זכויות האדם, פרטיותו והבטחת האינטרסים הציבוריים"; "הבטחת בטיחות, הוגנות, שקיפות, היעדר משוא פנים, היעדר אפליה והיעדר פגיעה באנשים או בחברה"; "ציות לחוק, לסטנדרטים האתיים ולערכים התרבותיים של וייטנאם, תרומה לחיזוק הסדר, המוסר והפיתוח החברתי הבריא"; ובמקביל "קידום חדשנות הקשורה לפיתוח ירוק, כוללני ובר קיימא, ושימור הזהות התרבותית הלאומית".

זירת הדיון בקבוצה 1 - משלחת האסיפה הלאומית של העיר האנוי

עם חוק טכנולוגיה, הצבת התרבות, האתיקה, הזהות והאנשים במרכז היא בחירה נכונה מאוד. זה עולה בקנה אחד עם רוח החוקה, עם הנחיות המפלגה בנוגע לתרבות כבסיס רוחני, המטרה והכוח המניע לפיתוח, ובו בזמן מראה בבירור את המסר: בינה מלאכותית חייבת לשרת אנשים, לא להחליף אנשים. מנקודת מבט תרבותית, אמרה הנציגה בוי הואי סון שזהו הבסיס עבורנו לבניית "תרבות בינה מלאכותית" - כלומר, מערכת הערכים, הסטנדרטים, סגנונות החיים וההתנהגויות של אנשים בסביבה רוויה יותר ויותר בטכנולוגיה.

• 

  צעדים נוספים להתמודדות עם שינויים חברתיים שנגרמו על ידי בינה מלאכותית

עם זאת, כדי להקל על יישום עקרונות אלה, הסכים הנציג בוי הואי סון עם חוות דעתה של ועדת המדע, הטכנולוגיה והסביבה כי יש לארגן מחדש את העקרונות לקבוצות: קבוצה לאנשים וזכויות, קבוצה לבטיחות - סיכונים, קבוצה לאתיקה - חוק, קבוצה לפיתוח - אינטגרציה, כדי למנוע כפילויות, להגביר את ההיגיון וקלות היישום עבור ישויות יישום. במקביל, יש צורך לשקול הוספת עקרונות ברורים לגבי אחריות ומעקב אחר מערכות בינה מלאכותית, תוך הבטחה שניתן יהיה לבקר ולנטר את כל המערכות לאורך מחזור חייהן, במיוחד בתחומים רגישים כמו עיתונות, תקשורת, חינוך ותרבות.

עם זאת, הנציג בוי הואי סון הציע להבהיר את התוכן הקשור לקבוצות פגיעות: נשים, ילדים, אנשים עם מוגבלויות, מיעוטים אתניים וכו'. בינה מלאכותית יכולה לשכפל שלא במתכוון דעות קדומות מגדריות, אזוריות ואתניות אם נתוני האימון מכילים דעות קדומות כאלה. לכן, בסעיף 4 ובהוראות הנוגעות להגנת המשתמש, יש צורך להוסיף דרישות להערכת ההשפעה החברתית-תרבותית וההשפעה על שוויון מגדרי, על קבוצות פגיעות בתהליך תכנון ותפעול של מערכות בינה מלאכותית.

הנציגים הביעו את הסכמתם עם הצעת סוכנות הביקורת לפיה טיוטת החוק צריכה לכלול הוראות נפרדות בנוגע לזכויות המשתמשים ולאלו המושפעים ממערכות בינה מלאכותית, כגון הזכות לדעת והזכות לבקש מבני אדם לעיין בהחלטות אוטומטיות המתקבלות על ידי בינה מלאכותית. זוהי לא רק סוגיה משפטית אלא גם סוגיה תרבותית: להבטיח שבני אדם תמיד ישמרו על שליטה ולא "יישלטו" באופן לא מודע על ידי אלגוריתמים בחיי היומיום שלהם.

נציג בוי הואי סון, משלחת האסיפה הלאומית של העיר האנוי

מדיניות המדינה צריכה להדגיש יותר את המימד התרבותי ואת יכולת ההסתגלות החברתית לבינה מלאכותית.

סעיף 5 לטיוטה קבע כי המדינה מיישמת את המדיניות של "פיתוח בינה מלאכותית כדי להפוך לכוח מניע חשוב לצמיחה, חדשנות ופיתוח בר-קיימא של המדינה", ובמקביל מקשרת אותה לפיתוח ירוק וכוללני, הגנת הסביבה ו"שימור הזהות התרבותית הלאומית". דו"ח הסקירה הציע גם להוסיף מדיניות חשובה מאוד כגון: קידום בדיקות מבוקרות של טכנולוגיות בינה מלאכותית מתקדמות אך בעלות פוטנציאל מסוכן; הבטחת גישה לנתוני עתק איכותיים לצורך הכשרת מודלים; קיום מנגנון למשיכת ותגמול של מומחים; ובמיוחד מדיניות של "הכשרה מעמיקה והפצת ידע ומיומנויות דיגיטליות בסיסיות, אתיקה של בינה מלאכותית עבור פקידים, עובדי מדינה, אנשים, ובמיוחד ילדים" לשימוש בטוח בבינה מלאכותית.

בהסכמה עם הצעות אלה, מנקודת מבט תרבותית, הציע הנציג בוי הואי סון כי טיוטת החוק, בסעיף 5 או בפרק העוסק במדיניות, תציין בצורה ברורה יותר נקודות מבט כגון:

לעודד ולתעדף את היישום של בינה מלאכותית בשימור וקידום מורשת תרבותית, ביצירה אמנותית ובפיתוח תעשיות תרבותיות. אלו תחומים שבהם לווייטנאם יש יתרונות במשאבים תרבותיים, אך היא מוגבלת במשאבים; בינה מלאכותית יכולה להיות כלי יעיל לדיגיטציה של מורשת, יצירת מוצרים חווייתיים חדשים ושיפור הפרודוקטיביות היצירתית.

ישנן מדיניות לתמיכה בעסקים יצירתיים ובסטארט-אפים תרבותיים ואמנותיים המיישמים בינה מלאכותית, למשל בהפקת סרטים, מוזיקה , עיצוב, פרסום, תיירות תרבותית וכו', תוך דרישה קפדנית לעמידה בסטנדרטים אתיים וזכויות יוצרים.

בכל הנוגע לביג דאטה לצורך הכשרת בינה מלאכותית, יש צורך להתייחס לנתונים תרבותיים, היסטוריים, לשוניים, ספרותיים ואמנותיים של וייטנאם כ"משאב אסטרטגי". מדיניות נתונים צריכה ליצור תנאים עבור מודלים של בינה מלאכותית וייטנאמית לגשת לאוצרות השפה והתרבות הוייטנאמית באופן חוקי ומבוקר, ובכך גם להגן על זכויות יוצרים וגם לסייע לבינה מלאכותית "לדבר וייטנאמית" טוב יותר ולהבין טוב יותר את התרבות הוייטנאמית.

חינוך, הכשרה ופיתוח משאבי אנוש כדי להפוך את הבינה המלאכותית להזדמנות לקידום התרבות הדיגיטלית הווייטנאמית

הצעת החוק מקדישה סעיף חשוב מאוד לחינוך ולפיתוח משאבי אנוש, וקובעת כי חינוך כללי "משלב תכנים בסיסיים בנושאי בינה מלאכותית, חשיבה חישובית, מיומנויות דיגיטליות ואתיקה טכנולוגית בתוכניות חובה"; מוסדות להכשרה מקצועית ואוניברסיטאות מפתחים תוכניות הכשרה בנושאי בינה מלאכותית ומדעי הנתונים; המדינה מיישמת את "התוכנית הלאומית לפיתוח משאבי אנוש בתחום הבינה המלאכותית", לרבות מדיניות הכשרה, מלגות, משיכה והעסקה של מומחים, פיתוח צוות מרצים, מדענים וניהול משאבי אנוש בתחום זה.

הנציג בוי הואי סון העריך מאוד גישה זו משום שהיא קישרה את חוק הבינה המלאכותית עם החלטה 71 של הוועדה המרכזית בנושא פריצות דרך בפיתוח חינוך והכשרה, כמו גם את ההחלטה בנושא מנגנונים ומדיניות ספציפיים ליישום החלטה 71-NQ/TW, אשר גם היא נבחנת על ידי האסיפה הלאומית במושב זה. עם זאת, מהפרקטיקה של חינוך תרבותי, אמר הנציג כי הוראת בינה מלאכותית בבתי ספר אינה עוסקת רק בהוראת מיומנויות בשימוש בכלים, אלא גם בהוראת "תרבות דיגיטלית", "אתיקה טכנולוגית" ויכולת להעריך מידע. על הלומדים להבין את הסיכונים כגון מידע שגוי, מניפולציה של דעת הקהל, תלות במכונות ואובדן יכולת חשיבה עצמאית ויצירתית.

לכן, מומלץ כי הצעת החוק תוסיף דגש רב יותר על תוכן חינוכי בנושאים הבאים: פרטיות, הגנה על מידע אישי בסביבת בינה מלאכותית; כיבוד זכויות יוצרים, זכויות קשורות, אתיקה יצירתית בעת שימוש בבינה מלאכותית באמנות; יחד עם הכשרה ביכולת אסתטית, חשיבה ביקורתית, ויכולת להבחין בין תוכן שנוצר על ידי בני אדם לתוכן שנוצר על ידי בינה מלאכותית, כדי לא להשוות הכל, לא לאבד את "נשמת" התרבות.

יש לעצב תכנים אלה בהתאם למדיניות בנושא הכשרת משאבי אנוש בעלי כישורים גבוהים, אוטונומיה של אוניברסיטאות ושיתוף פעולה בינלאומי בחינוך, כפי שמוזכרת בהחלטה בנושא מנגנונים ומדיניות ספציפיים לחינוך, כולל תכנים בנושא הכשרה ייעודית ותחומי התרבות, האמנויות וספורט בעל ביצועים גבוהים.

הימנעו מפערים וחפיפות בין חוק הבינה המלאכותית לבין חוקים ייעודיים בתחומי התרבות, העיתונות והקניין הרוחני.

דו"ח הסקירה ציין כי יש להמשיך ולבחון את טיוטת החוק על מנת להבטיח עקביות עם קבוצות חוקים בנושאי תשתית דיגיטלית, נתונים, אבטחה, בטיחות; מדע, טכנולוגיה וחדשנות; מיזמים, השקעות, מימון; חינוך; ובמיוחד קבוצות חוקים הקשורות לאתיקה, חברה, זכויות וחובות, ואחריות משפטית כגון חוק האזרחי, דיני עבודה, חוק ילדים, חוק אנשים עם מוגבלויות, חוק קניין רוחני, חוק טיפול בעבירות מנהליות, חוק העונשין וכו'.

עם זאת, הנציג בוי הואי סון הדגיש כי נושא זכויות הקניין הרוחני וזכויות היוצרים על מוצרים שנוצרו באמצעות בינה מלאכותית הופך לתחום חם בעולם, וגורם לסכסוכים רבים, אך טיוטת החוק הנוכחית אינה קובעת זאת בבירור. דו"ח הסקירה גם הציע כי יש צורך לדון עם הגוף המנסח את החוק לתיקון והשלמה של מספר סעיפים בחוק הקניין הרוחני כדי להשלים את התקנות בנושא זכויות קניין רוחני, זכויות יוצרים ואחריות משפטית לתוכן שנוצר באמצעות בינה מלאכותית. בהתחשב בכך שמדובר בעניין קרוב של אמנים ומפיקים תרבותיים ואמנותיים, אם לא יוסדרו בזמן, אמנים וייטנאמים עלולים להיות מקופחים וסביבת היצירה התרבותית תהפוך לבלתי יציבה, ולכן הציע הנציג כי חוק הבינה המלאכותית יכלול לפחות הוראה עקרונית אחת, המאשרת כי כל יישומי הבינה המלאכותית חייבים לכבד זכויות קניין רוחני, אסור להם להשתמש באופן בלתי חוקי בנתוני אימון מיצירות ספרותיות, אמנותיות, מוזיקליות, קולנועיות וכו', ולהטיל על חוק הקניין הרוחני את הטיפול בפרטים.

בנוסף, יש צורך להבהיר את אחריותן של פלטפורמות המספקות שירותי בינה מלאכותית, ובמיוחד פלטפורמות חוצות גבולות, בכיבוד חוקי וייטנאם בנושאי עיתונאות, קולנוע, אבטחת סייבר, אבטחת מידע, ילדים וכו'. ללא תקנות חזקות מספיק, יהיה קשה מאוד להתמודד עם מעשי הפצת תוכן רעיל שנוצר על ידי בינה מלאכותית, החל מניוזות כזב ועד תוכן המסית לאלימות, שנאה, שחיתות ופגיעה בתרבות ובאתיקה חברתית.

נציגים המשתתפים בפגישה

להבטיח משאבים ומנגנוני ניטור חברתיים לאכיפת החוק

בהסכמה עם המדיניות של הקמת ועדה לאומית לבינה מלאכותית, בניית פורטל לאומי לבינה מלאכותית, מסד נתונים לאומי למערכות בינה מלאכותית, יחד עם מנגנוני תמריצים, קרנות פיתוח בינה מלאכותית וכו' כפי שצוין בטיוטת החוק ובדוח הסקירה, הציע הנציג בוי הואי סון לשקול היטב משאבים כספיים, משאבי אנוש, הקצאה וביזור בתהליך יישום החוק.

לדברי הנציג, בוועדה הלאומית לבינה מלאכותית, צריכה להיות השתתפות קבועה ומשמעותית של סוכנויות האחראיות על תרבות, חינוך, מידע, עיתונות וזכויות אדם כדי להבטיח שקריטריונים תרבותיים-חברתיים וזכויות אדם ישולבו מראש בכל החלטות המדיניות בנושא בינה מלאכותית.

בנוסף, מנגנון הפיקוח על יישום החוק אינו רק פיקוח מנהלי אלא גם דורש ערוץ פיקוח חברתי: קולותיהם של איגודים מקצועיים, ארגונים חברתיים, אמנים, אקדמיה וקבוצות פגיעות. בעת פרסום תקנות טכניות ותקנים לבינה מלאכותית, יש לקיים תהליך התייעצות ציבורית כדי למנוע "טכנוקרטיזציה" של תחום זה, כך שלאנשים המושפעים ישירות תהיה הזדמנות להשמיע את קולם.

החוק צריך גם לשלוח מסר ברור לגבי הבטחת גישה שווה למשתמשים ולארגונים בווייטנאם לפלטפורמות בינה מלאכותית מרכזיות, תוך הימנעות ממצב שבו עסקים מסוימים משתלטים, מגבילים את הגישה או מניפולציות בשוק באופן שפוגע במשתמשים ובעסקים וייטנאמים.

באישורו כי בינה מלאכותית היא הזדמנות היסטורית עבור וייטנאם לצמצם את פער הפיתוח, אך גם מבחן עצום ליכולות התרבותיות, האינטליגנציה והממשל, תמך הנציג בוי הואי סון בפרסום חוק הבינה המלאכותית לכיוון חוק מסגרת, גמיש, שיתחשב באדם ובתרבות במרכז, ובמקביל הציע כי סוכנות המנסחת תמשיך לחקור ולקלוט לעומק את דעותיהם של הסוקרים, במיוחד בנושאים הקשורים לערכים תרבותיים, אתיקה, זכויות אדם, חינוך, קניין רוחני ופיקוח חברתי. אם יושלם כראוי, חוק הבינה המלאכותית לא רק יהיה חוק טכנולוגי, אלא גם יהפוך לחוק יסוד של העידן החדש - שבו בינה מלאכותית מלווה את העם הווייטנאמי, יחד עם התרבות הווייטנאמית, במסע לעלייה חזקה, בת קיימא ואנושית.

מקור: https://bvhttdl.gov.vn/luat-tri-tue-nhan-tao-can-dinh-hinh-van-hoa-ai-ton-trong-cac-gia-tri-van-hoa-dao-duc-ban-sac-dan-toc-20251122155829015.htm