"כשאני מקשיב לזמר שר, אני לא יודע אם זה אמיתי או מבוסס על בינה מלאכותית. אנחנו צריכים לתייג מוצרים שנוצרו על ידי בינה מלאכותית."

(דן טרי) - נציג הוועדה נגוין טאנה האי ציין כי במציאות, קשה להבחין בין מוצרים רבים כיום בין מוצרים אמיתיים למוצרים שנוצרו על ידי בינה מלאכותית, ולכן יש צורך לתייג מוצרים שנוצרו על ידי בינה מלאכותית.

הנציג נגוין טאנה האי ציין כי במציאות, קשה להבחין בין מוצרים רבים כיום בין מוצרים אמיתיים למוצרים שנוצרו על ידי בינה מלאכותית, ולכן יש צורך לתייג מוצרים שנוצרו על ידי בינה מלאכותית.

זהו אחד מהנושאים שהעלה יו"ר ועדת המדע , הטכנולוגיה והסביבה, נגוין טאנה האי, בדיון הקבוצתי בבוקר ה-21 בנובמבר, על טיוטת החוק בנושא בינה מלאכותית.

הצעת החוק, שהוגשה הבוקר לאסיפה הלאומית , קובעת כי תוכן שנוצר או נערך על ידי מערכות בינה מלאכותית המכיל אלמנטים מזויפים, מדמה אנשים אמיתיים, אירועים אמיתיים, ועלול לגרום לצופים, למאזינים או לקוראים להבין לא נכון שהוא אמיתי; תוכן שנוצר על ידי בינה מלאכותית למטרות תקשורת, פרסום, תעמולה או מתן מידע לציבור חייב להיות מתויג.

סגן יו"ר הוועדה למדע, טכנולוגיה וסביבה נגוין טאנה האי (צילום: הונג פונג).

יו"ר הוועדה למדע, טכנולוגיה וסביבה, נגוין טאנה האי, התייחס לכך שמדובר בטיוטת חוק חדשה מאוד ואמר כי בעולם מדינות רבות התפתחו בתחום זה אך אין להן חוקים, אלא רק מפרסמות מסגרת אתית לפני חקיקת חוקים.

גב' חי מאמינה כי לחוק תהיה השפעה חזקה על כל תחומי החיים, ולכן נקודת המבט של חקיקת החוק היא לאזן בין ניהול לקידום יצירתיות.

"אם הניהול חזק, הרעיונות הראשוניים לגבי בינה מלאכותית יהיו מוגבלים, אך אם לא ינוהלו בקפדנות, הדבר יגרום לסיכונים גדולים, שאף ישפיעו על הבטיחות והאבטחה", הדגישה גב' האי.

היא מאמינה שמהירות הפיתוח של בינה מלאכותית מהירה מאוד, עם גורמים בלתי צפויים, כך שלמרות שמדובר בחוק מסגרת, סביר להניח שימשיך להידרש לתיקון ולהשלמה תוך זמן קצר.

גב' חי שיתפה הערות ספציפיות בנוגע לתיוג מוצרי בינה מלאכותית, ואמרה כי "מוצרים שנוצרו באמצעות בינה מלאכותית צריכים להיות מתויגים, אך לא לדעת אם הם אמיתיים או מבוססים על בינה מלאכותית".

יו"ר ועדת המדע, הטכנולוגיה והסביבה הביע דאגה גם מכך שהצעת החוק אינה כוללת פרק המסדיר את השפעת הבינה המלאכותית על תרבות, חברה ומחקר מדעי.

"כיום, מדענים משתמשים בבינה מלאכותית במחקר מדעי, ונוגעים בנושאים שבני אדם אינם יכולים לגעת בהם, אז מה לגבי זכויות יוצרים וכיצד לשתף נתונים?", העלתה גב' חי את השאלה.

היא גם ציינה את העובדה שסטודנטים רבים משתמשים בבינה מלאכותית במהלך הבחינות שלהם, וציטטה את הסיפור בסין, שם מבחנים גדולים מנתקים את כל העוזרים הווירטואליים ולא מאפשרים לסטודנטים להשתמש בהם במהלך הבחינה.

"צריך להיות פרק על שימוש בבינה מלאכותית במחקר מדעי והוראה, כי אלו נושאים חדשים מאוד", אמרה גב' חי.

על פי הערותיו של יו"ר ועדת המדע, הטכנולוגיה והסביבה, הצעת החוק צריכה לציין בבירור גם פעולות אסורות, כגון שימוש בבינה מלאכותית לגרימת הפרעות, הסתה, מניפולציה של הצבעות ובחירות, יצירת תמונות וסרטוני וידאו מזויפים וכו'.

ציר האסיפה הלאומית נגוין לאם טאן (צילום: הונג פונג).

הנציגה נגוין לאם טאן (תאי נגוין) אמרה גם כי יש צורך להבהיר את יישום הבינה המלאכותית בתחום הבריאות, התחבורה, הפיננסים, ובמיוחד בקרה פיננסית וניתוח שוק.

או בחינוך, מר טאנה אמר שבמציאות, תלמידים משתמשים בבינה מלאכותית כדי להכין שיעורי בית ועבודות גמר, ובתי הספר צריכים להתמודד עם זה על ידי דרישה מהתלמידים להגיע לראיונות ולבחון מחדש את רמתם הקוגניטיבית בנוסף להגשת מטלות.

על החוק להתייחס לסוגיות היישום בתחומים שונים, ולא רק לתקנות כלליות באופן עקרוני, לדברי מר טאנה.

בינתיים, אמר הנציג דונג נגוק בה (ג'יה לאי) כי מדינות ברחבי העולם עדיין נזהרות מאוד בקביעת תקנות בתחום זה.

הצעת החוק קובעת ארבע רמות סיכון בפיתוח בינה מלאכותית, אך מר בה הציע לחלק אותן לשלוש רמות: סיכון נמוך, סיכון בינוני וסיכון גבוה. בפרט, יש לראות את רמת "הסיכון הבלתי מקובל" כאיסור.

סגנית יו"ר ועדת החוק והצדק נגוין טי ת'וי (צילום: הונג פונג).

סגנית יו"ר ועדת החוק והמשפט, נגוין טי טוי, הסכימה עם דעה זו. לדבריה, עם רמות סיכון בלתי מקובלות, יש לאסור את השימוש בו, לא לסווג אותו. לכן, הצעת החוק צריכה לקבוע רק 3 רמות סיכון: גבוה - בינוני - נמוך.

גב' ת'וי הביעה גם את דעתה כי "ייתכן שהחוק הזה יצטרך להשתנות בקרוב" משום שהעולם משתנה כל הזמן עם התפתחות הבינה המלאכותית.

מקור: https://dantri.com.vn/thoi-su/nghe-ca-si-hat-khong-biet-that-hay-ai-can-gan-nhan-san-pham-do-ai-tao-ra-20251121112707555.htm