בתקופה שבה בינה מלאכותית (AI) מאיצה במהירות ומעצבת מחדש כל מערכת בחברה האנושית, החל מחינוך, בריאות, כלכלה ועד ביטחון לאומי, השאלה הגדולה ביותר כבר אינה סובבת סביב מידת חכמה של בינה מלאכותית, אלא מתמקדת באופן שבו טכנולוגיה זו נשלטת, משמשת ונשלטת כדי להגן על אנשים.

פאנל הדיון "בינה מלאכותית לאנושות: אתיקה ובטיחות של בינה מלאכותית בעידן החדש", שנערך ב-2 בדצמבר 2025 במסגרת שבוע המדע והטכנולוגיה VinFuture 2025, הפך לפורום המאגד רבים מהפרצופים המשפיעים ביותר של עידן הבינה המלאכותית - מישוע בנג'יו, ג'פרי הינטון, וינטון סרף ועד טובי וולש. הניתוח המעמיק שלהם מראה כי הסיכונים הפוטנציאליים מבינה מלאכותית עשויים לעלות על תחזיותיהם של יוצריה, בעוד שהדרישות לשקיפות, הגינות נתונים, פיקוח אנושי ואמון חברתי הופכות לצווארי בקבוק עולמיים.

סכר AI.jpg
פאנל הדיון "בינה מלאכותית לאנושות: אתיקה ובטיחות של בינה מלאכותית בעידן החדש", שיתקיים ב-2 בדצמבר 2025 במסגרת שבוע המדע והטכנולוגיה VinFuture 2025, הפך לפורום המאגד רבים מהפנים המשפיעות ביותר של עידן הבינה המלאכותית.

בינה מלאכותית מאיצה בקצב חסר תקדים ומציבה אתגרים אתיים

בינה מלאכותית מתקדמת בקצב שעלה בהרבה על ציפיות הקהילה המדעית. בתוך שנים ספורות בלבד, מודלים של למידה עמוקה עברו מזיהוי תמונה בסיסי לייצור תוכן עצמי, סימולציה של רגשות, קבלת החלטות מורכבות, תכנון חלבונים ועיסוק בתהליכים יצירתיים. קפיצה זו הביאה הזדמנויות חסרות תקדים, אך גם יצרה שורה של סיכונים בלתי צפויים, החל מהטיה בנתונים, איומי פרטיות, מידע שגוי ומערכות אוטומטיות שאינן שקופות עוד לבני אדם.

פרופסור יהושע בנג'יו – זוכה שותף בפרס טיורינג לשנת 2018 – מאמין שהאתגר הגדול ביותר כיום אינו מה שהבינה המלאכותית יכולה לעשות, אלא שהחברה עדיין אינה מסוגלת לחזות את ההתנהגויות הנובעות ממודלים מורכבים. הוא מזהיר כי מודלים בקנה מידה גדול, אם לא נשלטים כראוי, יכולים לבצע אופטימיזציה עצמית באופן שגורם לבני אדם "לאבד שליטה על הטכנולוגיה שהם יוצרים".

באופן דומה, פרופסור ג'פרי הינטון – המכונה "אבי הבינה המלאכותית" וחתן פרס נובל לפיזיקה לשנת 2024 – מציין כי למידה עמוקה נכנסת לשלב שבו מודלים משיגים תגובות מורכבות מעבר ליכולת להסביר. זה הופך את הסיכונים האתיים והבטיחותיים לבלתי היפותטיים עוד, אלא אמיתיים. הינטון מדגיש כי, בניגוד לטכנולוגיות מסורתיות, בינה מלאכותית אינה רק כלי, אלא יכולה להתנהג כ"סוכן", ולכן יש להעלות את הדרישה לפיקוח אנושי לעיקרון מוחלט.

ד"ר וינטון סרף – "אבי האינטרנט" משתף פרספקטיבה היסטורית: האינטרנט נבנה מתוך אמונה שהוא יביא קידמה, אך לאחר מכן צצו אינספור השלכות, החל ממידע שגוי ועד פשעי סייבר, עקב היעדר סטנדרטים אתיים מראשיתו. עם בינה מלאכותית, אם היא תמשיך להתפתח בשיטה של ​​"קודם כל תנהל, אחר כך תנהל", הסיכון לחברה יהיה גדול פי כמה.

ניתוחים אלה מראים קונצנזוס גבוה בקרב חלוצים: בינה מלאכותית מתפתחת מהר יותר מיכולתו של העולם לבנות מסגרות משפטיות.

וייטנאם נחושה לפתח טכנולוגיית בינה מלאכותית לפי פילוסופיה פתוחה.

באירוע אמר סגן שר המדע והטכנולוגיה, בוי דה דוי, כי וייטנאם פרסמה את אסטרטגיית הבינה המלאכותית הראשונה שלה בשנת 2021. אך הבינה המלאכותית מתפתחת בקצב יוצא דופן, ולכן בסוף השנה נכריז על אסטרטגיית הבינה המלאכותית וחוק הבינה המלאכותית המעודכנים. זוהי לא רק מסגרת משפטית אלא גם הצהרה של חזון לאומי, המזהה כי בינה מלאכותית חייבת להפוך לתשתית האינטלקטואלית של וייטנאם, לתרום לרווחה חברתית, לפיתוח בר-קיימא ולשיפור התחרותיות הלאומית.

"בינה מלאכותית כיום אינה רק טכנולוגיה יישומית, אלא הופכת לתשתית חיונית כמו חשמל, טלקומוניקציה או אינטרנט; לכל מדינה שתשלוט בבינה מלאכותית יהיה יתרון עליון בתחומים חברתיים-כלכליים, ביטחון לאומי והגנה. לכן, וייטנאם בונה מרכז לאומי למחשוב-על של בינה מלאכותית, מערכת אקולוגית של נתונים פתוחים ותשתית בינה מלאכותית וייטנאמית לקראת אוטונומיה, ובמקביל מיישמת בינה מלאכותית מקיפה בקצב מהיר, מה שהופך את הבינה המלאכותית ל"עוזר אינטליגנטי" אוניברסלי עבור כל האנשים כדי לשפר את הפרודוקטיביות החברתית ולהרחיב את הגישה לידע, צעד קדימה שבעבר רק למנהיגים בכירים הייתה גישה אליו", אמר מר בוי דה דוי.

בוי דה דוי.jpg
סגן שר המדע והטכנולוגיה, בוי דה דוי, אמר כי וייטנאם נחושה בדעתה כי בינה מלאכותית חייבת להפוך לתשתית האינטלקטואלית של וייטנאם, לתרום לרווחה חברתית, לפיתוח בר-קיימא ולשיפור התחרותיות הלאומית. צילום: PV

סגן השר אישר כי וייטנאם נחושה לפתח טכנולוגיית בינה מלאכותית בהתאם לפילוסופיה הפתוחה: סטנדרטים פתוחים, נתונים פתוחים, קוד פתוח. "פתוח" היא הדרך לקבל ידע עולמי, לשלוט בטכנולוגיה, לפתח "Make in Vietnam" ולתרום בחזרה לאנושות. "פתוח" הוא גם תנאי להבטחת בטיחות ושקיפות ביישומי בינה מלאכותית.

כדי שבינה מלאכותית תתפתח, השוק המקומי חייב להיות גדול מספיק; ללא יישומים, לא יהיה שוק ומיזמי בינה מלאכותית וייטנאמיים לא יוכלו להתבגר. לכן, המדינה תקדם את יישום הבינה המלאכותית בתעשיות ובסוכנויות ממשלתיות, ובמקביל, הקרן הלאומית לחדשנות טכנולוגית תקצה 30-40% ממשאבי התמיכה, כולל שוברי בינה מלאכותית לעסקים קטנים ובינוניים, כך שהשוק הווייטנאמי יוכל באמת להפוך לעיר השמש של מיזמי בינה מלאכותית חזקים.

לווייטנאם יש "יתרון למאחרים"

פרופסור חבר לו אנה טואן, מנהל בכיר של המרכז לחקר בינה מלאכותית באוניברסיטת VinUni, אמר בנושא זה כי השפה הוייטנאמית מורכבת מאוד, ולכן מודלים של שפות זרות אינם יכולים להבין אותה. בנוסף, אנו תלויים במידה רבה במודלים של שפות זרות וחסר לנו סטנדרט גדול של מודל שפה וייטנאמית.

"אנחנו מתחילים מאפס, בעוד שבמדינות אחרות פותחו מערכי נתונים כבר לפני עשרות שנים, כך שזה יתרון, כי אין יותר מדי עומס, כך שיש הזדמנות לבנות מהיסוד ויכולים לבנות נתונים נקיים מההתחלה. עם היתרון של היותה מדינה באיחור, לווייטנאם יש גם הזדמנות לנצל את הטכנולוגיה העדכנית ביותר בעולם. ראשית, עלינו לבנות מחסן נתונים נקי, המכסה את כל התחומים ובהקשר של וייטנאם, עם הניבים של הקבוצות האתניות הווייטנאמיות. חוץ מזה, יש מנגנון אתי למניעת מידע שגוי וחדשות כזב", אמר פרופסור חבר לו אן טואן.

פרופסור חבר לו אנה טואן הדגיש כי וייטנאם צריכה להבטיח את ריבונותה של הבינה המלאכותית, לפעול לפי כיוון הקוד הפתוח וכי על הממשלה לקבל הנחיות ברורות בנושא זה. בנוסף, נדרשת מסגרת אתית לאומית לבינה מלאכותית, הנחיות מפורטות לפריסת מודלים של שפות גדולות, וסוכנות עצמאית לאימות ומעקב, ולא לאפשר למודל זה להיות אוטונומי לחלוטין. לכן, נדרש ניהול מצד המדינה, עסקים ואנשים כדי לבנות תשתית בינה מלאכותית עבור וייטנאם.

השקת Saigon AI Hub – מרחב המחקר הפתוח הראשון בתחום הבינה המלאכותית בהו צ'י מין סיטי. Saigon AI Hub הוא מרחב המחקר הפתוח הראשון בתחום הבינה המלאכותית בהו צ'י מין סיטי עבור מרצים, סטודנטים, מומחים, קבוצות מחקר צעירות וקהילת הטכנולוגיה.

מקור: https://vietnamnet.vn/thu-truong-bui-the-duy-viet-nam-se-cong-bo-chien-luoc-ai-cap-nhat-va-luat-ai-2468645.html