למנוע מטכנולוגיה לחצות גבולות אתיים.

השימוש הגובר בבינה מלאכותית למטרות לא אתיות יצר צורך דחוף בשליטה טכנולוגית ובאחריות מוגברת מצד המשתמשים.

עם קצב ההתקדמות המהיר שלה, בינה מלאכותית (AI) מחוללת מהפכה בתחומים רבים - החל מתחום הבריאות, החינוך והעסקים ועד לחיי היומיום. עם זאת, החסרונות של טכנולוגיה זו מציבים אתגרים משמעותיים לניהול ובקרה של מידע במרחב הקיברנטי.

מוצף בחדשות כזב שנוצרו על ידי בינה מלאכותית.

חדשות מזויפות שנוצרות על ידי בינה מלאכותית מופצות בפלטפורמות מדיה חברתית בעיקר כדי לצבור צפיות, לייקים ומעורבות לצורך מכירות מקוונות או כדי להרוויח מהפלטפורמה.

אלו שיוצרים חדשות כזב מנצלים לעתים קרובות אירועים אקטואליים טרנדיים שמושכים את תשומת הלב הציבורית. לדוגמה, לאחר תאונת הדרכים הקשה שאירעה ב-17 בספטמבר בשוק טאן לונג, במחוז לאו באו, במחוז קוואנג טרי , שגרמה למותם של 12 הרוגים, הופיעו תמונות קורעות לב ברשתות החברתיות, והביאו צופים רבים לדמעות. משטרת לאו באו, שזיהתה את התמונות ככאלו שנוצרו על ידי בינה מלאכותית, פרסמה אזהרה מפני הפצת התמונות המזויפות המטעות הללו. התנהגות זו לא רק מפיצה מידע כוזב אלא גם משבשת חקירות.

באופן דומה, תוך ניצול תשומת הלב הציבורית סביב התהפכות סירת התיירים גרין ביי 58 במפרץ הא לונג, במחוז קוואנג נין ב-19 ביולי, בה נהרגו עשרות בני אדם, פרסמו חשבונות רבים ברשתות החברתיות תמונות וסיפורים מרגשים על הקורבנות. עם זאת, חלק ניכר מהתוכן הזה היה מזויף, שנוצר באמצעות בינה מלאכותית כדי לתמרן רגשות ולמשוך אינטראקציה של משתמשי רשתות חברתיות. ראוי לציין כי השימוש הנרחב בתמונות מזויפות עם הזדהות מוגזמת עלול לגרום לטראומה נוספת במשפחות הקורבנות.

עם שיפור מתמיד בטכנולוגיית הבינה המלאכותית, נדרשות רק דקות ספורות ופקודות פשוטות כדי ליצור סרטון עם תוכן מרתק שתואם בצורה מושלמת את כוונות המשתמש. בין אלה, פלטפורמות בינה מלאכותית מהדור הבא כמו KlingAI, Veo 3 ו-Sora פופולריות מאוד בקרב משתמשים ברחבי העולם, כולל וייטנאם.

יתר על כן, טכנולוגיית דיפפייקים - שילוב של למידה עמוקה וזיופים - היא גם דאגה מרכזית ברחבי העולם, שכן ניתן להשתמש בה ליצירת תמונות, צלילים או סרטונים שנראים כל כך אמיתיים שקשה מאוד לזהות אותם כמזויפים. כתוצאה מכך, התרחשו הונאות רבות הקשורות לטכנולוגיה זו הן בווייטנאם והן ברחבי העולם.

לוטננט גנרל נגוין מין צ'ין, סגן היו"ר הקבוע של האיגוד הלאומי לסייבר, ציין מגמה הולכת וגוברת של ניצול לרעה של בינה מלאכותית למטרות בלתי חוקיות. באופן ספציפי, בינה מלאכותית כשירות (כלים ויישומים המסופקים על ידי בינה מלאכותית) מנוצלת על ידי פושעי סייבר כדי ליצור תוכנות זדוניות, לזייף קולות, פרצופים וטקסטים... לצורך הונאה, מתקפות סייבר, חדירה למערכות נתונים, ואף כדי לערער את יציבות האבטחה ולפגוע במוניטין של ארגונים, עסקים ומנהיגים.

לדברי מר טראן נגוק אן, המנהל הטכני של חברת הסייבר ספייס הואה בין בע"מ (CyPeace), אחד הסיכונים למשתמשי בינה מלאכותית הוא האפשרות לקבל מידע שגוי שנוצר על ידי הכלי עצמו. בנוסף, קיימות מגוון בעיות נוספות כגון דליפת מידע סודי ונתונים אישיים.

תמונות מזויפות מופצות ברשת כדי "לגרום לצופים לבכות", ובכך לצבור לייקים ולהגדיל את האינטראקציה (צילום מסך).

הגברת אחריות המשתמש

לפני שייקחו אמצעים טכנולוגיים ומשפטיים לשליטה הדוקה בפיתוח ובשימוש בבינה מלאכותית, על המשתמשים להשתמש בטכנולוגיה זו באופן יזום ובאחריות.

מומחה הסייבר וו נגוק סון, ראש ועדת הטכנולוגיה של האיגוד הלאומי לסייבר-ביטחון, ציין כי בני אדם הם הנושאים המנצלים ומשתמשים בבינה מלאכותית, ולכן גם ההיבטים הטובים וגם הרעים של בינה מלאכותית קשורים קשר הדוק לבני אדם. אם המשתמשים מיומנים ומיישמים אותה למטרות טובות, הטכנולוגיה תמנף את נקודות החוזק שלה לטובתם. לעומת זאת, אם משתמשי בינה מלאכותית חסרים הבנה או מנצלים אותה למטרות בלתי חוקיות, הדבר עלול לגרום לתוצאות חמורות. "כדי להשתמש ולנצל בינה מלאכותית ביעילות, יש להתמקד בבניית צוות ותהליכים. בינה מלאכותית מממשת את ערכה רק כאשר היא מונחת בידי אלו שיודעים כיצד לשלוט בה", אמר מומחה הסייבר-ביטחון.

לאור הסכנות הטמונות בטכנולוגיית דיפפייק – כלי מוביל המאפשר הונאות סייבר כיום – הדגיש משרד האוצר במהלך ניסוח חוק ההשקעות והעסקים כי יש להסדיר את עסקי טכנולוגיית הדיפפייק כמגזר עסקי מותנה כדי למנוע שימוש לרעה בטכנולוגיה הגורם לשיבושים במידע ולהונאה. על פי משרד האוצר, עסקי טכנולוגיית דיפפייק הם כיום אחד התחומים החדשים בעלי סיכונים פוטנציאליים מורכבים לביטחון ולסדר, אך הם אינם מוסדרים כמגזר עסקי מותנה.

לדברי עורך הדין טראן אנה טואן (לשכת עורכי הדין של האנוי), שימוש בבינה מלאכותית ליצירת תוכן ללא אישור, במיוחד ליצירת מידע כוזב, מפוברק או הונאה, עלול להפר את הוראות החוק האזרחי. מפירי חוק עלולים לעמוד בפני קנסות מנהליים או פיצויים על נזקים. במקרים הגורמים לתוצאות חמורות, ניתן להטיל אחריות פלילית. "על המשתמשים לנקוט משנה זהירות בעת גישה ושימוש בבינה מלאכותית, ולהימנע לחלוטין מכל פעולה המנצלת בינה מלאכותית כדי להשיג צפיות או לייקים; עליהם להגביר את האחריות האישית ולציית לחוק בעת שימוש בבינה מלאכותית והשתתפות בסביבה המקוונת", יעץ עורך הדין טואן.

לוטננט גנרל נגוין מין צ'ין הדגיש כי המרכיב המרכזי בפיתוח בר-קיימא של בינה מלאכותית הוא משאבי אנוש. מחוקרים, מהנדסים, מומחי אבטחת סייבר ועד מנהלים ומשתמשים, כולם צריכים להיות מצוידים במלואם בידע, מיומנויות, אתיקה ומודעות משפטית. לדבריו, זה לא רק הצוות שבונה ומפעיל מערכות בינה מלאכותית, אלא גם הכוח המרכזי במניעה, גילוי ומאבק בפשעי טכנולוגיה מתקדמת במרחב הקיברנטי.

בווייטנאם יהיה חוק בנושא בינה מלאכותית.

בכנס מדעי לאומי שנערך לאחרונה בנושא בינה מלאכותית, הצהיר שר המדע והטכנולוגיה נגוין מאן הונג כי בינה מלאכותית פותחת הזדמנויות גדולות אך גם מעלה סוגיות רבות בנוגע לאתיקה, תעסוקה ואמון חברתי. לכן, פיתוח בינה מלאכותית חייב להיות מהיר, בטוח ואנושי.

לדברי השר נגוין מאן הונג, בינה מלאכותית אינה מחליפה בני אדם אלא משרתת אותם, ופועלת כעוזריהם. בינה מלאכותית היא כלי רב עוצמה, אך בני האדם הם מקבלי ההחלטות; לכן, בינה מלאכותית צריכה לתמוך, ולא להחליף, את החשיבה, הערכים והאחריות האנושיים. "משרד המדע והטכנולוגיה יפרסם קוד אתי לאומי לבינה מלאכותית התואם לתקנים בינלאומיים אך יתאים למציאות הוייטנאמית, וגם יפתח חוק בינה מלאכותית ואסטרטגיה בנושא בינה מלאכותית", הצהיר השר נגוין מאן הונג.

מקור: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm