מניעת חציית גבולות אתיים על ידי טכנולוגיה

השימוש הנרחב והולך בבינה מלאכותית למטרות לא אתיות העלה דרישות דחופות לשליטה בטכנולוגיה ולאחריות מוגברת של המשתמש.

עם קצב השיפור המהיר שלה, בינה מלאכותית (AI) מחוללת "מהפכה" בתחומים רבים - החל מבריאות, חינוך , עסקים... ועד לחיי היומיום. עם זאת, ההיבטים השליליים של טכנולוגיה זו מציבים אתגרים משמעותיים לניהול ובקרה של מידע במרחב הקיברנטי.

מוצף בחדשות כזב שנוצרו על ידי בינה מלאכותית

חדשות מזויפות שנוצרות על ידי בינה מלאכותית מופצות בפלטפורמות מדיה חברתית בעיקר כדי למשוך צפיות, לייקים, להגדיל אינטראקציות למכירה מקוונת או להרוויח מהפלטפורמה.

אנשים שיוצרים חדשות מזויפות נוטים "לעקוב" אחר נושאים אקטואליים חמים שמעוררים עניין ציבורי. לדוגמה, לאחר תאונת דרכים קשה ב-17 בספטמבר בשוק טאן לונג, במחוז לאו באו, במחוז קוואנג טרי , בה נפצעו 12 בני אדם והרגו, מספר תמונות קורעות לב הופיעו ברשתות החברתיות, והביאו דמעות בקרב צופים רבים. משטרת לאו באו, שקבעה כי תמונות אלה נוצרו על ידי בינה מלאכותית, פרסמה אזהרה מפני הפצת תמונות מזויפות הגורמות לאי הבנה. מעשה זה לא רק גורם להפצת מידע כוזב, אלא גם משפיע על החקירה.

באופן דומה, תוך ניצול תשומת הלב הציבורית סביב סירת התיירים Blue Bay 58 שהתהפכה במפרץ הא לונג, במחוז קוואנג נין ב-19 ביולי, אשר גבתה את חייהם של עשרות בני אדם, פרסמו חשבונות רבים ברשתות החברתיות תמונות וסיפורים נוגעים ללב על הקורבנות. עם זאת, רבים מהתכנים הללו היו מזויפים, שנוצרו באמצעות בינה מלאכותית כדי "לגעת" ברגשות ולמשוך אינטראקציות של משתמשי רשתות חברתיות. ראוי לציין כי התמונות המזויפות הנפוצות עם תוכן אוהד מוגזם עלולות לגרום לטראומה רגשית נוספת למשפחות הקורבנות.

עם שיפור טכנולוגיית הבינה המלאכותית מדי יום, נדרשות רק דקות ספורות באמצעות פקודות פשוטות כדי ליצור סרטון עם תוכן מושך, הנאמן לכוונת המשתמש. בפרט, פלטפורמות בינה מלאכותית מהדור החדש כמו KlingAI, Veo 3, Sora... פופולריות מאוד בקרב משתמשים גלובליים, כולל וייטנאם.

בנוסף, טכנולוגיית דיפפייקים - שילוב של למידה עמוקה וזיופים - עוררה גם היא דאגה רבה ברחבי העולם, שכן ניתן להשתמש בה ליצירת תמונות, צלילים או סרטונים מציאותיים שקשה מאוד לזהות כמזויפים. כתוצאה מכך, סדרה של הונאות הקשורות לטכנולוגיה זו התרחשה הן בווייטנאם והן בעולם.

לוטננט גנרל נגוין מין צ'ין, סגן הנשיא הקבוע של האיגוד הלאומי לאבטחת סייבר, ציין כי קיימת מגמה של ניצול לרעה של בינה מלאכותית למטרות בלתי חוקיות. בפרט, בינה מלאכותית כשירות (שירותים המספקים כלים ויישומי בינה מלאכותית) מנוצלת על ידי פושעי סייבר כדי ליצור קוד זדוני, קולות מזויפים, פנים, הודעות טקסט... כדי לבצע הונאה, לתקוף רשתות, לחדור למערכות נתונים, אפילו לגרום לחוסר יציבות ביטחונית ולהרוס את המוניטין של ארגונים, עסקים ומנהיגים.

לדברי מר טראן נגוק אן, המנהל הטכני של חברת Cyber ​​Peace Company Limited (CyPeace), אחד הסיכונים למשתמשי בינה מלאכותית הוא שהם עלולים לקבל מידע כוזב שנוצר על ידי כלי זה עצמו. בנוסף, ישנן שורה של בעיות נוספות כגון גילוי מידע סודי, נתונים אישיים...

תמונות מזויפות מופצות באינטרנט כדי "לגרום לדמעות" מהצופים, ובכך למשוך לייקים ולהגדיל את האינטראקציות (צילום מסך)

הגברת אחריות המשתמש

לפני שייקטו צעדים טכנולוגיים ומשפטיים לשליטה קפדנית בפיתוח ובשימוש בבינה מלאכותית, על המשתמשים להשתמש בטכנולוגיה זו באופן יזום ובאחריות.

מומחה הסייבר וו נגוק סון, ראש מחלקת הטכנולוגיה של האיגוד הלאומי לסייבר-ביטחון, ציין כי בני אדם הם הנושאים המנצלים ומשתמשים בבינה מלאכותית, ולכן הצדדים הטובים והרעים של בינה מלאכותית קשורים קשר הדוק לבני אדם. אם המשתמשים מוסמכים ומיישמים אותה למטרות טובות, הטכנולוגיה תקדם את יתרונותיה. להיפך, אם משתמשי בינה מלאכותית חסרים הבנה או ינצלו אותה למטרות בלתי חוקיות, הדבר עלול לגרום לתוצאות חמורות. "כדי להשתמש ולנצל בינה מלאכותית ביעילות, יש להתמקד בבניית צוותים ותהליכים. בינה מלאכותית מקדמת את ערכה רק כאשר היא מונחת בידי אלו שיודעים כיצד לשלוט בה", אמר מומחה הסייבר-ביטחון.

עם סכנת הדיפ-פייק - הכלי המוביל להונאות טכנולוגיות כיום, בתהליך ניסוח חוק ההשקעות והעסקים, הדגיש משרד האוצר גם: יש להסדיר את עסקי טכנולוגיית הדיפ-פייק כקו עסקי מותנה כדי למנוע ניצול לרעה טכנולוגי הגורם לשיבוש מידע, הונאה... על פי משרד האוצר, כיום, עסקי טכנולוגיית דיפ-פייק הם אחד התחומים החדשים, המהווים סיכונים מורכבים לאבטחה ולסדר אך אינם מוסדרים כקו עסקי מותנה.

לדברי עורך הדין טראן אנה טואן (לשכת עורכי הדין של האנוי), אם נעשה שימוש בבינה מלאכותית ליצירת תוכן ללא אישור, במיוחד יצירת מידע כוזב, מזויף או הונאה, הדבר עלול להפר את הוראות החוק האזרחי. לפיכך, מפירי חוק יהיו כפופים לסנקציות מנהליות או לפיצויים על נזקים. במקרה של השלכות חמורות, ניתן להעמיד לדין בגין אחריות פלילית. "על המשתמשים לנקוט משנה זהירות בעת גישה ושימוש בבינה מלאכותית, להימנע לחלוטין מניצול בינה מלאכותית כדי למשוך צפיות ולייקים; להגביר את האחריות האישית, לציית לחוק בעת שימוש בבינה מלאכותית וכן להשתתפות בסביבה המקוונת" - המליץ ​​עורך הדין טואן.

לוטננט גנרל נגוין מין צ'ין הדגיש כי הגורם המרכזי בפיתוח בר-קיימא של בינה מלאכותית הוא משאבי אנוש. החל מחוקרים, מהנדסים, מומחי אבטחת סייבר ועד מנהלים ומשתמשים, כולם צריכים להיות מצוידים במלואם בידע, מיומנויות, אתיקה ומודעות משפטית. לדברי מר צ'ין, זהו לא רק הצוות שבונה ומפעיל מערכות בינה מלאכותית, אלא גם הכוח המרכזי במניעה, גילוי ולחימה בפשעי טכנולוגיה מתקדמת במרחב הקיברנטי.

בווייטנאם יהיה חוק על בינה מלאכותית

בכנס מדעי לאומי שנערך לאחרונה בנושא בינה מלאכותית, הצהיר שר המדע והטכנולוגיה נגוין מאן הונג כי בינה מלאכותית פותחת הזדמנויות גדולות אך גם מעלה סוגיות רבות בנוגע לאתיקה, תעסוקה ואמון חברתי. לכן, יש לפתח בינה מלאכותית במהירות, בבטחה ובאופן אנושי.

לדברי השר נגוין מאן הונג, בינה מלאכותית אינה מחליפה בני אדם אלא משרתת אותם, היא עוזרת לבני אדם. בינה מלאכותית היא כלי רב עוצמה אך בני האדם הם מקבלי ההחלטות, לכן הניחו לבינה מלאכותית לתמוך, ולא להחליף, את החשיבה, הערכים והאחריות האנושיים. "משרד המדע והטכנולוגיה יפרסם קוד אתי לאומי בנושא בינה מלאכותית בהרמוניה עם סטנדרטים בינלאומיים אך יתוכנן כך שיתאים לפרקטיקה הווייטנאמית, ובמקביל יפתח חוק ואסטרטגיית בינה מלאכותית בנושא", הודיע ​​השר נגוין מאן הונג.

מקור: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm