בינה מלאכותית מעצבת את העתיד - חלק 2: האתגרים הנלווים אליה

פוטנציאל מגיע עם סיכון

אין להכחיש שבינה מלאכותית (AI) מוכיחה את עצמה יותר ויותר ככלי רב עוצמה לתמיכה בעובדים ולהקלה על חיי אדם. עם זאת, מוצרים טכנולוגיים אלה הם כמו "חרב פיפיות" כאשר הם מנוצלים על ידי אנשים רעים לביצוע הונאה ותקיפות במרחב הקיברנטי.

בהודעות האזהרה של מחלקת אבטחת המידע ( משרד המידע והתקשורת ) או איגוד אבטחת הסייבר, צוטטו מקרים רבים שתועדו של הונאה באמצעות טכנולוגיית בינה מלאכותית. לדוגמה, גב' נגוין טאן ט' - עובדת משרד בהאנוי, בזמן שדיברה עם חברה דרך פייסבוק מסנג'ר, החברה נפרדה וסיים את השיחה אך לפתע חזרה לשלוח הודעת טקסט, וביקשה ללוות כסף ולהעביר כסף לחשבון בנק. למרות ששם החשבון תאם לשם חברתה, גב' ט' חשדה ולכן ביקשה שיחת וידאו לאימות. החברה הסכימה מיד אך השיחה נמשכה רק מספר שניות עקב "תקלה ברשת".

כשראתה את פני חברתה בשיחת הווידאו , וגם את קולה, העבירה גב' ט' את הכסף. עם זאת, רק לאחר שההעברה הצליחה, היא הבינה שנפלה למלכודת ההאקר.

לא רק גב' טי, אלא גם קורבנות רבים אחרים, חברים וקרובי משפחה, הונו באותו אופן. סכום הכסף שהרשעים הרוויחו מהתחזות לכלי וקולות של דיפ פייק הגיע לעשרות מיליוני דונג.

דוגמה אופיינית נוספת לשימוש בבינה מלאכותית כדי להשתלט על נכסים היא המקרה של מר NTH, כאשר בעת שימוש בטלפון אנדרואיד, נוכלים הציבו מלכודת עם הוראות להתקנת קישור לתוכנה זדונית. משם, הם השתלטו על הטלפון וחשבונות הבנק כדי להעביר כסף לצד שלישי. בנוסף, התוכנה הזדונית יצרה קשר אוטומטית עם פרטי קשר זמינים ושלחה הודעות אוטומטיות בבקשה להעברות כספים.

מר NTH אמר כי המתחזה טען שהוא " שוטר ", התקשר למספר הטלפון שלו וביקש לאמת את פרטי הזיהוי האישיים שלו. מכיוון שהיה מבוגר, לא מכיר טכנולוגיה ותמים, הקורבן העביר את הטלפון שלו לאדם שלישי כדי לבקש ממנו לפעול לפי הוראות הנוכל, ובכך הוריד והתקין את האפליקציה הזדונית "DichVuCong.apk" בטלפון שלו.

מר טראן נגוין צ'ונג, ראש מחלקת אבטחת מערכות מידע (מחלקת אבטחת מידע), אמר: כאשר טכנולוגיית בינה מלאכותית תתפתח, זיהוי והבחנה בין תוכן אמיתי למזויף במרחב הקיברנטי יהפכו לקשים יותר וכל אחד יכול להפוך למטרה, לקורבן של מתקפות סייבר מצד פושעים המשתמשים בטכנולוגיית בינה מלאכותית. עם זאת, השאלה האם להפוך לקורבן או לא תלויה בהצטיידותו של כל אדם בידע ובמידע הדרושים.

מצב הונאה בטכנולוגיית בינה מלאכותית זה מופיע לא רק בווייטנאם אלא גם במדינות רבות ברחבי העולם. כיום, סוכנויות, ארגונים ותאגידי טכנולוגיה גדולים עובדים יחד כדי למצוא אמצעים ופתרונות טכניים לגילוי ולמניעתו מהשורש.

בתקופה הנוכחית, הצעד החשוב הוא לקדם תעמולה, להעלות את המודעות של אנשים לשיטות, טריקים ודרכים לזהות ולהתמודד עם צורת זיוף מתוחכמת זו כדי לסייע בהפחתת והגבלת השפעת דיפ-פייק על פעילויות במרחב הקיברנטי. לפרסם באופן יזום אזהרות נרחבות בתקשורת כאשר ישנן התפתחויות וצורות חדשות של הונאה.

"במקרה של קבלת שיחות סחיטה עם תמונות או סרטונים רגישים, אנשים צריכים להישאר רגועים, לאמת ולחקור בקפידה את מקור התמונות והסרטונים", אמר מר טראן נגוין טרונג.

על פי דו"ח המחקר "זיהוי סיכונים לכלכלה העולמית בשנת 2024" של אוניברסיטת הכלכלה (UEB) תחת האוניברסיטה הלאומית של וייטנאם, האנוי, אחד הסיכונים המשפיעים על הכלכלה העולמית הוא הסיכון במגזר הטכנולוגיה. הדו"ח קובע כי בהקשר של העלייה המהירה של הבינה המלאכותית, מדיניות הניהול לא הצליחה לעמוד בקצב ההתפתחות של הבינה המלאכותית. המידע השגוי שמספקת הבינה המלאכותית, במיוחד בשנה עם בחירות רבות בעולם כמו השנה, מציב סוגיות רבות לביטחון, לפוליטיקה, להגנה ולשלום ברחבי העולם.

בשיחה עם כתבי עיתון טין טוק, אמר סגן שר המדע והטכנולוגיה, נגוין הואנג ג'יאנג: "ראש הממשלה פרסם את החלטה מספר 127/2021 בנוגע לאסטרטגיית המחקר הלאומית, פיתוח ויישום של בינה מלאכותית עד 2030. לשם היישום, משרד המדע והטכנולוגיה, כמו גם משרדים וענפים אחרים, יישמו באופן דרסטי ובמקביל, כגון משרד המשפטים שחוקר את ההיבט המשפטי. משרד המידע והתקשורת שחוקר טכנולוגיה דיגיטלית. משרד המדע והטכנולוגיה גם תמך, חקר ופיתח את תעשייה 4.0; חקר ויישם פיתוח טכנולוגיות מידע, המשרתות את פיתוחן של ערים דיגיטליות וחכמות. עם זאת, עם ההתפתחות המהירה והחזקה, צצו גם ההיבטים השליליים והסיכונים של בינה מלאכותית כאשר היא מנוצלת לרעה והופכת לכלי עבור פושעי סייבר למטרות הונאה, התחזות, איומים, הפקעת רכוש וכו'."

עד כה, לצד המחקר, משרד המדע והטכנולוגיה והממשלה בונים באופן פעיל גם מסגרת משפטית, תוך למידה מניסיונן של מדינות מפותחות אחרות, כך שתחום הבינה המלאכותית בווייטנאם יקדם את הפוטנציאל שלו, יקדם פיתוח וכן יבוצע בקרה מחמירה, יבטיח אתיקה ואנושיות בתחום הבינה המלאכותית.

הפיתוח המהיר של כלי בינה מלאכותית העלה סוגיות רבות בנוגע לזכויות אדם, אתיקה, פרטיות, אבטחת מידע ואחריות משפטית. בהשוואה לעולם, וייטנאם עדיין נמצאת בשלבים המוקדמים של פיתוח בינה מלאכותית. לכן, יש צורך בתקנות ומדיניות ספציפיות בתחום הבינה המלאכותית המתאימות לכל היבטי החיים, הכלכלה והחברה בווייטנאם.

להוציא בדחיפות מסגרת משפטית

ניהול הצד האפל של הבינה המלאכותית הוא גם נושא שנדון במספר מדינות. הפרלמנט האירופי אישר את מערכת הכללים הבסיסית הראשונה בעולם לוויסות בינה מלאכותית. מומחי טכנולוגיה רבים מאמינים כי מערכת כללים זו תסייע לאיחוד האירופי להשיג את שתי המטרות: מזעור ההשפעה השלילית של הפיתוח הטכנולוגי על המשתמשים וכן הדבקת הפער במעמד הדומיננטי של מתחרים מרכזיים בשוק.

זמן קצר לאחר מכן, העצרת הכללית של האומות המאוחדות אימצה החלטה בנושא בינה מלאכותית (AI), המספקת תמיכה עולמית למאמצים בינלאומיים להבטיח שטכנולוגיה חדשה זו תועיל לכל המדינות, מכבדת זכויות אדם ותהיה "בטוחה, מאובטחת ואמינה".

מר וו נגוק סון, המנהל הטכני של החברה הלאומית לטכנולוגיית אבטחת סייבר, אמר: "בינה מלאכותית היא טכנולוגיה המשרתת את האינטרסים האנושיים, ותומכת באוטומציה של שלבי פעולה רבים ושונים. זהו כלי רב עוצמה, המשמש למטרות רבות ושונות, כגון מתן שירותי שאלות ותשובות, ייצור תוכנה וכו'. עם זאת, לבינה מלאכותית יש גם צד שלילי כאשר היא נופלת לידי גורמים פושעים במטרה ליצור תוכן הונאה וקוד זדוני כדי לתקוף משתמשים. לפיכך, בינה מלאכותית אינה כלי ספציפי ליצירת מוצרים או פשעים, אלא השאלה החשובה היא "כיצד להשתמש" בבינה מלאכותית."

"אני חושב שהסנקציות והמסדרונות המשפטיים לא באמת תאמו את קצב התפתחות הבינה המלאכותית. נצטרך זמן לבנות ולהנהיג מדיניות שתגביל את הסיכונים של בינה מלאכותית כאשר היא משמשת למטרות רעות, ומשפיעה על זכויות אדם כמו גם על ביטחון, סדר וביטחון חברתי", אמר מר וו נגוק סון.

ד"ר דאנג מין טואן, מנהל מכון CMC ATI, אמר: "מצד אחד, עלינו להמשיך לחקור ולפתח טכנולוגיות חדשות, לעדכן וללמוד שיטות לשימוש בבינה מלאכותית למטרות רעות. מצד שני, עלינו גם לקדם יושר במדע ובעבודה. בהתאם לכך, יש צורך בהתאמות והשקעות בתוכן ובמדיניות ספציפית עבור כלי זה בווייטנאם. בפרט, אנו יכולים גם להשתמש בכלי בינה מלאכותית כדי לזהות תוכן וקוד זדוניים. בינה מלאכותית היא כמו "חרב פיפיות", היוצרת תהליך השפעה מתמשך, ומשתפרת ללא הרף במטרה הסופית לשרת את האינטרסים האנושיים".

מומחים אומרים שהדרישה היא לשלוט בפיתוח מוצרי היי-טק בצורה אחראית, משום שחוסר היכולת לווסת ולשלוט בטכנולוגיה יוביל לתוצאות בלתי צפויות, שיגרמו להפסדים לכלכלה וישפיעו על כל אדם וגם על החברה כולה.

הנפקת תקנות ספציפיות ושקופות לא רק תסייע במניעה ובמזערה של סיכונים שבינה מלאכותית עלולה לגרום, אלא גם תעזור לווייטנאם למשוך תשומת לב והשקעות מצד מפעלי טכנולוגיה מובילים בעולם, ותקדם את פיתוח תעשיית טכנולוגיית המידע והבינה המלאכותית המקומית.

מאמר אחרון: פיתוח ובקרה מקבילים של בינה מלאכותית

מקור: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238