אמנת האנוי ומומחים מציעים "חסינות דיגיטלית מפני אתגרי בינה מלאכותית"

מניתוח השפעות הבינה המלאכותית על אמון דיגיטלי, מומחים מציעים גישת "חסינות דיגיטלית" לקראת חברה בטוחה בעידן הנתונים.

סגן אלוף, בעל תואר דוקטור, קרימינולוג דאו טרונג הייאו אמר כי התפתחות הבינה המלאכותית (AI) שינתה באופן עמוק את האופן שבו אנשים יוצרים, מקבלים ומאמתים מידע. טכנולוגיות כמו דיפ-פייק, קולות סינתטיים או תמונות מלאכותיות מטשטשות את הגבול בין אמיתי למזויף כמו שלא היה מעולם.

סגן אלוף, דוקטורט, מומחה לקרימינולוגיה Dao Trung Hieu. צילום: NVCC.

על פי נתוני יורופול (2024), כ-90% מהתוכן המקוון כיום כולל התערבות של בינה מלאכותית ברמות שונות, מתוכם 15% מראים סימנים של זיוף מכוון.

בווייטנאם, משרד הביטחון הציבורי תיעד סדרה של מקרים פליליים של שימוש בבינה מלאכותית כדי להתחזות לקרובי משפחה, פקידי בנק או סוכנויות מדינה כדי להשתלט על רכוש, כאשר בחלק מהמקרים נגרמו הפסדים של עד עשרות מיליארדי דונג.

מה שמדאיג הוא לא רק הנזק החומרי, אלא גם שחיקת האמון החברתי, הבסיס לכל יחסי אנוש. כאשר ניתן לשחזר את האמת, האמון, שהוא הבסיס לכל יחסים חברתיים, הפך למטרה הראשונה להתקפה.

"התופעות הנ"ל אינן רק טרנספורמציה של כלים פליליים, אלא עיצוב מחדש של מרחב ההתנהגות הפלילית, בעל מאפיינים חדשים לחלוטין: בלתי מוחשיים, חוצים גבולות, אנונימיים ולומדים את עצמם", אמר קולונל בכיר דאו טרונג הייאו.

השינוי במבנה ההתנהגות הפלילית בעידן הבינה המלאכותית

סגן אלוף דאו טרונג הייאו אמר כי פשעים בעידן הבינה המלאכותית אינם מוגבלים עוד על ידי מרחב פיזי. מעשים פליליים מתבצעים באמצעות מודלים של נתונים, אלגוריתמים ומערכות ייצור אוטומטיות, המאפשרות לאנשים פרטיים או לארגונים לזייף את האותנטיות של כל סוגי המידע.

אם בפשעים מסורתיים, עקבות פיזיות (ראיות, זירות פשע, עדים) הן הבסיס העיקרי, הרי שבפשעי טכנולוגיה עילית, עקבות דיגיטליות הן המפתח. בינה מלאכותית מסייעת לעבריינים להשיג שתי יכולות מסוכנות: מציאות סינתטית, שגורמת לנמען להאמין במשהו שאינו קיים, ושחיקה של ייחוס, שמקשה על איתור מקור ההתנהגות.

מנקודת מבט קרימינולוגית, ניתן לראות שינוי במבנה של ארבעת מרכיבי הפשע:

ראשית, הסובייקט אינו עוד אדם בודד אלא יכול להיות מערכת אוטומטית, או קבוצת אנשים השולטת בה מרחוק;

שנית, האובייקט המופר אינו רק רכוש, כבוד או נתונים, אלא גם אמון חברתי - ערך בלתי מוחשי אך בעל משמעות מהותית;

שלישית, האמצעים לביצוע פשעים מתוכנתים, לומדים את עצמם, קשים לשליטה וניתנים לשכפול בלתי מוגבל;

רביעית, ההשלכות החברתיות אינן נעצרות בנזק כלכלי , אלא מתפשטות לפסיכולוגיה, מוסר וביטחון לאומי.

"לפיכך, בינה מלאכותית לא רק תומכת בבני אדם ביצירתיות וייצור, אלא גם משנה את מבנה ההתנהגות הסוטה, מה שהופך את מושג 'קרימינולוגיה דיגיטלית' לכיוון מחקר חדש במדע הפלילי המודרני", אמר מר הייו.

מעבר מחקירה מסורתית לחקירה בתחום הנתונים

מר הייאו אמר כי הופעתן של פשעים מבוססי בינה מלאכותית מאלצת את סוכנויות החקירה לחדש את מודלי העבודה שלהן. במקום לחקור לאחר האירוע, יש צורך לחקור נתונים במקביל, לאסוף ולנתח את זרימת המידע תוך כדי התרחשות ההתנהגות.

טכניקות כמו ניתוח עקבות של בינה מלאכותית נחקרות, המאפשרות אחזור של מאפיינים ספציפיים של כל מודל גנרטיבי בדומה ל"טביעות אצבע דיגיטליות" בזיהוי פלילי דיגיטלי.

בווייטנאם, יחידות מקצועיות של משרד הביטחון הציבורי תיאמו עם חברות טכנולוגיה כדי לבנות מסד נתונים של דגימות זיהוי קולי, פנים ווידאו שנוצרו על ידי בינה מלאכותית.

לצד זאת, יש צורך לשפר גם את התשתית המשפטית. יש צורך להוסיף את עבירת "שימוש בבינה מלאכותית לביצוע פשעים" למחקרים לתיקון חוק העונשין, ובמקביל, יש לכלול תקנות ספציפיות לגבי אחריותם של בעלי ומפעילי מערכות בינה מלאכותית.

חשוב יותר הוא לעבור מחשיבה של "למצוד את האשם" לחשיבה של "מניעה פרואקטיבית". בעידן שבו סרטון מזויף יכול להתפשט מהר יותר מהכרזה רשמית, היכולת להגיב במהירות ולתאם בין כל הצדדים, כולל המדינה, עסקים והקהילה, הופכת לגורם מפתח.

חסינות דיגיטלית, "נוגדנים" בעידן הבינה המלאכותית

מושג שהדגיש סגן אלוף, ד"ר דאו טרונג הייאו, הוא "חסינות דיגיטלית", שהיא היכולת של החברה לזהות את עצמה ולהגיב למידע מזויף. כדי לבנות חסינות דיגיטלית, לדבריו, יש צורך לאחד שלוש קבוצות של פתרונות.

טקס החתימה על אמנת האומות המאוחדות נגד פשעי סייבר התקיים בהאנוי ב-25 באוקטובר. צילום: הממשלה.

ראשית, יש לבנות מסדרון משפטי גמיש ואבולוציוני, תוך הבטחת איזון בין שליטה לחדשנות. חוקים לא צריכים "למסגר" בינה מלאכותית, אלא להיות גמישים כדי להסתגל לשינויים מהירים בטכנולוגיה, תוך הבטחת עקרון האחריות הכפולה - יחידים או ארגונים המשתמשים בבינה מלאכותית חייבים להיות אחראים למוצרים שהם יוצרים.

שנית, יש להקים מנגנון זיהוי לאומי לתוכן שנוצר על ידי בינה מלאכותית, באמצעות סטנדרטים לאימות מקור דיגיטלי (סימן מים של בינה מלאכותית, קוד מקור). יש לחייב פלטפורמות דיגיטליות לתייג או לאמת תוכן שנוצר על ידי בינה מלאכותית, ולסייע למשתמשים להבחין בין אמיתי למזויף כבר משלב הקליטה.

שלישית, חינוך ומדיה חברתית הם קו הגנה לטווח ארוך. חוקים יכולים לווסת התנהגות, אך רק חינוך יכול לווסת מודעות. שילוב ידע על אבטחת מידע, מיומנויות זיהוי חדשות מזויפות ואתיקה טכנולוגית בחינוך הכללי ובתוכניות הלימודים באוניברסיטאות ייצור מעמד של אזרחים בעלי "נוגדנים דיגיטליים", בסיס בר-קיימא לחברה בטוחה.

לדברי מר הייאו, בינה מלאכותית אינה רק התקדמות טכנולוגית, אלא גם מבחן מוסרי ומשפטי של האנושות. כאשר מכונות יכולות לשחזר את האמת, אנשים נאלצים ללמוד כיצד להגן על האמונה היחידה שלא ניתן לתכנת.

וייטנאם צריכה לקחת את ההובלה באופן יזום על ידי בניית מסגרת משפטית גמישה, שיפור שיתוף הפעולה הציבורי-פרטי במניעת פשעי בינה מלאכותית וקידום חינוך לחסינות דיגיטלית לאזרחים.

"חברה בטוחה בעידן הבינה המלאכותית אינה זו עם חומות האש החזקות ביותר, אלא זו עם האזרחים הערניים ביותר. אם נתונים הם הדלק של העידן הדיגיטלי, אז אמון הוא המנוע. בלי אמון, כל מערכת קורסת, לא משנה כמה מתקדמת הטכנולוגיה", הדגיש הקרימינולוג.

ב-25 באוקטובר התקיים בהאנוי טקס החתימה על אמנת האומות המאוחדות נגד פשעי סייבר תחת הכותרת "מאבק בפשעי סייבר - שיתוף אחריות - מבט לעתיד". אמנת האנוי נחשבת לצעד חשוב בבניית המסגרת המשפטית הגלובלית הראשונה לתיאום מאמצים משותפים להגיב לפשעי סייבר. זהו אבן דרך היסטורית לא רק עבור הקהילה הבינלאומית, אלא גם מאשרר את תפקידה ומעמדה של וייטנאם בזירה הבינלאומית.

מקור: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html