בטיחות בעידן ההייטק

מטה סוכנות המשטרה האירופית (יורופול) בהאג, הולנד.

לפי יורופול, בינה מלאכותית סייעה "בלי כוונה" לפושעים להגביר את יעילותם בתחומים רבים כגון סחר בסמים, סחר בבני אדם, פשעי סייבר וגניבת זהות. מומחה הטכנולוגיה ברוס שנייר, יועץ ליורופול, הודה: "בינה מלאכותית הופכת את הפושעים למסוכנים מתמיד. שיטות אימות זהות מסורתיות אינן יעילות מספיק כדי להילחם בזיופים עמוקים".

"פשע מאורגן הופך מתוחכם יותר ומתודלק באינטרנט, מואץ על ידי בינה מלאכותית וטכנולוגיות מתפתחות. זהו מרוץ בין אלו המשתמשים בטכנולוגיה כדי לבצע פשיעה לבין אלו המשתמשים בטכנולוגיה כדי להילחם בפשיעה. עלינו להבטיח שאכיפת החוק תישאר צעד אחד קדימה", הזהירה קתרין דה בולה, המנהלת בפועל של יורופול.

באמצע פברואר השנה נערכה בפריז (צרפת) פסגת פעולה בנושא בינה מלאכותית. האירוע התקיים בהקשר של תנודות רבות בתעשיית הבינה המלאכותית, ובמיוחד הופעתם של מודלים חדשים של בינה מלאכותית, אשר נחשבים כבעלי השפעה משמעותית על השוק העולמי. בכנס, נשיא צרפת עמנואל מקרון הביע את תקוותו לשיתוף פעולה לקידום מודלים של בינה מלאכותית בקוד פתוח, יצירת תנאים לעסקים להתפתח בתחום זה, וכן מניעה יעילה של פשעים טכנולוגיים.

בכנס השתתפו מנהיגים בכירים ואנשי עסקים רבים מתעשיית הטכנולוגיה, ביניהם נשיא צרפת עמנואל מקרון, ראש ממשלת הודו נרנדרה מודי, סגן נשיא ארה"ב ג'יי.די. ואנס... ומנהיגים מעמק הסיליקון כמו מנכ"ל OpenAI, נשיא מיקרוסופט ומנכ"ל גוגל.

מומחה הגיאוגרפיה ניק ריינרס אמר כי הכנס יכול להיות הזדמנות לראות עיצוב מחדש של התחרות העולמית בתחום, כמו גם תיאום במאבק בפשיעה בתחום ההייטק, תוך ניצול בינה מלאכותית.

בינה מלאכותית הפכה למגמה של פיתוח, בין אם נרצה בכך ובין אם לא, עד כה אף מדינה לא נותרה מחוץ למירוץ. למרות שעדיין ישנן חששות. בפורום הכלכלי העולמי השנתי 2025 שנערך בדאבוס (שוויץ) בסוף ינואר 2025, היא משכה גם תשומת לב עם דיונים שהתמקדו בפיתוח הבינה המלאכותית.

ראוי לציין כי מזכ"ל האו"ם, אנטוניו גוטרש, פרסם אזהרה נחרצת מפני שני איומים עיקריים על האנושות: משבר האקלים והפיתוח הבלתי מבוקר של בינה מלאכותית. מר גוטרש קרא למדינות לנקוט פעולה דחופה כדי להגביל את שינויי האקלים ולמנוע את ההשפעות הקשות ביותר. בנוגע לבינה מלאכותית, מר גוטרש הדגיש כי בינה מלאכותית מביאה יתרונות רבים לחיים אך גם מהווה סיכונים עמוקים אם לא מנוהלת כראוי. האזהרה הייתה: בינה מלאכותית, אם לא נשלטת היטב, עלולה להיות מנוצלת ככלי הטעיה, לשבש את הכלכלה ולהחליש את האמון במוסדות. היא עלולה גם להעמיק את אי השוויון, משום שאנשים רבים אינם מרוויחים מטכנולוגיה זו.

מזכ"ל האו"ם קרא מאז לשיתוף פעולה עולמי כדי להתמודד עם נושאים החל ממשבר האקלים ועד לניהול עליית הבינה המלאכותית.

בינתיים, מומחים צופים כי בעזרת בינה מלאכותית, האנושות עשויה לחוות שינוי גדול יותר מכל טכנולוגיה אחרת בהיסטוריה. ד"ר סיקי צ'ן, מנכ"ל הסטארט-אפ Runway מסן פרנסיסקו, אמר כי התקדמות טכנולוגית קודמת, מחשמל ועד לאינטרנט, גרמה לשינויים דרמטיים בחברה. עם זאת, עם בינה מלאכותית, זה יהיה דרמטי אף יותר. "עם בינה מלאכותית, החברה האנושית תחווה שינוי בקנה מידה גדול יותר מכל שינוי טכנולוגי אחר שחווינו בהיסטוריה", אמר ד"ר צ'ן, אך גם הזהיר כי "זהו שינוי מרגש, אך גם מפחיד כמו 'חרב פיפיות'".

לדברי ד"ר ג'ארד ספטארו - מנהיג מרכזי בחברת מיקרוסופט, ניתן להתייחס לבינה מלאכותית כ"נשמת העבודה" אם היא יכולה לקדם את ההיבטים החיוביים ולהגביל את ההיבטים השליליים. במיוחד כדי לא לאפשר לפושעי היי-טק לנצל זאת ולשלוט.

עבור שרון ג'ואו, מייסדת שותפה של חברת בינה מלאכותית, הטכנולוגיה "עשויה להגיע אלינו מהר יותר ממה שאנחנו יכולים להתמודד איתה". לכן, להקדים אותה היא אסטרטגיה טבעית אם איננו רוצים להיות בסכנה. ג'ואו אמרה שהטכנולוגיה מעלה שאלה לגבי עתיד האנושות. "אם משהו הולך להיות חזק מאיתנו וחכם מאיתנו, מה המשמעות של זה עבורנו? והאם אנחנו מנצלים אותו? או שהוא מנצל אותנו?"

זו הסיבה שבטיחות היא "תהליך חובה", אמר איליה סוטסקבר, המדען הראשי של OpenAI, בראיון ל-MIT Technology Review, ורמז כי הסדר הבינלאומי עצמו עלול להיות מאוים אם גורמים שליליים ינוצלו לרעה בבינה מלאכותית.

מזכ"ל האו"ם, אנטוניו גוטרש, אמר פעם: "אף אחד לא בטוח עד שכולם בטוחים." בעידן הנוכחי של פיצוץ הבינה המלאכותית, אמרה זו רלוונטית אף יותר משום שהמאבק בפשיעה בתחום ההיי-טק אינו עניין פרטי.

"

בעידן הדיגיטלי, עם התפוצצות הבינה המלאכותית, גם עולם הפשע משתנה במהירות עם התפתחות הטכנולוגיה, ויוצר אתגרים חסרי תקדים לביטחון העולמי. על פי דו"ח של חברת אבטחת הסייבר פאלו אלטו נטוורקס, מספר מתקפות הכופר העולמיות גדל ב-47% בשנת 2024 בהשוואה לשנת 2023, וגרם נזק של יותר מ-30 מיליארד דולר. התוקפים כבר לא מכוונים רק לנתונים, אלא גם שולטים במערכות חשובות לסחיטה. זו כבר לא רק בעיה כלכלית אלא איום על הביטחון הלאומי. בנוסף, שיחות דיפפייק מיישמות את ההישגים המתקדמים ביותר של בינה מלאכותית כדי לזייף את קולם או תמונתם של הקורבנות, וגורמות נזק עצום. דו"ח של יורופול מראה כי מספר ההונאות המשתמשות בדיפפייק גדל ב-300% בשנתיים האחרונות.

מקור: https://daidoanket.vn/an-toan-trong-thoi-dai-cong-nghe-cao-10302564.html