בטיחות בעידן ההייטק

מטה סוכנות המשטרה האירופית (יורופול) ממוקם בהאג, הולנד.

לפי יורופול, בינה מלאכותית סייעה "בלי כוונה" לפושעים להגביר את יעילותם בתחומים רבים כמו סחר בסמים, סחר בבני אדם, פשעי סייבר וגניבת זהות. מומחה הטכנולוגיה ברוס שנייר, יועץ ליורופול, הודה: "בינה מלאכותית הופכת פושעים למסוכנים יותר מאי פעם. שיטות אימות זהות מסורתיות אינן יעילות עוד מספיק כדי להילחם בזיופים עמוקים".

קתרין דה בולה, מנכ"לית יורופול, הזהירה: "הפשע המאורגן הופך מתוחכם יותר ויותר ומונע בצורה אגרסיבית יותר באינטרנט, מואץ על ידי בינה מלאכותית וטכנולוגיות מתפתחות. זהו מרוץ בין אלו המשתמשים בטכנולוגיה כדי לבצע פשיעה לבין אלו המשתמשים בטכנולוגיה כדי להילחם בפשיעה. עלינו להבטיח שאכיפת החוק תמיד תהיה בחזית."

באמצע פברואר השנה נערכה בפריז, צרפת, פסגת פעולה בנושא בינה מלאכותית. האירוע התקיים על רקע שינויים משמעותיים בתעשיית הבינה המלאכותית, ובמיוחד הופעתם של מודלים חדשים של בינה מלאכותית שצפויים להשפיע באופן מהותי על השוק העולמי. בפסגה, הביע נשיא צרפת עמנואל מקרון את תקוותו לשיתוף פעולה לקידום מודלים של בינה מלאכותית בקוד פתוח, הקלה על פיתוח עסקי בתחום זה ומאבק יעיל בפשעי סייבר.

בכנס השתתפו מנהיגים ויזמים בכירים רבים בתעשיית הטכנולוגיה, ביניהם נשיא צרפת עמנואל מקרון, ראש ממשלת הודו נרנדרה מודי, סגן נשיא ארה"ב ג'יי.די. ואנס... יחד עם מנהיגים מעמק הסיליקון כמו מנכ"ל OpenAI, יו"ר מיקרוסופט ומנכ"ל גוגל.

מומחה הגיאטכנולוגיה ניק ריינרס מאמין שהכנס יכול להיות הזדמנות לחזות בעיצוב מחדש של התחרות העולמית בתחום זה, כמו גם בתיאום במאבק בפשיעה טכנולוגית מתקדמת המנצלת בינה מלאכותית.

בינה מלאכותית הפכה למגמה בפיתוח, ובין אם נרצה בכך ובין אם לא, אף מדינה לא נותרה מחוץ למרוץ. עם זאת, עדיין קיימות חששות. בפורום הכלכלי העולמי השנתי בדאבוס, שוויץ, שנערך בסוף ינואר 2025, דיונים שהתמקדו בפיתוח הבינה המלאכותית משכו תשומת לב רבה.

ראוי לציין כי מזכ"ל האו"ם, אנטוניו גוטרש, פרסם אזהרה נחרצת מפני שני איומים עיקריים על האנושות: משבר האקלים ופיתוח בלתי מבוקר של בינה מלאכותית. הוא קרא למדינות לנקוט פעולה דחופה כדי למתן את שינויי האקלים ולמנוע את השפעותיהם הגרועות ביותר. בנוגע לבינה מלאכותית, גוטרש הדגיש כי בעוד שבינה מלאכותית מציעה יתרונות רבים, היא גם מציבה סיכונים עמוקים אם לא מנוהלת כראוי. הוא הזהיר כי בינה מלאכותית בלתי מבוקרת עלולה לשמש ככלי להונאה, לשבש את הכלכלה ולערער את האמון במוסדות. היא עלולה גם להעמיק את אי השוויון, שכן אנשים רבים לא ייהנו מטכנולוגיה זו.

משם, מזכ"ל האו"ם קרא לשיתוף פעולה עולמי כדי לטפל בנושאים החל ממשבר האקלים ועד לניהול פיתוח הבינה המלאכותית.

בינתיים, מומחים צופים כי בעזרת בינה מלאכותית, האנושות עשויה לחוות שינוי גדול יותר מכל טכנולוגיה אחרת שהביאה אי פעם בהיסטוריה. ד"ר סיקי צ'ן, מנכ"ל הסטארט-אפ Runway מסן פרנסיסקו, טוען כי התקדמות טכנולוגית קודמת, מחשמל ועד לאינטרנט, כבר גרמה לשינויים חברתיים דרמטיים. עם זאת, עם בינה מלאכותית, ההשפעה תהיה חזקה אף יותר. "עם בינה מלאכותית, החברה האנושית תחווה שינוי בקנה מידה גדול יותר מכל שינוי טכנולוגי אחר שחווינו אי פעם בהיסטוריה", אמר ד"ר צ'ן, אך גם הזהיר מפני "שינוי מרגש, אך גם מפחיד, כמו חרב פיפיות".

לדברי ד"ר ג'ארד ספטארו, מנהיג מרכזי במיקרוסופט, ניתן להתייחס לבינה מלאכותית כ"נשמת העבודה" אם ממקסמים את ההיבטים החיוביים שלה וממתנים את ההיבטים השליליים שלה. בפרט, אסור שהיא תהיה מנוצלת או נשלטת על ידי פושעי סייבר.

שרון ג'ואו, מייסדת שותפה של חברת בינה מלאכותית, הצהירה כי טכנולוגיה זו "עלולה להגיע אלינו מהר יותר ממה שאנחנו יכולים להתמודד איתה". לכן, שליטה בה חייבת להיות אסטרטגיה הכרחית כדי להימנע מסכנה. ג'ואו אמרה כי טכנולוגיה זו מעלה שאלה לגבי עתיד האנושות. "אם משהו עומד להגיע שהוא חזק וחכם יותר מאיתנו, מה המשמעות של זה עבורנו? והאם אנחנו מנצלים אותו? או שהוא מנצל אותנו?"

לכן, אבטחה היא "תהליך חובה", אמר המדען הראשי של OpenAI, איליה סוטסקבר, בראיון ל-MIT Technology Review. היא הציעה שהסדר הבינלאומי עצמו עלול להיות מאוים אם כוחות זדוניים ינוצלו באמצעות בינה מלאכותית.

מזכ"ל האו"ם אנטוניו גוטרש אמר פעם, "אף אחד לא בטוח עד שכולם בטוחים." בעידן של היום, בו הבינה המלאכותית צברה תאוצה, הצהרה זו רלוונטית אף יותר משום שהמאבק בפשיעה בתחום ההיי-טק הוא באחריות כולם.

"

בעידן הדיגיטלי, עם התפוצצות הבינה המלאכותית, גם עולם הפשע משתנה במהירות בהתאם להתקדמות הטכנולוגית, ויוצר אתגרים חסרי תקדים לביטחון העולמי. על פי דו"ח של חברת אבטחת הסייבר פאלו אלטו נטוורקס, מתקפות כופר עולמיות צפויות לעלות ב-47% בשנת 2024 בהשוואה לשנת 2023, וכתוצאה מכך להפסדים של יותר מ-30 מיליארד דולר. התוקפים כבר לא מכוונים רק לנתונים, אלא גם שולטים במערכות קריטיות לצורך סחיטה. זו כבר לא רק בעיה כלכלית אלא איום על הביטחון הלאומי. יתר על כן, שיחות דיפ-זייק, המשתמשות בטכנולוגיית בינה מלאכותית העדכנית ביותר כדי להתחזות לקולות או תמונות, גרמו נזק משמעותי. דו"ח של יורופול מצביע על עלייה של 300% בהונאות דיפ-זייק בשנתיים האחרונות.

מקור: https://daidoanket.vn/an-toan-trong-thoi-dai-cong-nghe-cao-10302564.html