חששות מ"שימוש בבינה מלאכותית" כנשק נגד בני אדם

[מודעה_1]

בטקס סיום לימודי האקדמיה של חיל האוויר האמריקאי בתחילת אוגוסט, הזהיר נשיא ארה"ב ביידן מפני כוחה של הבינה המלאכותית (AI), וחזה כי טכנולוגיה זו עשויה "לעלות על החשיבה האנושית" בעתיד הלא רחוק. " זה לא הולך להיות קל. זוהי הזדמנות מדהימה, אבל יש לנו הרבה עבודה לעשות ", אמר מר ביידן.

בראיון שנערך לאחרונה, אמר נשיא מיקרוסופט, בראד סמית', כי ללא התערבות אנושית, בינה מלאכותית יכולה להפוך לנשק המאיים על חיים: " כל טכנולוגיה שנוצרת יכולה להפוך לכלי שיעזור לבני אדם, אבל גם לנשק. עלינו להבטיח שהבינה המלאכותית תהיה תחת שליטה אנושית כדי שנוכל להאט או לכבות דברים בעת הצורך ."

מיקרוסופט היא כיום אחת החברות המובילות בפיתוח בינה מלאכותית והשקיעה מוקדם ב-OpenAI, "אבי" ChatGPT. החברה השקיעה מיליארדי דולרים במחקר יישומי בינה מלאכותית, תוך שילוב טכנולוגיה מתקדמת זו במוצריה, כולל בינג - מנוע חיפוש הדומה לחיפוש גוגל. למרות קידום פעיל של היתרונות של בינה מלאכותית, מר סמית' אישר כי מיקרוסופט מודעת לסיכונים הפוטנציאליים של שימוש בבינה מלאכותית, ובמקביל, דוגלת בחברות אחרות "לעשות את הדבר הנכון".

האם בינה מלאכותית היא טובה או רעה תלוי באופן שבו בני אדם שולטים בטכנולוגיה הזו.

בינה מלאכותית, שאינה מיושמת רק בשימושים יומיומיים, צצה ככלי רב עוצמה בתחום אבטחת הסייבר. הופעתה של ChatGPT בנובמבר 2022 הפכה לנושא לוויכוחים על בינה מלאכותית, והראתה את ההשפעות המוחשיות של טכנולוגיית רשתות נוירונים וחשפה כי לבינה מלאכותית יש פוטנציאל להרוס תעשיות ברחבי העולם.

אחת השיחות סביב ChatGPT היא כיצד פושעי סייבר מנצלים את הטכנולוגיה כדי להגביר את התקפות הפישינג והתוכנות הזדוניות. למעשה, מחקרים הראו כי האקרים יכולים להשתמש בכלי כדי ליצור קוד זדוני מבקשות בודדות כדי לעקוף כללי אבטחה.

בשבוע אבטחת הסייבר השנתי שהתקיים לאחרונה באינדונזיה, הציגה חברת האבטחה קספרסקי את מושג חסינות הסייבר, דרך לפיתוח מערכות IT בעלות יכולות הגנה מולדות.

" חסינות סייבר היא טכנולוגיה המייצגת מערכת אבטחה שנועדה להיות מאובטחת, המסוגלת ליצור פתרון כמעט בלתי שביר, תוך מזעור מספר הפגיעויות הפוטנציאליות", אמר יוג'ין קספרסקי, מנכ"ל קספרסקי. "אבטחת סייבר מסורתית כבר אינה מספיקה כדי להגן עלינו. עלינו לחולל מהפכה בהגנות שלנו כדי להבטיח שניצור עולם דיגיטלי בטוח יותר ."

אזור אסיה פסיפיק נמצא כיום בחזית מהפכת הבינה המלאכותית. מחקר שנערך לאחרונה על ידי IDC גילה כי הוצאות הבינה המלאכותית באזור יוכפלו תוך שלוש שנים, מ-9.8 מיליארד דולר בשנת 2023 ל-18.6 מיליארד דולר בשנת 2026. כדי לשפר את היעילות ולהפחית את התלות בטכנולוגיה, רוב העסקים המקומיים שואפים לשלב בינה מלאכותית בתיקי הטכנולוגיה העסקיים שלהם תוך שלוש שנים. נכון לעכשיו, גודל שוק הבינה המלאכותית באזור אסיה פסיפיק עומד על 22.1 מיליארד דולר וצפוי כמעט לגדול פי ארבעה עד 2028 ולהגיע ל-87.6 מיליארד דולר.

דו"ח IDC מדגיש כי סין, אוסטרליה והודו הן שלוש המדינות המובילות בהוצאות על בינה מלאכותית באזור, ורבות נוספות יבואו בעקבותיהן. " זה מקשה עלינו לשרטט נתיב בטוח כעת, ולהבטיח שנוכל לנצל את הטכנולוגיה הזו מבלי להתפשר על האבטחה", הוסיף אדריאן היא, מנהל APAC ב-Kaspersky.

חאן לין

[מודעה_2]
מָקוֹר