חששות שבינה מלאכותית תיצור כלי נשק מתקדמים שאינם נשלטים על ידי בני אדם

[מודעה_1]

גורמים רשמיים מודאגים יותר ויותר מהשימוש לרעה בבינה מלאכותית ליצירת כלי נשק ביולוגיים ומהצורך ברגולציה כדי למתן זאת. (צילום: איגנטייב)

חששות בנוגע לפושעים או טרוריסטים המשתמשים בבינה מלאכותית כדי להרוס את העולם יהיו נושא חם בפסגת מנהיגים עולמית שתתקיים בבריטניה בנובמבר. גורמים רשמיים בריטים נוסעים ברחבי העולם כדי לנסות להגיע לקונצנזוס על הצהרה משותפת המזהירה מפני הסיכונים של כוחות רעים המנצלים טכנולוגיה חדשה.

כמה גורמים המקורבים לראש ממשלת בריטניה חוששים שבשלב מסוים הטכנולוגיה תהיה חזקה מספיק כדי ליצור כלי נשק ביולוגיים או כלי נשק שחומקים משליטת בני אדם. הדאגה הגוברת קוראת לרגולציה כדי להפחית את הסיכונים. בעוד שמנהיגי הטכנולוגיה מסכימים להשהות את פיתוח הבינה המלאכותית, הם תקועים במרוץ חימוש בתחום הבינה המלאכותית עם יריבים.

על פי ה"גרדיאן", הפסגה בנובמבר תדון בסיכונים של "בינה מלאכותית גבולית". בינה מלאכותית גבולית היא מונח המשמש להתייחס למודלים המתקדמים ביותר של בינה מלאכותית שעלולים לסכן חיי אדם.

מוקדם יותר השבוע, ממשלת בריטניה אישרה כי הוועידה תתמקד בסיכונים כגון שימוש לרעה בבינה מלאכותית ליצירת נשק ביולוגי, מתקפות סייבר או מערכות מתקדמות ללא שליטה אנושית. מזה מספר חודשים, מר סונאק מזהיר מפני הסיכונים הנשקפים מבינה מלאכותית, וקורא לקהילה הבינלאומית לאמץ "מסילות" כדי למנוע שימוש לרעה בבינה מלאכותית.

בשנה שעברה, לקח לבינה מלאכותית רק שש שעות להציע 40,000 מולקולות שונות שעלולות להיות קטלניות, שאחת מהן דמתה ל-VX, חומר העצבים החזק ביותר שפותח אי פעם.

בתחילת 2023, חוקרים גילו ש-ChatGPT יכול להטעות בני אדם כדי להשיג מטרה ספציפית. צ'אטבוט מבוסס בינה מלאכותית שכנע אדם לפתור קפצ'ה (כלי המשמש לזיהוי האם אדם או בוט מבצעים מניפולציה).

דאגה מרכזית נוספת היא עלייתה של "בינה כללית מלאכותית" (AGI), מערכת בינה מלאכותית שיכולה לבצע כל משימה באותה מידה או טוב יותר מבני אדם, דבר שעלול להוות איום פוטנציאלי על האנושות. יש הסבורים ש-AGI נמצאת במרחק שנים ספורות בלבד. עם זאת, מומחי בינה מלאכותית חולקים על כך וקוראים ל-AGI בלתי נשלטת "מדע בדיוני".

בלי קשר, ראש הממשלה סונאק ירצה להשתמש בוועידה כדי למקד את תשומת הלב בסיכונים הקיומיים ולא באפשרויות המיידיות של בינה מלאכותית, כגון יצירת תמונות מזויפות או גרימת אפליה אם תשמש לקבלת החלטות מדיניות ציבורית.

ממשלת בריטניה תשקיע 100 מיליון ליש"ט בצוות משימה חדש לבינה מלאכותית שיסייע בבדיקת אלגוריתמים הנמצאים בפיתוח. היא רוצה לעודד עסקים גלובליים לשלוח כלי בינה מלאכותית בחזרה לבריטניה להערכה לפני פריסתם באופן נרחב.

רק הממשלה יכולה להבטיח שהחששות החשובים ביותר בתחום הביטחון הלאומי יופחתו, לדברי סגן ראש ממשלת בריטניה, אוליבר דאודן.

דובר ממשלת בריטניה אמר כי לבינה מלאכותית יש פוטנציאל עצום לשנות כל היבט של החיים. כוח המשימה לבינה מלאכותית הוקם כדי להבטיח שהטכנולוגיה תפותח בצורה בטוחה ואחראית. כנס הבינה המלאכותית יבחן מגוון סיכונים פוטנציאליים.

(על פי הגרדיאן)

יישום בינה מלאכותית בהגנה על זכויות יוצרים של תוכן דיגיטלי לצד ההתפתחות החזקה של תוכן דיגיטלי, גם הפרת זכויות יוצרים הופכת לכואבת יותר ויותר. פתרונות המשלבים בינה מלאכותית (AI) יתרום להגנה על זכויות יוצרים של תוכן דיגיטלי באינטרנט.

[מודעה_2]
מָקוֹר