למעשה, זו לא הפעם הראשונה שמדענים מזהירים מפני הסכנה הפוטנציאלית של בינה מלאכותית לאנושות. בשנת 2014, הצהיר הפיזיקאי התיאורטי הבריטי הנודע סטיבן הוקינג: "הפיתוח המלא של בינה מלאכותית עלול להשמיד את האנושות". הוא גם ניבא שהאנושות תוחלף לחלוטין על ידי בינה מלאכותית תוך 500 שנה אם לא יינקטו זהירות במחקר ובפיתוח של טכנולוגיה מסוכנת זו. לפני שמונה שנים, ביולי 2015, יותר מ-1,000 מומחים בתחום הבינה המלאכותית, ביניהם סטיבן הוקינג, אילון מאסק, נועם חומסקי ואחרים, חתמו על עצומה המזהירה מפני הסיכון למרוץ חימוש בתחום הבינה המלאכותית הצבאית וקוראת לאיסור מוחלט על כלי נשק אוטונומיים (המשלבים בינה מלאכותית ונשק קטלני). השקת אפליקציית Chat GPT על ידי OpenAI בנובמבר 2022 הוסיפה פעמון אזעקה נוסף בנוגע לסכנות הטמונות בבינה מלאכותית. למעשה, מה שעושה Chat GPT מראה שבינה מלאכותית, במידה מסוימת, הפכה למסוכנת הרבה יותר ממה שחשבו בעבר.
הסיכונים הפוטנציאליים של בינה מלאכותית תלויים באופן השימוש בה. בתחילה, בינה מלאכותית פותחה כדי לסייע לבני אדם בעבודתם, במיוחד במשימות מייגעות וחוזרות על עצמן כמו סיווג תמונות וסקירת מידע. עם זאת, עם ההתפתחות המהירה של בינה מלאכותית בתקופה האחרונה, מדענים ומומחי טכנולוגיה מודאגים שאם הבינה המלאכותית תפותח ללא פיקוח, או תתוכנת למטרות שגויות, היא עלולה להיות בעלת השלכות חמורות על האנושות והחברה.
סיכון של חוסר ביטחון
בינה מלאכותית עלולה להפוך לאיום על הביטחון הלאומי והבטיחות האישית. אילון מאסק הזהיר כי בינה מלאכותית עלולה להפוך לכלי מפחיד במלחמה. אם מדינה תוכל לפתח מערכת בינה מלאכותית מתקדמת, היא תוכל להשתמש בה כדי לתקוף מדינות אחרות. פרופסור סטיוארט ראסל, פרופסור למדעי המחשב באוניברסיטת קליפורניה, שבילה עשרות שנים במחקר בינה מלאכותית, מזהיר מפני האיום הביטחוני שמציבה בינה מלאכותית, וקובע כי כעת נוכל לייצר כלי נשק אוטונומיים על ידי שילוב ומזעור טכנולוגיות קיימות.
הניסוי, שנערך על ידי פרופסור סטיוארט ראסל ומכון המחקר Future Life (FLI), השתמש ב-slaughterbot - מכשיר מעופף מיקרוסקופי המצויד במצלמות, חיישנים, תוכנת עיבוד תמונה, זיהוי פנים, מטען נפץ במשקל 3 גרם ומעבד במהירות גבוהה המאפשר ניתוח נתונים ותגובות מהירות פי 100 מהמוח האנושי. על פי הפרמטרים המתוכנתים שלו, slaughterbot ניגש באופן רציף לנתוני ענן כדי לחפש מידע על המטרה שלו ולמצוא דרך להתקרב אליה. לאחר שיימצא, הוא יזנק לעבר המטרה במהירות גבוהה, יפעיל את מטען הנפץ במשקל 3 גרם ויחדור עמוק לתוך הגולגולת, ויהרוג את הקורבן באופן מיידי.
זה היה רק ניסוי עם בינה מלאכותית ברמה הפשוטה ביותר שלה. אם בינה מלאכותית תשמש לפיתוח שיטות תקיפה חדשות ומתוחכמות יותר, היא יכולה גם להגביר את יכולות התקיפה של התוקפים ולהוביל לתוצאות חמורות יותר מאשר התקפות קונבנציונליות. כאשר בינה מלאכותית תתפתח עד לנקודה שבה היא תוכל לקבל החלטות משלה להתמודד עם סביבות משתנות, או לחפש באופן עצמאי מטרות חלופיות, או להרחיב את טווח המטרות שלה, אז אולי האנושות כבר לא תהיה בטוחה. עמיתים רבים בתחום זה מסכימים עם פרופסור סטיוארט ראסל ומאמינים שעדיין יש סיכוי למנוע עתיד קודר שכזה, אבל לא באמת נותר לנו הרבה זמן.
הסיכון הוא שבינה מלאכותית תהפוך למאורגנת, אוטונומית ותשלוט במערכת.
בינה מלאכותית יכולה להיות מתוכננת בצורה שגויה או "מאומנת" בצורה לא נכונה באמצעות למידת מכונה, מה שעלול להוביל לפעולות לא מכוונות הפוגעות בבני אדם ובסביבה. לדוגמה, עם למידת מכונה, בינה מלאכותית הופכת לחכמה יותר ויותר. כאשר בינה מלאכותית מגיעה לרמת אינטליגנציה שבה היא תומכת במערכות קריטיות כמו חשמל, תחבורה, שירותי בריאות ופיננסים, היא יכולה לשלוט ולשלוט במערכות אלה כולו, לקבל החלטות משלה ולבצע אותן במצבי חירום. עם זאת, כאשר בינה מלאכותית "מצוידת" בכוונה זדונית (מתוכננת בצורה שגויה), היא עלולה לגרום לתוצאות חמורות, כגון שיבוש מערכות תנועה על ידי השבתת רמזורים או ניתוק חשמל למערכות רכבת עירוניות, מה שגורם לתאונות שרשרת ולהפסקות חשמל נרחבות.
סרטים רבים בהוליווד ובינלאומיים התבססו על תרחיש זה. עם זאת, עם טכנולוגיית הבינה המלאכותית הנוכחית, זה כבר לא סיכוי רחוק אלא בהחלט אפשרי. אילון מאסק מאמין שאם בינה מלאכותית תאפשר להתפתח ללא פיקוח, עד כדי כך שתוכל להפוך החלטות לאוטומטיות ללא התערבות אנושית, היא עלולה להוות איום על הישרדות האנושות. זו הסיבה שהוא, יחד עם אלפי מומחי טכנולוגיה, חתם על מכתב הדורש עצירה ופיקוח קפדני על פיתוח הבינה המלאכותית בצורה שקופה. לדברי אילון מאסק, מערכות בינה מלאכותית הן מורכבות, קשות להבנה, והשליטה בהן מאתגרת מאוד. ללא שקיפות, השימוש בבינה מלאכותית למטרות לא אתיות, הגורם נזק לאנושות, הוא בלתי נמנע.
סיכון לאובדן מקום עבודה, הפרת זכויות לפרטיות.
כאשר משתמשים בטכנולוגיית בינה מלאכותית לאיסוף מידע אישי, היא יכולה לשמש לפגיעה בפרטיות, לניהול קמפיינים של דיסאינפורמציה ולהפצת מידע שגוי המשפיע על הסדר החברתי והיציבות הפוליטית. פריצת רשת משרד ניהול כוח האדם האמריקאי (OPM) היא דאגה משמעותית לכל מדינה או ארגון, שכן היא פגעה במידע האישי המפורט והרגיש ביותר של 21.5 מיליון פקידים אמריקאים נוכחיים ובדימוס, כולל מידע על בני זוגם ונתונים על בקשות עבודה ממשלתיות כגון מצב בריאותי, מגורים, עיסוק, טביעות אצבעות ומידע פיננסי. עם זאת, עובדה מדאיגה עוד יותר התגלתה כאשר ה-CIA גילה כי מבצעי גניבת הנתונים של OPM השתמשו בבינה מלאכותית כדי לזייף מידע אישי וליצור סוכנים וירטואליים לגניבת נתונים. לאחר הגניבה, המידע ינותח, מסווג וינוצל למטרות ספציפיות באמצעות טכנולוגיית ביג דאטה. בינה מלאכותית מסייעת לגנבי מידע לקצר את הזמן שלוקח לנצל את הנתונים מכיוון שבני אדם אינם מסוגלים לעבד כמות כה עצומה של מידע בזמן כה קצר.
בנוסף לסכנות הטמונות שהוזכרו לעיל, טכנולוגיית הבינה המלאכותית יוצרת גם סיכונים נוספים כגון: הסתמכות יתר עליה, מה שמוביל לאובדן שליטה על מצבים ולירידה ביכולת קבלת החלטות. בינה מלאכותית תגרום גם למיליונים, ואף מאות מיליוני אנשים, לאבד את מקום עבודתם, במיוחד בעבודות כפיים גרידא עם תכולת ידע נמוכה. התוצאה היא שבעיות חברתיות חמורות כמו אבטלה, פשיעה והפער בין עשירים לעניים יתגברו עוד יותר. יתר על כן, אמינות היא גם נושא מכריע. אמינותן של החלטות בתחומים מיוחדים ביותר כמו בריאות ומשפט פלילי היא חשובה ביותר. כאשר משתמשים בבינה מלאכותית כדי לסייע בקבלת החלטות בתחומים אלה, אם הטכנולוגיה אינה אמינה מספיק, פועלת על סמך נתונים הנוטים להעדיף אדם אחד או קבוצת אנשים, או מעוותת במכוון, להחלטות אלה יש פוטנציאל לגרום לתוצאות חמורות.
כיצד נוכל למנוע זאת?
הסיכונים הנ"ל הם הסיבה לכך שאילון מאסק ומומחי טכנולוגיה מודאגים מהפיתוח הבלתי מבוקר של בינה מלאכותית וכתבו מכתבים הקוראים לאומות המאוחדות ולארגונים בינלאומיים לשלוט בקפדנות, להבטיח בטיחות ואתיקה בפיתוח בינה מלאכותית; ולחזק את שיתוף הפעולה הבינלאומי כדי להבטיח שטכנולוגיית בינה מלאכותית תנוצל בצורה מועילה לאנושות ולחברה. כמה צעדים ספציפיים שניתן להזכיר כוללים:
בקרת אמינות מערכת: יש לתכנן ולפתח בינה מלאכותית כדי להבטיח בטיחות ואמינות באמצעות שיטות בקרת איכות, ניטור ופיקוח קפדניות, תכופות ומתמשכות, על מנת להבטיח שמערכת הבינה המלאכותית פועלת כמתוכנן על ידי בני אדם ולמנוע השפעות לא רצויות מחוסר אמינותה.
יש לתכנת את טכנולוגיית הבינה המלאכותית (AI) כך שתפעל בהתאם לערכים אתיים ולנורמות חברתיות. יש לקבוע בבירור את התקנות והסטנדרטים הללו ולנטר אותם על מנת להבטיח שהם לא גורמים דבר מזיק או פוגע באנשים או בארגונים. יש לבצע באופן קבוע גם את תהליך הניתוח, הערכת ההשפעה והניטור של ביצועי מערכת הבינה המלאכותית על מנת להבטיח שהיא פועלת בצורה אתית, אינה מפרה או שוחקת את הערכים המשותפים של החברה, אינה גורמת להשפעות שליליות ומבטיחה העברה מדויקת של ידע וערכים.
    |
| עיתונות היא אחת התעשיות המושפעות ביותר מבינה מלאכותית. בעתיד, לא יהיה צורך במגישים מחוץ למסך עבור תוכניות רדיו, ואף מגישים וירטואליים עבור תוכניות טלוויזיה יהפכו לדומיננטיים. |
- להפסיק באופן זמני את "ההכשרה" של מערכות בינה מלאכותית למשך שישה חודשים לפחות כדי להעריך מחדש את הנושא כולו. הפסקה זו חייבת להיות פומבית, מבוקרת, וכל בעלי העניין המרכזיים המעורבים בהכשרה חייבים לציית לה. במידת הצורך, על ממשלות להוציא איסורים זמניים. אין פירוש הדבר הפסקה מוחלטת של פיתוח בינה מלאכותית, אלא רק הפסקה זמנית במרוץ המסוכן למעבר למודלים אחרים של פיתוח שהופכים את מערכות הבינה המלאכותית למדויקות, מאובטחות, מובנות, שקופות, רלוונטיות, אמינות ונאמנות יותר. זהו פתרון מקיף שאילון מאסק ועמיתיו דגלו בו במכתבם הפתוח, אך היתכנותו נמוכה. קשה מאוד לכל המעבדות העצמאיות לציית לפנייה כה לא מחייבת וחוצה גבולות.
- חיזוק שיתוף הפעולה ושיתוף המידע בין מדינות וארגוני מחקר עצמאיים בתחום הבינה המלאכותית הוא קריטי להבטחת פיתוח ושימוש בטוח בבינה מלאכותית בעתיד. שיתוף פעולה ושיתוף מידע מאפשרים גם התרעות בזמן ומניעה של כל סיכון מתעורר.
באופן כללי, בינה מלאכותית כבר נוכחת בכל מקום סביבנו, וסיפורים כמו בינה מלאכותית על כתיבת שירה, מוזיקה ומאמרים הפכו למציאות, לא עוד מדע בדיוני. מחבר מאמר זה השתמש בטכנולוגיית בינה מלאכותית במחשבים ובטלפונים כדי לסייע בכתיבה, מה שהפך את התהליך לחלק ומהיר יותר. באופן ספציפי, פסקת הפתיחה (chapeau) וכמה רעיונות הוצעו על ידי בינה מלאכותית, ובאופן מפתיע עוד יותר, כל התמונות בהן נעשה שימוש במאמר זה נוצרו על ידי בינה מלאכותית. טכנולוגיית בינה מלאכותית שימושית מאוד בשיפור איכות העבודה והחיים של בני אדם, אך יש לשלוט בה בקפדנות כדי למנוע ממנה לצאת משליטה ולהפוך לתחליף פוטנציאלי לבני אדם בעתיד, כפי שחזה הפיזיקאי התאורטי סטיבן הוקינג.
טקסט ותמונות: הו דואונג[מודעה_2]
מָקוֹר
תגובה (0)