כמה טוב אתם מכירים את הבינה המלאכותית? הנה 7 מונחים שאתם צריכים לדעת

[מודעה_1]

ההתפתחות המהירה של הבינה המלאכותית (AI) עוררה חששות שהיא מתפתחת מהר יותר ממה שבני אדם יכולים להבין את השפעתה.

עד כמה אתם מבינים מישהו? הנה 7 מונחים שאתם צריכים לדעת, תמונה 1. — צילום: ST

השימוש בבינה מלאכותית כללית גדל משמעותית לאחר הופעתם של כלים כמו ChatGPT. בעוד שלכלים אלה יתרונות רבים, ניתן גם לעשות בהם שימוש לרעה בדרכים מזיקות.

כדי לנהל את הסיכון הזה, ארה"ב וכמה מדינות נוספות הבטיחו הסכמים עם שבע חברות, ביניהן אמזון, אנתרופיק, גוגל, Inflection, מטה, מיקרוסופט ו-OpenAI, להתחייבות לנהלים בטוחים בפיתוח טכנולוגיית בינה מלאכותית.

ההודעה של הבית הלבן מגיעה עם טרמינולוגיה משלה שעשויה להיות לא מוכרת לאדם הממוצע, עם מונחים כמו "red teaming" ו-"watermarking". הנה שבעה מונחים הקשורים לבינה מלאכותית שכדאי לשים לב אליהם.

למידת מכונה

ענף זה של בינה מלאכותית שואף לאמן מכונות לבצע משימה ספציפית במדויק על ידי זיהוי דפוסים. לאחר מכן המכונה יכולה לבצע תחזיות על סמך נתונים אלה.

למידה עמוקה

משימות יצירתיות של בינה מלאכותית מסתמכות לעתים קרובות על למידה עמוקה, שיטה הכוללת אימון מחשבים באמצעות רשתות נוירונים, קבוצת אלגוריתמים שנועדו לחקות את הנוירונים במוח האנושי, כדי ליצור קשרים מורכבים בין דפוסים כדי ליצור טקסט, תמונות או תוכן אחר.

מכיוון שמודלים של למידה עמוקה מכילים שכבות מרובות של נוירונים, הם יכולים ללמוד דפוסים מורכבים יותר מאשר למידת מכונה מסורתית.

מודל שפה גדול

מודל שפה גדול, או LLM, מאומן על כמויות אדירות של נתונים ומטרתו למדל שפה או לחזות את המילה הבאה ברצף. מודלים של שפה גדולים, כמו ChatGPT ו-Google Bard, יכולים לשמש למשימות הכוללות סיכום, תרגום ושיחה.

אַלגוֹרִיתְם

קבוצת הוראות או כללים המאפשרים למכונות לבצע תחזיות, לפתור בעיות או להשלים משימות. אלגוריתמים יכולים לספק המלצות קנייה ולסייע בזיהוי הונאות ובפונקציות צ'אט של שירות לקוחות.

הֲטָיָה

מכיוון שבינה מלאכותית מאומנת באמצעות מערכי נתונים גדולים, היא יכולה לשלב בנתונים מידע מזיק, כגון דברי שטנה. גזענות וסקסיזם יכולים להופיע גם במערכי הנתונים המשמשים לאימון בינה מלאכותית, מה שמוביל לתוכן מטעה.

חברות בינה מלאכותית הסכימו להתעמק באופן שבו ניתן להימנע מהטיה ואפליה מזיקים במערכות בינה מלאכותית.

צוות אדום

אחת ההתחייבויות שחברות קיבלו על עצמן כלפי הבית הלבן היא לבצע "צוותים אדומים" (red teaming) באופן פנימי וחיצוני על מודלים ומערכות של בינה מלאכותית.

"צוות אדום" כרוך בבדיקת מודל כדי לחשוף פגיעויות פוטנציאליות. המונח מגיע מפרקטיקה צבאית שבה צוות מדמה את פעולותיו של תוקף כדי לגבש אסטרטגיות.

שיטה זו נמצאת בשימוש נרחב לבדיקת פגיעויות אבטחה במערכות כגון פלטפורמות מחשוב ענן של חברות כמו מיקרוסופט וגוגל.

סימן מים

סימן מים הוא דרך לדעת אם צליל או תמונה נוצרו על ידי בינה מלאכותית. עובדות שנבדקות לצורך אימות יכולות לכלול מידע על מי שיצר אותם, כמו גם כיצד ומתי הם נוצרו או נערכו.

לדוגמה, מיקרוסופט התחייבה לסמן תמונות שנוצרו על ידי כלי הבינה המלאכותית שלה. חברות התחייבו גם לבית הלבן לסמן תמונות בסימן מים או לתעד את מקורן כדי לזהות אותן כתמונות שנוצרו על ידי בינה מלאכותית.

סימני מים משמשים בדרך כלל גם למעקב אחר הפרות קניין רוחני. סימני מים עבור תמונות שנוצרו על ידי בינה מלאכותית יכולים להופיע כרעש בלתי מורגש, כגון שינוי קל כל פיקסל שביעי.

עם זאת, הוספת סימן מים לטקסט שנוצר על ידי בינה מלאכותית יכולה להיות מורכבת יותר ועשויה לכלול כוונון של תבנית המילה כך שניתן יהיה לזהות אותה כתוכן שנוצר על ידי בינה מלאכותית.

הואנג טון (לפי פוינטר)

[מודעה_2]
מָקוֹר