מטא הוציאה זה עתה ערכת כלים חדשה לאבטחת בינה מלאכותית בקוד פתוח.

מטא שואפת לבסס את עצמה כחלוצה בפיתוח טכנולוגיות בינה מלאכותית.

מטא הציגה את Purple Llama, פרויקט המוקדש ליצירת כלים בקוד פתוח עבור מפתחים כדי להעריך ולשפר את האמינות והבטיחות של מודלים של בינה מלאכותית (AI) שנוצרו לפני פריסתם.

מטה הדגישה את הצורך במאמצים משותפים להבטחת בטיחות הבינה המלאכותית, תוך שהיא מציינת כי לא ניתן להתמודד עם אתגרי הבינה המלאכותית בבידוד.

החברה הצהירה כי מטרתה של Purple Llama היא ליצור פלטפורמה משותפת לפיתוח בינה מלאכותית גנרטיבית בטוחה יותר, על רקע חששות גוברים בנוגע למודלים של שפות גדולות וטכנולוגיות בינה מלאכותית אחרות.

גארת' לינדהל-וייז, מנהל אבטחת מידע בחברת אבטחת הסייבר Ontinue, כינה את Purple Llama "צעד חיובי ופרואקטיבי" לקראת טכנולוגיית בינה מלאכותית בטוחה יותר.

פרויקט סגול לאמה משתף פעולה עם מפתחי בינה מלאכותית; שירותי ענן כמו AWS ו-Google Cloud; חברות מוליכים למחצה כמו אינטל, AMD ו-Nvidia; וחברות תוכנה, כולל מיקרוסופט.

ערכת הכלים הראשונה שיצאה באמצעות Purple Llama היא CyberSecEval - כלי להערכת סיכוני סייבר המופעל על ידי בינה מלאכותית.

יש לו דפוס שפה שמזהה טקסט לא הולם או מזיק, כולל דיונים על אלימות או פעילות בלתי חוקית.

מפתחים יכולים להשתמש ב-CyberSecEval כדי לבדוק אם מודלי הבינה המלאכותית שלהם נוטים לייצר קוד לא מאובטח או לתמוך במתקפות סייבר.

המחקר של מטה מצא שמודלים של שפה גדולה מצביעים לעתים קרובות על קוד פגיע, מה שמדגיש את החשיבות של בדיקות ושיפור מתמידים לאבטחת בינה מלאכותית.

Llama Guard הוא ערכת כלים נוספת - מודל שפה גדול שאומן לזהות שפה שעלולה להזיק או פוגענית.

מפתחים יכולים להשתמש ב-Llama Guard כדי לבדוק אם המודל שלהם מייצר או מקבל תוכן לא בטוח, ובכך לסייע בסינון הנחיות שעלולות להוביל לפלט לא הולם.

(לפי IFW)

הוא משקיע רבות בבינה מלאכותית, ומשיק חמישה פרויקטים קוונטיים חדשים.

הוא ישקיע רבות בפיתוח מחשבים קוונטיים בקנה מידה גדול ובתמיכה בטכנולוגיות חדשות, כולל בניית מחשב-העל החזק ביותר במדינה בתחום הבינה המלאכותית, איזמברד.

חגורת הבינה המלאכותית GUIDi מחליפה מקלות הליכה עבור כבדי ראייה.

באמצעות טכנולוגיית בינה מלאכותית, חגורת היי-טק זו תהפוך לבן לוויה עבור כבדי ראייה, ותחליף מקלות הליכה מסורבלים.

ברית ענקיות הטכנולוגיה לבינה מלאכותית בקוד פתוח תתחרה ב-OpenAI.

מטא, יבמ, אינטל, סוני, דל וחברות טכנולוגיה אחרות הכריזו לאחרונה על הקמת ברית הבינה המלאכותית בקוד פתוח לפיתוח טכנולוגיה אחראית, תוך התמקדות באמצעי בטיחות.

גישה ייחודית לפיתוח צ'אטבוטים מבוססי בינה מלאכותית בסין.

חברות טכנולוגיה סיניות, המנצלות את השוק הלא מנוצל על ידי OpenAI וגוגל, קוצרות רווחים משמעותיים ממגמת ההתאמה האישית בפיתוח צ'אטבוטים מבוססי בינה מלאכותית.

מָקוֹר: https://vietnamnet.vn/meta-moi-phat-hanh-bo-cong-cu-nguon-mo-bao-dam-an-toan-ai-2225140.html