בינה מלאכותית חדשה עשויה להיעזר בה כדי ליצור נשק ביולוגי

[מודעה_1]

OpenAI thừa nhận AI mới có thể bị dùng để chế vũ khí sinh học - Ảnh 1. — טלפון המציג את ממשק הלמידה GPT-o1 של OpenAI - צילום: FINANCIAL TIMES

על פי ה"פייננשל טיימס" ב-13 בספטמבר, חברת OpenAI הודתה כי דגם ה-GPT-o1, שהושק זה עתה ב-12 בספטמבר, מגביר "באופן משמעותי" את הסיכון לניצול בינה מלאכותית (AI) ליצירת נשק ביולוגי.

מאמר המסביר כיצד GPT-o1 פועל, שפורסם על ידי OpenAI, קובע כי למודל החדש יש "רמת סיכון בינונית" עבור נושאים הקשורים לנשק כימי, ביולוגי, רדיולוגי וגרעיני. זוהי רמת הסיכון הגבוהה ביותר ש-OpenAI אי פעם הקצתה למודלים של בינה מלאכותית.

לפי OpenAI, משמעות הדבר היא ש-GPT-o1 יכול "לשפר באופן דרמטי" את יכולתם של מומחים שרוצים לנצל אותם לרעה כדי ליצור כלי נשק ביולוגיים.

מירה מוראטי, מנהלת הטכנולוגיה הראשית (CTO) של OpenAI, אמרה כי למרות ש-GPT-o1 עדיין בשלב הניסויי, היכולות המתקדמות של המודל עדיין מאלצות את החברה להיות "זהירה" ביותר לגבי מפת הדרכים שלה לציבור.

גב' מוראטי אישרה גם כי המודל נבדק ביסודיות על ידי צוות מומחים רב-תחומי שנשכר על ידי OpenAI כדי לבחון את גבולות המודל שפותח על ידי החברה.

בדיקות הראו שדגם ה-GPT-o1 עומד בקריטריונים הכלליים של בטיחות טוב בהרבה מקודמיו, אמר מוראטי.

נציגי OpenAI לא עצרו שם, אלא גם הרגיעו כי גרסת הניסיון של GPT-o1 "בטוחה לפריסה" ואינה יכולה ליצור סיכונים מורכבים יותר מהטכנולוגיות שפותחו.

למרות ההבטחות לעיל, חלק גדול מהקהילה המדעית ואלו המתעניינים בבינה מלאכותית עדיין אינם אופטימיים במיוחד לגבי כיוון הפיתוח של טכנולוגיה זו.

החששות שהבינה המלאכותית מתפתחת מהר מדי ועוקפת את הקצב שבו מפותחות ומאושרות תקנות לניהולה גוברים.

אם OpenAI מהווה כעת "סיכון בינוני" לנשק כימי וביולוגי, "זה רק מחזק את החשיבות והדחיפות" של חוקים כמו זה שנדון בלהט בקליפורניה כדי להסדיר את התחום, אמר יהושע בנג'יו, פרופסור למדעי המחשב באוניברסיטת מונטריאול ואחד ממדעני הבינה המלאכותית המובילים בעולם .

מדען זה הדגיש כי המוסדות הנ"ל נחוצים במיוחד בהקשר של בינה מלאכותית המתקרבת יותר ויותר לרמת הבינה המלאכותית הכללית (AGI), שמשמעותה יכולת חשיבה שווה לבני אדם.

"ככל שמודלים חלוציים של בינה מלאכותית מתקרבים למודלים של בינה מלאכותית אגרסיבית (AGI), כך יגדלו הסיכונים אם לא יינקטו אמצעי זהירות מתאימים. יכולת החשיבה המשופרת של בינה מלאכותית והשימוש בה להונאה מסוכנים ביותר", העריך מר בנג'יו.

[מודעה_2]
מקור: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm