בינה מלאכותית חדשה יכולה לשמש לייצור נשק ביולוגי.

[מודעה_1]

OpenAI thừa nhận AI mới có thể bị dùng để chế vũ khí sinh học - Ảnh 1. — הטלפון מציג את הממשק ללמידה על GPT-o1 של OpenAI - צילום: FINANCIAL TIMES

על פי ה"פייננשל טיימס" ב-13 בספטמבר, OpenAI הודתה כי מודל ה-GPT-o1 שלה, שהושק ב-12 בספטמבר, מגדיל "באופן משמעותי" את הסיכון לניצול בינה מלאכותית (AI) ליצירת נשק ביולוגי.

התיעוד של OpenAI המסביר כיצד GPT-o1 פועל מאשר כי למודל החדש יש "רמת סיכון בינונית" בנוגע לסוגיות הקשורות לנשק כימי, ביולוגי, רדיולוגי וגרעיני. זוהי רמת הסיכון הגבוהה ביותר ש-OpenAI אי פעם הקצתה למודלים של בינה מלאכותית.

לפי OpenAI, משמעות הדבר היא ש-GPT-o1 יכול "לשפר משמעותית" את יכולתם של מומחים לייצר נשק ביולוגי לשימוש לרעה.

מירה מוראטי, מנהלת הטכנולוגיה הראשית (CTO) של OpenAI, אמרה כי למרות ש-GPT-o1 עדיין בשלב הבדיקה, היכולות המתקדמות של מודל זה מחייבות את החברה להיות "זהירה" ביותר לגבי מפת הדרכים שלה להבאתו לציבור.

גב' מוראטי הצהירה גם כי המודל נבדק ביסודיות על ידי צוות מומחים רב-תחומי. אנשים אלה נשכרו על ידי OpenAI כדי לבחון את מגבלות המודל שפותח על ידי החברה.

מוראטי שיתף כי תהליך הבדיקה הראה כי דגם ה-GPT-o1 עמד בקריטריונים הכלליים של בטיחות טוב בהרבה מקודמיו.

יתר על כן, נציגי OpenAI הבהירו כי גרסת הניסיון של GPT-o1 "בטוחה לפריסה" ואינה יכולה ליצור סיכונים מורכבים יותר מהטכנולוגיות שכבר פותחו.

למרות הבטחות אלו, חלק גדול מהקהילה המדעית וחובבי הבינה המלאכותית נותרים פסימיים במידה רבה לגבי עתידה של טכנולוגיה זו.

החששות לגבי התפתחות מהירה מדי של בינה מלאכותית ועוקפת את המהירות שבה מפותחות ומאושרות תקנות המסדירות אותה הולכים וגוברים.

פרופסור יהושע בנג'יו, מומחה למדעי המחשב באוניברסיטת מונטריאול ואחד ממדעני הבינה המלאכותית המובילים בעולם , אמר שאם OpenAI מהווה כיום "סיכון בינוני" לנשק כימי וביולוגי, אז "זה רק מחזק את החשיבות והדחיפות" של תקנות, כמו הצעת החוק הנדונה בלהט בקליפורניה, לניהול תחום זה.

מדען זה הדגיש כי מוסדות אלה נחוצים במיוחד בהקשר של בינה מלאכותית המתקרבת יותר ויותר לרמת הבינה המלאכותית האוניברסלית (AGI), שהיא היכולת לחשוב בצורה שווה לבני אדם.

"ככל שמודלים חלוציים של בינה מלאכותית מתקרבים למודלים של בינה מלאכותית אגרסיבית (AGI), כך גדלים הסיכונים אם לא ננקטים באמצעי זהירות מתאימים. השיפור ביכולות החשיבה של הבינה המלאכותית והשימוש הפוטנציאלי בה להונאה מסוכנים ביותר", העריך בנג'יו.

[מודעה_2]
מקור: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm