אזהרה אנתרופית

חברת אנתרופיק קראה זה עתה לחברות הבינה המלאכותית הגדולות בעולם לתאם עצירה זמנית של פיתוח הדגם המתקדם הבא, והזהירה כי הוא עלול לצאת משליטת האדם.

אנתרופיק קוראת לעצור את פיתוחן של מערכות בינה מלאכותית מתקדמות חדשות. צילום: בלומברג .

בפוסט בבלוג ב-4 ביוני, החברה הציעה כי האטה או השהייה של פיתוח בינה מלאכותית מתקדמת ברחבי העולם "יכולות להיות דבר טוב". עם זאת, החברה הזהירה שאם אפילו ישות אחת תפסיק, המתחרים ימשיכו להתקדם.

"אנו מאמינים שלעולם צריכה להיות האפשרות להאט או להשהות זמנית את פיתוח הבינה המלאכותית המתקדמת, כך שמבנים חברתיים ומחקר בנושא בטיחות בינה מלאכותית יוכלו לעמוד בקצב ההתפתחות הטכנולוגית", אמר אנתרופיק.

מה שמדאיג את אנתרופיק יותר מכל הוא תרחיש "השיפור העצמי הרקורסיבי", שבו בינה מלאכותית מתכננת, בונה ומאמנת את הגרסה הבאה של עצמה ללא התערבות אנושית.

המאמר, שנכתב במשותף על ידי ג'ק קלארק ומרינה פאבארו, ראש מכון המחקר הפנימי של אנתרופיק, מגלה כי למעלה מ-80% מהקוד הנכנס למערכות החברה נכתב כיום על ידי קלוד. מהנדסים משלימים פי שמונה יותר קוד ברבעון מאשר לפני 2025.

אולי יעניין אותך גם

הקונגרס הלאומי ה-13 של איגוד הנוער: עיצוב תפקיד הנוער בעידן החדשבהתבסס על ההישגים הבולטים של קדנציה 2022-2026, הקונגרס הלאומי ה-13 של איגוד הנוער קבע משימות מרכזיות שמטרתן לפתח דור של צעירים אמיצים, יצירתיים, בעלי בקיאות טכנולוגית ותורמים באופן פעיל לפיתוח המדינה.

האנוי בונה מרכז חכם לתגובת חירום.DNVN - הוועדה העממית של האנוי אישרה פרויקט ליישום טכנולוגיית האינטרנט של הדברים (IoT) בשיגור אמבולנסים ובניית מרכז פעולות חירום חכם לתקופה 2026-2030, במטרה להרחיב את רשת החירום שלפני אשפוז, להגדיל את מספר האמבולנסים לכ-160 ולשפר את הגישה לשירותי חירום עבור הציבור.

חשבונות אדובי של משתמשים וייטנאמים ננעלו בהמוניהם.אדובי עוררה סערה בקהילת הקריאייטיב על ידי ביטול חשבונות Creative Cloud עבור לקוחות רבים, כולל אלו שרכשו רישיונות תקפים.

זו לא רק אזהרה תיאורטית. החברה שעומדת מאחורי הצ'אטבוט קלוד טוענת שעם כוח מחשוב מספיק ובקצב הפיתוח הנוכחי, מערכת בינה מלאכותית תוכל לתכנן ולפתח יורשת משלה. אבן דרך זו תביא יתרונות משמעותיים למדע ולרפואה , אך גם תגביר את הסיכון שדברים יצאו משליטת האדם.

כדי להשיג הפסקה יעילה באמת, נדרשת הסכמה מצד חברות בינה מלאכותית גדולות רבות במדינות רבות, ובמיוחד ארה"ב וסין. אנתרופיק מסרה כי מכון המחקר הפנימי שלה יבחן את הנושא הזה עם גורמים אחרים וינקוט בפעולות שונות כדי לסייע בבניית המנגנון לארגון מחדש מקיף.

קריאה זו מגיעה כאשר אנתרופיק מתכוננת להנפקה ראשונה (IPO), עסקה שעשויה להוות ערך לחברה של כמעט טריליון דולר . השילוב של אזהרות בנוגע לבטיחות בתחום הבינה המלאכותית והשאיפות לשוק המניות יוצר פרדוקס יוצא דופן.

זו לא הפעם הראשונה שגורם מרכזי בתחום הבינה המלאכותית קורא להפסקה. בשנת 2023, קבוצה שכללה את אילון מאסק וחוקרי בינה מלאכותית רבים חתמה על מכתב הקורא להפסקת הפיתוח לשישה חודשים, אך הוא לא הניב תוצאות מוחשיות.

אולי יעניין אותך גם

פולין מוציאה כמעט מיליארד דולר על שדרוג מערכת הפטריוט שלה: עד כמה מרשים ה-PAC-2 GEM-T?פולין חתמה זה עתה על חוזה בשווי 988 מיליון דולר לרכישת טילי PAC-2 GEM-T, שהופכים את מערכת הפטריוט למגן פלדה ארוך טווח, מוכן למחוק כל מטרה ממרחק של 150 ק"מ.

רפורמה בתוכניות לשפות אתניות כדי להפחית את עוני המידע בקרב אנשים באזורים הרריים.עיתוני ותחנות הרדיו והטלוויזיה של קאו באנג ימשיכו לחדש בפורמט ולשפר את איכות התוכן בפרסומים ובתוכניות בשפות אתניות; יגדילו את זמן השידור של תוכניות בשפת הטאי כדי להפחית את עוני המידע עבור אנשים באזורים מרוחקים.

המחיר שיש לשלם עבור צפייה במונדיאלמונדיאל 2026 הופך לטורניר היקר ביותר בהיסטוריה, מה שהופך את ההזדמנות של אוהדים רגילים להשתתף במשחקים ולעודד את הקבוצות שלהם באופן אישי ליותר ויותר מחוץ להישג ידם.

מקור: https://znews.vn/anthropic-canh-bao-post1657460.html