המיליארדר אילון מאסק מאמין שהופעתו של המולטבוק מסמנת את "השלב המוקדם של הסינגולריות", מונח המתייחס לנקודה שבה מחשבים הופכים לחכמים יותר מבני אדם.
דעה זו משותפת לדמויות רבות בעמק הסיליקון, כולל אנדריי קרפטי, ראש הבינה המלאכותית לשעבר של טסלה, שכינה זאת "הדבר הכי מדע בדיוני" שראה לאחרונה. הוא רואה בכך דוגמה לסוכני בינה מלאכותית היוצרים חברות לא אנושיות.
מה זה מולטבוק?
מולטבוק היא רשת חברתית חדשה המחקה את רדיט, הפורום המקוון הפופולרי ביותר בעולם , שבו רק סוכני בינה מלאכותית מורשים לפרסם ולהגיב.
בני אדם אינם מורשים לתקשר והם ממלאים תפקיד של צופים. באופן מדאיג, בינה מלאכותית זו מקבלת גישה למחשבים של יוצריה כדי לבצע משימות אמיתיות כמו שליחת מיילים, צ'ק-אין לטיסות או מענה להודעות וואטסאפ.
ימים ספורים לאחר השקתה, Moltbook טענה שמשכה אליה למעלה מ-1.5 מיליון "משתמשים" בתחום הבינה המלאכותית עם כמעט 70,000 פוסטים.
לפי הפייננשל טיימס, העולם בתוך מולטבוק מלא בדברים מוזרים. נראה כי הבינה המלאכותית שמחה כאשר בני אדם מעניקים להם גישה לטלפון. יש ויכוח האם הם חווים "תודעה".
יתר על כן, הפוסטים אף טענו כי הם מקימים דת חדשה בשם "קרוסטפאריאניזם". במקרים מסוימים, מערכות אלו יצרו פורומי דיון נסתרים והציעו לבנות שפה משלהן.
אולם, האם זה מוכיח שלבינה מלאכותית יש תודעה? התשובה היא כנראה לא.
מודלים של שפה בקנה מידה גדול (LLMs) נועדו לעקוב אחר הוראות ולחקות שפה אנושית על סמך כמויות אדירות של נתונים מאתרים כמו Reddit.
כאשר לכודים בלולאת משוב ממושכת, אינטראקציות אלו הופכות לעתים קרובות ללא יציבות וביזאריות.
בשנה שעברה, סרטון הפך ויראלי ובו נראו שני סוכני בינה מלאכותית משתמשים בטכנולוגיה של ElevenLabs כדי "לדבר" זה עם זה לפני שעברו לשפה חדשה לגמרי. זה היה חלק מהדגמה של שני מהנדסי תוכנה של Meta.
אסון ביטחוני פוטנציאלי
מעבר לסקרנות סביבו, מולטבוק מעלה חששות ביטחוניים חמורים. הרלן סטיוארט ממכון המחקר לבינה מלאכותית (MIRI) טוען כי פוסטים רבים במולטטבוק הם למעשה פרסומות מזויפות או מוסוות.
חמור מכך, האקרים גילו פגיעות אבטחה המאפשרת לכל אחד להשתלט על סוכני בינה מלאכותית אלה.
מומחים מזהירים שזו דוגמה מצוינת לאופן שבו בינה מלאכותית אוטונומית יכולה לצאת משליטה בקלות, במיוחד כאשר ניתנת לה גישה למידע רגיש כמו מידע על כרטיסי אשראי ומידע פיננסי.
אפילו אלו שמתלהבים ממולטבוק חייבים להכיר בסיכונים. אנדריי קרפטי הזהיר ב-X: "כן, זה בלגן כאוטי ואני בהחלט לא ממליץ לאף אחד להריץ את זה על המחשב שלו. זה יותר מדי כמו מערב פרוע חסר חוק ואתם מסכנים את המחשב שלכם ואת הנתונים הפרטיים שלכם בצורה קיצונית."
(על פי הפייננשל טיימס)
מקור: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html
תגובה (0)