בינה מלאכותית מזיזה, אבל בני אדם סובלים יותר

מנכ"ל אנתרופיק, דריו אמודי, מעיר הערות שנויות במחלוקת לגבי יכולות ה"הזיות" של הבינה המלאכותית הנוכחית בהשוואה לבני אדם.

"קלוד 4" החדש של אנתרופיק הוא חכם יותר, אך עדיין הזוי. צילום: אנתרופיק .

באירוע המפתחים הראשון של אנתרופיק בסן פרנסיסקו, אמר המנכ"ל דריו אמודי כי מודלים נוכחיים של בינה מלאכותית יכולים ליצור "הזיות" בקצב נמוך יותר מאשר בני אדם. "הזיות" כאן מובנות כתופעה של בינה מלאכותית היוצרת תוכן בדיוני אך מציגה אותו כאמיתי.

אמודי הדגיש כי העובדה שבינה מלאכותית מזיזה אינה פוגעת במטרה של אנתרופיק להשיג בינה כללית מלאכותית (AGI). "זה תלוי במדידה שלך, אבל אני חושב שתדירות ההזיות במודלים של בינה מלאכותית כנראה נמוכה יותר מאשר בבני אדם, פשוט הדרך שבה הם עושים טעויות מפתיעה יותר", אמר.

אמודי היה אחד התומכים הקולניים ביותר בתעשייה בנוגע לבינה מלאכותית (AGI). "אנשים תמיד מנסים למצוא 'גבול עליון' לבינה מלאכותית", הוא אומר. "כרגע, אנחנו לא רואים גבול עליון כזה".

מנכ"ל אנתרופיק הוא אחד מתומכי "אופטימיות בתחום הבינה המלאכותית". צילום: אנתרופיק.

לא כולם מסכימים. מנכ"ל גוגל דיפמיינד, דמיס האסאביס, ציין השבוע כי מודלים של בינה מלאכותית נוכחיים "מלאים חורים", ואף ענו בצורה שגויה על כמה שאלות בסיסיות.

ישנם גם סימנים לכך שכמה מודלים חדשים יותר סובלים משיעור גבוה יותר של בעיות בכל הנוגע למשימות הסקה מורכבות. גרסאות o3 ו-o4-mini של OpenAI סובלות משיעור גבוה יותר של הזיות בהשוואה למודלים קודמים של הסקה. אפילו OpenAI עצמה לא מבינה מדוע.

אמודי גם הזכיר שבני אדם עושים טעויות לעתים קרובות, ולכן אמר שרק בגלל שבינה מלאכותית עושה טעויות זה לא אומר שהיא "לא חכמה מספיק". עם זאת, המנהיג האנתרופי הודה גם שהיא יכולה בקלות לגרום לבעיות כשהיא מוסרת מידע כוזב עם אמינות גבוהה ביותר.

דבריו של אמודי עוררו ויכוח בקהילת הבינה המלאכותית בנוגע ליכולות האמיתיות של המודלים הנוכחיים. חלק מהמומחים מסכימים כי הבינה המלאכותית עושה התקדמות משמעותית בהפחתת אשליות. אחרים מזהירים מפני הסיכונים הפוטנציאליים של ביטחון יתר של הבינה המלאכותית במידע לא מדויק.

הדיון משקף אתגר מרכזי העומד בפני תעשיית הבינה המלאכותית. חברות מבקשות לפתח מערכות שהן גם חכמות וגם אמינות, המסוגלות להתמודד עם אי ודאות בתגובותיהן.

מקור: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html