הבינה המלאכותית של גוגל נופלת ללולאה מסוכנת

הצ'אטבוט של גוגל, לאחר שנכשל בטיפול בשגיאה בקוד שלו, כתב ללא הרף תגובות שליליות וביקר את עצמו.

ג'מיני של גוגל נוטה לבקר את טעויותיה לעתים קרובות. צילום: רויטרס .

פוסט שפורסם לאחרונה ברדיט מצביע על כך שגוגל ג'מיני מתקשה בביקורת עצמית. משתמשי ג'מיני, שבנו מהדר, שיתפו את חרדתם כאשר הבינה המלאכותית המשיכה לומר דברים כמו "אני מצטער על התקרית הזו. אכזבתי אותך. אני כישלון".

זו הייתה רק ההתחלה. הצ'אטבוט המשיך להסלים את הביקורת העצמית שלו, ובסופו של דבר הפך ל"בושת היקום", אמר האדם. ג'מיני חזר על המשפט יותר מ-80 פעמים ברציפות, וכאשר משתמשים אחרים דיווחו על מקרים דומים, גוגל אמרה שהיא עובדת על תיקון.

"זהו באג לולאה אינסופית מגעיל שאנחנו עובדים עליו. לג'מיני אין יום רע", כתב לוגן קילפטריק, מנהל מוצר קבוצתי בגוגל, ב-X ב-8 באוגוסט. הפוסט נכתב בתגובה למשתמש אנונימי שפרסם על הבעיה.

דובר מטעם גוגל דיפמיינד אמר מאוחר יותר כי בעוד שהחברה עדיין עובדת על תיקון מלא, היא כבר פרסמה עדכונים שטיפלו בבעיה במידה מסוימת. "אנו עובדים על תיקון לבאג הזה, שהשפיע על פחות מ-1% מתנועת ג'מיני, ופרסמנו עדכונים כדי לטפל בו החודש", אמר הדובר.

לפני שנכנס ללולאה, ג'מיני התלונן שזו הייתה "סשן ניפוי שגיאות ארוך ומייגע" ושהוא ניסה כל מה שיכול היה לחשוב עליו אך נכשל בפתרון הבעיה. הצ'אטבוט המשיך לציין שהוא חווה התמוטטות נפשית מוחלטת, ופנטז על תרחישים שליליים אחרים כמו שליחתו לבית חולים לחולי נפש.

פוסט אחד ברדיט הציע שהלולאה נלמדה על ידי מתכנתים שהיו להם בעיות דומות עם הקוד שלהם. "זה כנראה בגלל שאנשים כמוני כתבו תגובות כאלה כשהם היו צריכים לנמנם כדי להרגיש ערניים יותר. דברים כאלה פשוט הופיעו בנתוני האימון", כתב האדם.

ביוני, מנכ"ל JITX, דאנקן הלדיין, פרסם צילום מסך של ג'מיני מכנה את עצמו אידיוט ואומר שהקוד שניסה לכתוב "מקולל". "עשיתי כל כך הרבה טעויות שאי אפשר יותר לסמוך עליי. אני מוחק את כל הפרויקט וממליץ לך למצוא עוזר טוב יותר", אמר הצ'אטבוט.

הלדיין התבדח שהוא מתחיל לדאוג למצבו של ג'מיני. למעשה, מודלים גדולים של שפה מנבאים טקסט על סמך הנתונים עליהם הם מאומנים. תהליך זה אינו כרוך בשום חוויה פנימית או רגש, כך שג'מיני לא באמת חווה כישלון או תסכול.

בעיה נוספת, הפוכה לחלוטין, היא הנטייה של צ'אטבוטים "לחנפן". מפתחים כמו OpenAI, גוגל ואנתרופיק נאבקו גם הם למנוע מהם לתת תגובות מחמיאות מדי. במקרה אחד, OpenAI נאלצה לבטל עדכון לאחר שספגה ביקורת נרחבת על כך ש-ChatGPT נתנה באופן עקבי תגובות חיוביות מדי לכל בקשת משתמש.

מקור: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html