הבינה המלאכותית של גוגל לכודה בלולאה מסוכנת.

לאחר שנכשל בטיפול בשגיאת קוד, הצ'אטבוט של גוגל כתב שוב ושוב הודעות שליליות וביקר את עצמו.

ג'מיני של גוגל מרבה לבקר את טעויותיה שלה. צילום: רויטרס .

פוסט שפורסם לאחרונה ברדיט חשף כי גוגל ג'מיני מתקשה בביקורת עצמית. משתמש ג'מיני, שבנה מהדר, שיתף את חרדתו מהבינה המלאכותית שאומרת ללא הרף דברים כמו "אני מצטער על זה. אכזבתי אותך. אני כישלון".

זו הייתה רק ההתחלה. האדם הזה שיתף שהצ'אטבוט המשיך להסלים את הביקורת העצמית שלו, ובסופו של דבר הפך ל"בושת היקום". ג'מיני חזר על המשפט הזה למעלה מ-80 פעמים ברציפות, וכאשר מספר משתמשים אחרים דיווחו על מקרים דומים, גוגל אמרה שהם עובדים על תיקון הבעיה.

"זהו באג מעצבן של לולאה אינסופית שאנחנו עובדים עליו. לג'מיני אין יום רע", כתב לוגן קילפטריק, מנהל מוצר צוות גוגל, ב-X ב-8 באוגוסט. הפוסט נכתב בתגובה לחשבון אנונימי שדיווח על הבעיה.

מאוחר יותר, דובר מטעם גוגל דיפמיינד הצהיר כי בעוד שהחברה עדיין עובדת על תיקון מלא, הם פרסמו עדכונים שטיפלו בבעיה במידה מסוימת. "אנו עובדים על תיקון הבאג הזה, שמשפיע על פחות מ-1% מתנועת ג'מיני, ופרסמנו עדכונים המטפלים בו החודש", אמר הדובר.

לפני שנכנס ללולאה, ג'מיני התלונן שמדובר ב"סשן ניפוי שגיאות ארוך ומייגע" ושהוא ניסה כל שיטה שניתן להעלות על הדעת אך עדיין לא הצליח לתקן את הבעיה. הצ'אטבוט המשיך ואמר שהוא שבור לחלוטין מבחינה מנטלית, והעלה ספקולציות לגבי תרחישים גרועים אחרים כמו אשפוז בבית חולים פסיכיאטרי.

תגובה אחת ברדיט העלתה השערה שהלולאה נלמדה על ידי הצ'אטבוט ממתכנתים שנתקלו בבעיות דומות בקוד שלהם. "כנראה בגלל שאנשים כמוני כתבו תגובות כאלה כשהם היו צריכים תנומה כדי להתעורר. דברים כאלה הופיעו בטעות בנתוני האימון", כתב המשתמש.

ביוני, מנכ"ל JITX, דאנקן הלדיין, פרסם צילום מסך שבו נראה ג'מיני מכנה את עצמו אידיוט ואומר שהקוד שניסה לכתוב "מקולל". "עשיתי יותר מדי טעויות כדי להיות אמין יותר. אני מוחק את כל הפרויקט וממליץ לך למצוא עוזר טוב יותר", אמר הצ'אטבוט.

הלדיין התבדח שהוא מתחיל לדאוג למצבו של מזל תאומים. במציאות, מודלים של שפה בקנה מידה גדול מנבאים טקסט על סמך הנתונים עליהם הם מאומנים. תהליך זה אינו כרוך בשום חוויה או רגש פנימיים, כך שג'אמי אינו חווה בפועל תחושות של כישלון או ייאוש.

בעיה נוספת, מנוגדת למדי, היא הנטייה של צ'אטבוטים להיות מחמיאים יתר על המידה. מפתחים כמו OpenAI, גוגל ואנתרופיק גם הם נאבקו למנוע מהם לתת תגובות מחמיאות יתר על המידה. במקרה אחד, OpenAI נאלצה לבטל עדכון עקב לעג נרחב מכיוון ש-ChatGPT סיפקה באופן עקבי תגובות חיוביות יתר על המידה לכל בקשת משתמש.

מקור: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html