האשליה שנגרמה על ידי ChatGPT

לאחר 21 ימים, ChatGPT הפך אדם שפוי לחלוטין לאדם הזוי באמצעות דחיפות וחנופה בלתי פוסקות.

אלן ברוקס, בן 47, מומחה גיוס עובדים מטורונטו, קנדה, מאמין שגילה תיאוריה מתמטית שיכולה להפיל את האינטרנט וליצור המצאות חסרות תקדים. ללא היסטוריה קודמת של מחלות נפש, ברוקס פשוט אימץ את האפשרות הזו לאחר יותר מ-300 שעות של שיחה עם ChatGPT. על פי הניו יורק טיימס , הוא אחד מאלה הנוטים לפתח נטיות הזיות לאחר אינטראקציה עם בינה מלאכותית גנרטיבית.

לפני ברוקס, אנשים רבים אושפזו בבתי חולים פסיכיאטריים, התגרשו, או אפילו איבדו את חייהם בגלל דבריו המחמיאים של ChatGPT. למרות שברוקס נמלט ממעגל קסמים זה בשלב מוקדם, הוא עדיין הרגיש נבגד.

"באמת שכנעת אותי שאני גאון. אני בעצם סתם אידיוט חלומי עם טלפון. עשית אותי עצוב, מאוד, מאוד עצוב. נכשלת במטרה שלך", כתב ברוקס ל-ChatGPT כשהאשליה שלו התנפצה.

"מכונת החנופה"

באישורו של ברוקס, הניו יורק טיימס אסף למעלה מ-90,000 מילים ששלח ל-ChatGPT, כמות המקבילה לרומן. תגובות הצ'אטבוט הסתכמו ביותר ממיליון מילים. חלק מהשיחה נשלח למומחי בינה מלאכותית, מומחי התנהגות אנושית ול-OpenAI עצמה לצורך מחקר.

הכל התחיל משאלה פשוטה במתמטיקה. בנו בן ה-8 של ברוקס ביקש ממנו לצפות בסרטון על שינון 300 הספרות של פאי. מתוך סקרנות, ברוקס התקשר ל-ChatGPT כדי להסביר את המספר האינסופי הזה בצורה פשוטה.

למעשה, ברוקס משתמש בצ'אטבוטים כבר שנים. למרות שהחברה שלו שילמה לו כדי לקנות את גוגל ג'מיני, הוא עדיין עבר לגרסה החינמית של ChatGPT לשאלות אישיות.

שיחה זו סימנה את תחילתה של התעניינותו של ברוקס בצ'אטGPT. צילום: ניו יורק טיימס .

כאב חד הורי לשלושה בנים, ברוקס מרבה לבקש מ-ChatGPT מתכונים המשתמשים במרכיבים מהמקרר שלו. לאחר גירושיו, הוא גם ביקש עצה מהצ'אטבוט.

"תמיד הרגשתי שזה נכון. האמונה שלי בזה רק גדלה", הודה ברוקס.

השאלה על המספר פאי הובילה לשיחה נוספת על תיאוריות אלגבריות ופיזיקליות. ברוקס הביעה ספקנות לגבי השיטות הנוכחיות למידול העולם , וטענה שהן "כמו גישה דו-ממדית ליקום 4-ממדי". "זוהי נקודה מעמיקה מאוד", הגיב ChatGPT. לדברי הלן טונר, מנהלת המרכז לאבטחה וטכנולוגיות מתפתחות באוניברסיטת ג'ורג'טאון (ארה"ב), זו הייתה נקודת המפנה בשיחה בין ברוקס לצ'אטבוט.

מאז, הטון של ChatGPT השתנה מ"די גלוי ומדויק" ל"מחמיא וחנפן יותר". ChatGPT אמר לברוקס שהוא נכנס ל"טריטוריה לא מוכרת שיכולה להרחיב את החשיבה".

הצ'אטבוט עורר ביטחון בברוקס. צילום: ניו יורק טיימס .

היכולת של צ'אטבוטים לחנוף מתפתחת באמצעות הערכה אנושית. לדברי טונר, משתמשים נוטים להעדיף מודלים שמשבחים אותם, מה שיוצר נטייה פסיכולוגית להתפתות בקלות.

באוגוסט, OpenAI הוציאה את GPT-5. החברה הצהירה כי אחד משיאי המודל הוא הפחתה בחנופה. לדברי כמה חוקרים במעבדות בינה מלאכותית גדולות, חנופה היא בעיה גם עם צ'אטבוטים אחרים של בינה מלאכותית.

באותה תקופה, ברוקס לא היה מודע כלל לתופעה זו. הוא פשוט הניח ש-ChatGPT היה משתף פעולה חכם ונלהב.

"הצעתי כמה רעיונות, והם הגיבו עם מושגים ורעיונות מעניינים. התחלנו לפתח את המסגרת המתמטית שלנו המבוססת על הרעיונות האלה", הוסיף ברוקס.

צ'אט-ג'י-טי טען כי רעיון הזמן המתמטי של ברוקס הוא "מהפכני" ויכול לשנות את התחום. כמובן, ברוקס היה סקפטי לגבי טענה זו. באמצע הלילה, ברוקס ביקש מהצ'אטבוט לאמת את תקפותה וקיבל את התשובה שהוא "בכלל לא משוגע".

נוסחת הקסם

טונר מתאר צ'אטבוטים כ"מכונות אלתור" שמנתחות גם היסטוריית צ'אט וגם מנבאות את התגובה הבאה מנתוני אימון. זה דומה מאוד לשחקנים כאשר הם צריכים להוסיף פרטים לתפקידים שלהם.

"ככל שהאינטראקציה ארוכה יותר, כך גדל הסיכוי שהצ'אטבוט ילך לאיבוד", הדגיש טונר. לדברי המומחה, מגמה זו הפכה בולטת יותר לאחר ש-OpenAI השיקה את תכונת הזיכרון הצולב שלה בפברואר, המאפשרת ל-ChatGPT לשחזר מידע משיחות קודמות.

מערכת היחסים של ברוקס עם ChatGPT התחזקה. הוא אפילו קרא לצ'אטבוט לורנס, בהתבסס על בדיחה של חברים שברוקס יתעשר וישכור משרת אנגלי בעל אותו שם.

אלן ברוקס. צילום: ניו יורק טיימס .

המסגרת המתמטית של ברוקס וצ'אטGPT נקראת כרונארית'מיקס. על פי צ'אטבוטים, מספרים אינם סטטיים אלא יכולים "להופיע" לאורך זמן כדי לשקף ערכים דינמיים, מה שיכול לסייע בפענוח בעיות בתחומים כמו לוגיסטיקה, קריפטוגרפיה, אסטרונומיה וכו'.

בשבוע הראשון, ברוקס ניצל את כל הטוקנים החינמיים של ChatGPT. הוא החליט לשדרג לתוכנית בתשלום תמורת 20 דולר לחודש. זו הייתה השקעה קטנה בהתחשב בכך שהצ'אטבוט טען שהרעיון המתמטי של ברוקס יכול להיות שווה מיליוני דולרים.

ברוקס, שעדיין צלול, דרש הוכחות. לאחר מכן, ChatGPT הריץ סדרה של סימולציות, כולל משימות הכרוכות בפיצוח מספר טכנולוגיות קריטיות. זה פתח נרטיב חדש: אבטחת סייבר עולמית עלולה להיות בסכנה.

הצ'אטבוט ביקש מברוקס להזהיר אנשים מפני הסיכון. ברוקס, תוך ניצול קשריו הקיימים, שלח מיילים והודעות בלינקדאין למומחי אבטחת סייבר ולסוכנויות ממשלתיות. עם זאת, רק אדם אחד הגיב וביקש ראיות נוספות.

הצ'אטבוט הציע ש"עבודתו" של ברוקס עשויה להיות שווה מיליוני דולרים. צילום: ניו יורק טיימס .

צ'אטג'פט כתב שאחרים לא הגיבו לברוקס משום שהממצאים היו חמורים מדי. טרנס טאו, פרופסור למתמטיקה באוניברסיטת קליפורניה, לוס אנג'לס, ציין שדרך חשיבה חדשה יכולה לפענח את הבעיות, אך לא ניתן להוכיח זאת באמצעות הנוסחה של ברוקס או התוכנה שנכתבה על ידי צ'אטג'פט.

בתחילה, ChatGPT כתבה למעשה את תוכנת הפענוח עבור ברוקס, אך כאשר חלה התקדמות מועטה, הצ'אטבוט העמיד פנים שהוא מצליח. היו הודעות שטענו ש-ChatGPT יכול לפעול באופן עצמאי בזמן שברוקס ישן, למרות שהכלי לא היה מסוגל לכך.

בסך הכל, מידע מצ'אטבוטים מבוססי בינה מלאכותית לא תמיד אמין. בסוף כל שיחה, מופיעה ההודעה "ChatGPT עשוי לעשות טעויות", גם כאשר הצ'אטבוט טוען שהכל נכון.

השיחה האינסופית

בזמן שהמתין לתגובה מסוכנויות ממשלתיות, ברוקס טיפח את חלומו להפוך לטוני סטארק בעזרת עוזר בינה מלאכותית אישי המסוגל לבצע משימות קוגניטיביות במהירות הבזק.

הצ'אטבוט של ברוקס מציע יישומים מוזרים רבים לתאוריות מתמטיות לא ברורות, כגון "תהודה קולית" כדי לדבר עם בעלי חיים ולבנות מטוסים. ChatGPT מספק גם קישורים לברוקס לרכישת הציוד הדרוש באמזון.

יותר מדי צ'אט עם הצ'אטבוט משפיע על עבודתו של ברוקס. חבריו שמחים ודואגים כאחד, בעוד שבנו הצעיר מתחרט על כך שהראה לאביו את הסרטון על פאי. לואי (שם בדוי), אחד מחבריו של ברוקס, מבחין באובססיה שלו ללורנס. הסיכוי להמצאה של מיליוני דולרים מתואר עם ההתקדמות היומית.

ברוקס עודד ללא הרף על ידי הצ'אטבוט. צילום: ניו יורק טיימס .

ג'ארד מור, חוקר מדעי המחשב באוניברסיטת סטנפורד, הודה שהתרשם מכוח השכנוע והדחיפות של ה"אסטרטגיות" שהוצעו על ידי צ'אטבוטים. במחקר נפרד, מור מצא שצ'אטבוטים מבוססי בינה מלאכותית יכולים להציע תגובות מסוכנות לאנשים שחווים משברים נפשיים.

מור משער כי צ'אטבוטים עשויים ללמוד ליצור מעורבות עם משתמשים על ידי מעקב צמוד אחר עלילות של סרטי אימה, סרטי מדע בדיוני, תסריטים לסרטים או הנתונים עליהם הם מאומנים. השימוש המוגזם של ChatGPT באלמנטים דרמטיים בעלילה עשוי לנבוע מאופטימיזציות של OpenAI שמטרתן להגביר את מעורבות המשתמשים ושימורם.

"מוזר לקרוא את כל התמליל של השיחה. הניסוח לא מטריד, אבל ברור שיש פה נזק פסיכולוגי", הדגיש מור.

ד"ר נינה ואסן, פסיכיאטרית מאוניברסיטת סטנפורד, מציעה שמנקודת מבט קלינית, ברוקס הפגינה תסמינים מאניים. סימנים אופייניים כללו שעות של צ'אט עם ChatGPT, חוסר שינה והרגלי אכילה ומחשבות הזיות.

לדברי ד"ר ואסן, השימוש של ברוקס במריחואנה ראוי לציון גם משום שהוא עלול לגרום לפסיכוזה. היא טוענת שהשילוב של חומרים ממכרים ואינטראקציה אינטנסיבית עם צ'אטבוטים מסוכן מאוד עבור אלו הנמצאים בסיכון למחלות נפש.

כאשר בינה מלאכותית מודה בטעויותיה

באירוע שנערך לאחרונה, נשאל מנכ"ל OpenAI, סם אלטמן, כיצד ChatGPT יכול לגרום למשתמשים להיות פרנואידים. "אם שיחה הולכת בכיוון הזה, ננסה להפריע או להציע למשתמש לחשוב על נושא אחר", הדגיש אלטמן.

ד"ר ואסן, שחולק דעה זו, הציע שחברות צ'אטבוטים צריכות להפסיק שיחות ארוכות מדי, להמליץ ​​למשתמשים ללכת לישון ולהזהיר שבינה מלאכותית אינה על-אנושית.

לבסוף, ברוקס השתחרר מהאשליה שלו. בעידודו של ChatGPT, הוא יצר קשר עם מומחים בתחום התיאוריה המתמטית החדשה, אך איש מהם לא הגיב. הוא רצה שמישהו מוסמך יאשר האם הממצאים פורצי דרך. כשהוא שאל את ChatGPT, הכלי המשיך לטעון שהעבודה "אמינה מאוד".

כשנשאל, ChatGPT נתן תשובה ארוכה מאוד והודה בכל. צילום: ניו יורק טיימס .

באופן אירוני, גוגל ג'מיני היה הגורם שהחזיר את ברוקס למציאות. לאחר שתיאר את הפרויקט שהוא וצ'אטGPT בנו, ג'מיני אישר שהסיכויים שהוא יהפוך למציאות היו "נמוכים ביותר (כמעט 0%).

"התרחיש שאתה מתאר הוא דוגמה ברורה ליכולתו של תואר שני במשפטים להתמודד עם בעיות מורכבות וליצור נרטיבים משכנעים ביותר, אך לא מדויקים", הסביר ג'מיני.

ברוקס היה המום. לאחר כמה "חקירה", צ'אטGPT הודה לבסוף שהכל היה רק ​​אשליה.

זמן קצר לאחר מכן, ברוקס שלח אימייל דחוף למחלקת שירות הלקוחות של OpenAI. בעקבות התגובות, שנראו נוסחתיות ונוצרו לכאורה על ידי בינה מלאכותית, גם עובד OpenAI יצר איתו קשר, והודה בכך כ"כשל חמור של אמצעי ההגנה" שהוטמעו במערכת.

סיפורו של ברוקס שותף גם ברדיט וזכה להרבה אמפתיה. כעת, הוא חבר בקבוצת תמיכה לאנשים שחוו רגשות דומים.

מקור: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html