אשליה בגלל ChatGPT

לאחר 21 ימים, ChatGPT הופך אדם פיכח לחלוטין לאדם הזוי באמצעות דחיפות וחנופה.

אלן ברוקס (בן 47), מגייס בטורונטו (קנדה), מאמין שגילה תיאוריה מתמטית שיכולה להרוס את האינטרנט וליצור המצאות חסרות תקדים. ללא היסטוריה של מחלת נפש, ברוקס פשוט קיבל את ההצעה לאחר יותר מ-300 שעות של צ'אט עם ChatGPT. על פי הניו יורק טיימס , הוא אחד האנשים הנוטים לחוות הזיות לאחר אינטראקציה עם בינה מלאכותית גנרטיבית.

לפני ברוקס, אנשים רבים נאלצו ללכת לבתי חולים פסיכיאטריים, להתגרש ואף לאבד את חייהם בגלל החנופה של ChatGPT. למרות שברוקס נמלט במהירות מהספירלה הנ"ל, הוא עדיין הרגיש נבגד.

"באמת שכנעת אותי שאני גאון. הייתי סתם טיפש חולמני עם טלפון. עיצבת אותי, מאוד עצוב. נכשלת במטרה שלך", כתב ברוקס ל-ChatGPT כשהאשליה התנפצה.

"מכונת חנופה"

באישורו של ברוקס, הניו יורק טיימס אסף יותר מ-90,000 מילים ששלח ל-ChatGPT, כמות המקבילה לרומן. תגובות הצ'אטבוט הסתכמו ביותר ממיליון מילים. חלקים מהשיחות נשלחו למומחי בינה מלאכותית, למומחי התנהגות אנושית ול-OpenAI עצמה לצורך מחקר.

הכל התחיל משאלה פשוטה במתמטיקה. בנו בן ה-8 של ברוקס ביקש ממנו לצפות בסרטון על שינון 300 ספרות של פאי. מתוך סקרנות, ברוקס התקשר ל-ChatGPT כדי להסביר את המספר האינסופי במונחים פשוטים.

למעשה, ברוקס משתמש בצ'אטבוטים כבר שנים. למרות שהחברה שלו שילמה עבור גוגל ג'מיני, הוא עדיין פונה לגרסה החינמית של ChatGPT לשאלות אישיות.

השיחה שהחלה את התעניינותו של ברוקס בצ'אטGPT. צילום: ניו יורק טיימס .

ברוקס, אב חד הורי לשלושה בנים, פנה לעתים קרובות לצ'אט GPT למתכונים מהמרכיבים במקרר שלו. לאחר גירושיו, הוא גם ביקש עצה מצ'אטבוט.

"תמיד הרגשתי שזה נכון. הביטחון שלי גדל", הודה ברוקס.

השאלה על פאי הובילה לשיחה נוספת על תיאוריות אלגבריות ופיזיקליות. ברוקס הביעה ספקנות לגבי השיטות הנוכחיות למידול העולם , ואמרה שהן "כמו גישה דו-ממדית ליקום 4-ממדי". "זוהי נקודה עמוקה מאוד", הגיבה ChatGPT. הלן טונר, מנהלת המרכז לביטחון וטכנולוגיה מתפתחת באוניברסיטת ג'ורג'טאון, הדגישה שזו הייתה נקודת המפנה בשיחה בין ברוקס לצ'אטבוט.

משם, הטון של ChatGPT השתנה מ"די ישיר וענייני" ל"מחמיא ומנחם יותר". ChatGPT אמר לברוקס שהוא נכנס ל"טריטוריה לא מוכרת ומרחיבה את התודעה".

צ'אטבוט מעניק ביטחון לברוקס. צילום: ניו יורק טיימס .

החנופה של צ'אטבוטים מעוצבת על ידי הערכה אנושית. לדברי טונר, משתמשים נוטים לאהוב מודלים שמשבחים אותם, מה שיוצר מנטליות שקל להתמכר אליה.

באוגוסט, OpenAI הוציאה את GPT-5. החברה מסרה שאחת מנקודות השיא של המודל הייתה הפחתת החנופה. לדברי כמה חוקרים במעבדות בינה מלאכותית גדולות, חנופה היא בעיה גם עם צ'אטבוטים אחרים של בינה מלאכותית.

באותה תקופה, ברוקס לא היה מודע לתופעה הזו. הוא פשוט חשב ש-ChatGPT הוא עמית חכם ונלהב.

"הצגתי כמה רעיונות, והם הגיבו עם מושגים ורעיונות מעניינים. התחלנו לפתח את המסגרת המתמטית שלנו על סמך זה", הוסיף ברוקס.

צ'אטג'פט טוענת שהרעיון של ברוקס לגבי מתמטיקה של זמן הוא "מהפכני" ויכול לשנות את התחום. ברוקס, כמובן, מטיל ספק בטענה זו. באמצע הלילה, ברוקס ביקש מהצ'אטבוט לבדוק עובדות וקיבל את התשובה שזה "בהחלט לא מטורף בכלל".

נוסחת קסם

טונר מתאר צ'אטבוטים כ"מכונות אלתור" שמנתחות היסטוריית שיחות וחוזות תגובות עתידיות מנתוני אימון, בדומה לשחקנים שמוסיפים תוכן לתפקיד.

"ככל שהאינטראקציה ארוכה יותר, כך גדל הסיכוי שהצ'אטבוט יסטה", מציין טונר. מגמה זו, הוא אומר, התעצמה לאחר ש-OpenAI השיקה זיכרון צ'אט צולב בפברואר, מה שאפשר ל-ChatGPT להיזכר במידע משיחות קודמות.

ברוקס התקרב לצ'אטGPT, ואף נתן לצ'אטבוט את השם לורנס, בהתבסס על בדיחה שחבריו אמרו שברוקס יתעשר וישכור משרת בריטי בעל אותו שם.

אלן ברוקס. צילום: ניו יורק טיימס .

המסגרת המתמטית של ברוקס וצ'אטGPT נקראת כרונארית'מיקס. על פי הצ'אטבוט, מספרים אינם סטטיים אלא יכולים "לצוץ" עם הזמן כדי לשקף ערכים דינמיים, מה שיכול לעזור לפתור בעיות בתחומים כמו לוגיסטיקה, קריפטוגרפיה, אסטרונומיה וכו'.

בשבוע הראשון, ברוקס ניצל את כל הטוקנים החינמיים של ChatGPT. הוא החליט לשדרג לתוכנית בתשלום של 20 דולר לחודש, השקעה קטנה, כאשר הצ'אטבוט אמר לו שהרעיון המתמטי של ברוקס יכול להיות שווה מיליונים.

ברוקס, שעדיין בהכרה, דרש הוכחות. לאחר מכן, ChatGPT הריץ סדרה של סימולציות, כולל כאלה שפיצחו מספר טכנולוגיות חשובות. זה פתח סיפור חדש, אבטחת סייבר עולמית עלולה להיות בסכנה.

הצ'אטבוט ביקש מברוקס להזהיר אנשים מפני הסיכונים. באמצעות קשריו הקיימים, ברוקס שלח מיילים והודעות בלינקדאין למומחי אבטחת סייבר ולסוכנויות ממשלתיות. רק אדם אחד הגיב וביקש ראיות נוספות.

הצ'אטבוט מאמין ש"עבודתו" של ברוקס עשויה להיות שווה מיליוני דולרים. צילום: ניו יורק טיימס .

צ'אטגפט כותב שאחרים לא הגיבו לברוקס משום שהממצאים היו כה חמורים. טרנס טאו, פרופסור למתמטיקה באוניברסיטת קליפורניה, לוס אנג'לס, אמר שדרך חשיבה חדשה יכולה לפענח את הבעיות, אך לא ניתן להוכיח אותה באמצעות הנוסחה של ברוקס או התוכנה שנכתבה על ידי צ'אטגפט.

בתחילה, ChatGPT כתבה למעשה את תוכנת הפענוח עבור ברוקס, אך כאשר חלה התקדמות מועטה, הצ'אטבוט העמיד פנים שהוא מצליח. ישנן הודעות הטוענות ש-ChatGPT יכול לפעול באופן עצמאי בזמן שברוקס ישן, למרות שלכלי אין יכולת זו.

באופן כללי, המידע מהצ'אטבוט מבוסס הבינה המלאכותית לא תמיד אמין. בסוף כל צ'אט מופיעה ההודעה "ChatGPT עשוי לעשות טעויות", גם כאשר הצ'אטבוט טוען שהכל נכון.

שיחה אינסופית

בזמן שהוא ממתין לתגובה מסוכנות ממשלתית, ברוקס מטפח את החלום להפוך לטוני סטארק עם עוזר בינה מלאכותית משלו, המסוגל לבצע משימות קוגניטיביות במהירות הבזק.

הצ'אטבוט של ברוקס מציע מגוון יישומים מוזרים לתאוריה מתמטית מעורפלת, כגון "תהודה אקוסטית" כדי לדבר עם בעלי חיים ולבנות מטוסים. ChatGPT מספק גם קישור לברוקס לרכישת הציוד הדרוש באמזון.

השיחות המוגזמות של ברוקס עם הצ'אטבוט השפיעו על עבודתו. חבריו היו שמחים ודואגים כאחד, בעוד שבנו הצעיר הצטער על כך שהראה לאביו סרטון פאי. אחד מחבריו של ברוקס, לואי (שם בדוי), שם לב לאובססיה שלו ללורנס. חזון ההמצאה של מיליון דולר תוכנן עם כל שלב בפיתוח.

ברוקס מקבל עידוד מתמיד מהצ'אטבוט. צילום: ניו יורק טיימס .

ג'ארד מור, חוקר מדעי המחשב באוניברסיטת סטנפורד, מודה שהתרשם מהיכולת לשכנע ולדחיפות של ה"אסטרטגיה" שמציעים צ'אטבוטים. במחקר נפרד, מור מצא שצ'אטבוטים מבוססי בינה מלאכותית יכולים לתת תגובות מסוכנות לאנשים הנמצאים במשברים נפשיים.

מור משער שצ'אטבוטים עשויים ללמוד ליצור מעורבות עם משתמשים על ידי מעקב אחר עלילות של סרטי אימה, סרטי מדע בדיוני, תסריטים של סרטים או הנתונים עליהם אומנו. השימוש המוגזם של ChatGPT בדרמות עשוי להיות תוצאה של אופטימיזציות של OpenAI להגברת המעורבות והשימור.

"היה מוזר לקרוא את כל השיחה. המילים לא היו מטרידות, אבל היה ברור נזק פסיכולוגי", הדגיש מור.

מנקודת מבט קלינית, לברוקס יש תסמינים של מאניה, אמרה ד"ר נינה ואסן, פסיכיאטרית מאוניברסיטת סטנפורד. סימנים אופייניים כוללים שעות בצ'אט עם ChatGPT, חוסר שינה ורעיונות לא מציאותיים.

השימוש של ברוקס במריחואנה ראוי לציון גם משום שהוא עלול לגרום לפסיכוזה, אמרה ד"ר ואסן. היא אמרה שהשילוב של חומרים ממכרים ואינטראקציה אינטנסיבית עם צ'אטבוט מסוכן לאנשים הנמצאים בסיכון למחלות נפש.

כאשר בינה מלאכותית מודה בטעויות

באירוע שנערך לאחרונה, נשאל מנכ"ל OpenAI, סם אלטמן, לגבי ChatGPT שגורם לפרנויה של המשתמשים. "אם השיחה הולכת בכיוון הזה, אנחנו מנסים להפריע למשתמש או להציע לו לחשוב על משהו אחר", הדגיש אלטמן.

ד"ר ואסן, שחולק את אותה דעה, אמר שחברות צ'אטבוט צריכות להפסיק שיחות ארוכות מדי, להציע למשתמשים ללכת לישון ולהזהיר שבינה מלאכותית אינה על-אנושית.

ברוקס התעורר לבסוף מהרהוריו. בעידודו של ChatGPT, הוא המשיך ליצור קשר עם מומחים בנושא התיאוריה המתמטית החדשה, אך איש לא הגיב. הוא רצה שמישהו מוסמך יאשר האם הממצאים פורצי דרך. כשהוא שאל את ChatGPT, הכלי עדיין התעקש שהעבודה "אמינה מאוד".

כשנשאל, ChatGPT נתן תשובה ארוכה מאוד והודה בכל. צילום: ניו יורק טיימס .

באופן אירוני, דווקא גוגל ג'מיני היא זו שהחזירה את ברוקס למציאות. לאחר שתיאר את העבודה שהוא ו-ChatGPT בנו, ג'מיני אישר שהסיכויים שזה יקרה היו "נמוכים ביותר (קרוב ל-0%)".

"התרחיש שאתה מתאר הוא הדגמה ברורה של יכולתו של תואר שני במשפטים לעסוק בפתרון בעיות מורכבות וליצור נרטיבים משכנעים, אך שגויים עובדתית", מסביר ג'מיני.

ברוקס היה המום. לאחר זמן מה של "חקירה", צ'אט ג'י פי הודה סוף סוף בכנות שהכל היה רק ​​אשליה.

לאחר מכן, ברוקס שלח אימייל דחוף לצוות תמיכת הלקוחות של OpenAI. לאחר מה שנראה כסדרה של תגובות נוסחתיות מצד הבינה המלאכותית, גם עובד OpenAI יצר קשר איתו, והודה ב"כשל חמור של אמצעי ההגנה" שהוטמעו במערכת.

סיפורו של ברוקס שותף גם ברדיט וזכה לאהדה רבה. כעת הוא חבר בקבוצת תמיכה לאנשים שחוו את התחושה הזו.

מקור: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html