הסיכון ל"ניוון חשיבה" עקב שימוש לרעה בבינה מלאכותית.

DNVN - מחקרים אחרונים זהרו לגבי ההשלכות הבלתי צפויות של ההסתמכות הגוברת של האנושות על בינה מלאכותית (AI), ובמיוחד על מודלים של שפה גדולה (LLMs) כמו ChatGPT.

תמונה להמחשה.

בינה מלאכותית נוכחת כמעט בכל היבט של חיי האדם, החל מפעילויות יומיומיות ועד לייצור, חינוך , מחקר ויצירה אמנותית. בינה מלאכותית עוזרת לאנשים לייעל את הפעילות, להגביר את היעילות ולהפחית כוח אדם. התפוצצות הבינה המלאכותית הדגימה את הצמיחה המתמשכת של למידת מכונה ויישומי טכנולוגיית ביג דאטה, ודוחפת את הבינה המלאכותית לרמה חדשה של פיתוח.

למרות היתרונות העצומים הללו, בינה מלאכותית מסתכנת בהפיכת תהליך יצירת הידע עצמו ללולאה סגורה, שתאיים על חדשנות ותגרום ל"ניוון" של החשיבה האנושית.

לדברי מומחים, הנוחות המיידית של שימוש בבינה מלאכותית עשויה לבוא על חשבון משאבים אינטלקטואליים לטווח ארוך.

ירידה בתפקוד המוח ו"חוב קוגניטיבי"

מחקר שנמשך ארבעה חודשים על ידי המכון הטכנולוגי של מסצ'וסטס (MIT) שופך אור על ההשפעות העמוקות של שימוש יתר בבינה מלאכותית על המוח האנושי. המחקר, שעקב אחר 54 משתתפי חיבור, מצא כי הסתמכות על כלי בינה מלאכותית עלולה לפגוע בתפקוד המוח ובכישורי החשיבה הביקורתית.

באמצעות טכנולוגיית אלקטרואנצפלוגרפיה (EEG), החוקרים תיעדו את פעילות המוח של המשתתפים. התוצאות היו מדהימות: הקבוצה שהשתמשה בכלי הבינה המלאכותית הציגה דפוסים עצביים שונים באופן משמעותי בהשוואה לקבוצה שכתבה רק בעל פה. קבוצה זו הראתה עד 55% פחות קשרים עצביים בהשוואה לקבוצה שכתבה רק במוח, במיוחד באזורים האחראים על חשיבה עמוקה ויצירת זיכרון.

חוקרים מכנים תופעה זו "חוב קוגניטיבי". בדומה לחוב פיננסי, המאפשר לנו ליהנות מהטבות בהווה אך לשאת בעלויות בהמשך, חוב קוגניטיבי מתרחש כאשר אנו מעבירים מאמץ אינטלקטואלי למערכות חיצוניות, מה שגורם לשרירים המנטליים שלנו להתנוון עקב חוסר שימוש. אם ינוצל לרעה, בינה מלאכותית עלולה להפוך בני אדם לצרכנים פסיביים, ולאבד את היכולת לחשוב באופן עצמאי.

ההשלכות של תפקוד קוגניטיבי מופחת ברורות:

פגיעה בזיכרון : בפגישה הראשונה של מחקר MIT, עד 83% ממשתמשי הבינה המלאכותית לא היו מסוגלים לצטט מתוך כתביהם, ואף אחד מהם לא סיפק ציטוט מדויק. אפילו לאחר מספר פגישות, רבים עדיין התקשו במשימה בסיסית זו.

היחלשות החשיבה הביקורתית : השימוש בבינה מלאכותית מוביל ל"מעורבות שטחית" ומחליש מיומנויות חשיבה ביקורתית, מה שעלול לעודד דחיינות ועצלנות.

פעילות מוחית מופחתת : אנשים שכתבו חיבורים בעזרת בינה מלאכותית הפעילו פחות פעילות מוחית באופן משמעותי, כאשר תחומים הקשורים לזיכרון, חשיבה ביקורתית ותפקוד ניהולי הראו ירידה חדה.

משבר יצירת הידע ו"קריסת המודל"

הבעיה עם תוכניות לימודי משפטים (LLMs) אינה טמונה ביכולות הסינתזה שלהן, אלא בעובדה שהן יודעות רק למחזר את מה שכבר קיים. מערכות אלו אינן מייצרות ידע חדש; הן משתמשות בעיקר בנתונים קיימים ומפיצות אותם מחדש.

בניגוד לבני אדם, שתמיד מחפשים כיוונים חדשים ממניעים שונים כמו כסף, תהילה, סקרנות או רצון לכבוש ידע, בינה מלאכותית אינה יכולה לייצר "חדשנות". כאשר בינה מלאכותית יכולה לענות כמעט על כל שאלה מורכבת תוך שניות ספורות, התגמולים על היצירתיות האנושית ייעלמו בהדרגה.

אובדן המומנטום הזה הודגם על ידי המקרה של Stack Overflow, פורום שבו מתכנתים חולקים ידע: רק 6 חודשים לאחר הופעת ChatGPT, מספר השאלות בפלטפורמה ירד ביותר מ-25%, וכעת ירד ב-90%. זהו אובדן של "בסיס ידע חי", שבו כל תשובה אומתה, נדונה והושלמה.

נתונים מפלטפורמות כמו Stack Overflow שימשו בעבר כמקור אימון לכלי בינה מלאכותית. ככל שמקור ידע זה מתייבש, בינה מלאכותית תחזור יותר ויותר על מה שכבר יצרה.

תופעה זו ידועה בשם "קריסת מודל". חוקרים מזהירים כי כאשר מודלים מאומנים בעיקר על סמך נתונים שנוצרים על ידי הבינה המלאכותית עצמה, איכות הידע מידרדרת בהדרגה, ומאבדת את יכולתה לשקף את הגיוון והדיוק של העולם האמיתי. פרופסור חנה לי מאוניברסיטת קולומביה מסכמת: "התוצאה הכוללת היא שהם יחמירו. המודלים יחמירו".

הסיכונים של הומוגניזציה ומיחזור של ידע.

מלבד הירידה במודעות האישית, שימוש לרעה בבינה מלאכותית מוביל גם להומוגניזציה של ידע. מאמרים שנכתבו בעזרת בינה מלאכותית מראים קווי דמיון בולטים, וחושפים דפוסים "הומוגניים סטטיסטית". זה יוצר סוג של מונוקולטורה אינטלקטואלית, שבה נקודות מבט אנושיות מגוונות מסוננות דרך אותה עדשה אלגוריתמית, דבר שעלול לחנוק גיוון יצירתי.

בינה מלאכותית נוטה להדגיש דפוסים נפוצים בנתונים, תוך התעלמות הדרגתית ממידע נדיר, פרטים ייחודיים או נתונים המוסתרים בצל הסטטיסטיקה. אם מגמה זו תימשך, האינטרנט, מאגר עשיר של מידע, מסתכן בהפיכתו לעולם מדולל שבו ידע הולך לאיבוד. האנושות עלולה להיכנס לעידן של "מיחזור ידע", שבו חדשנות עומדת על שמריה ככל שהתגמולים על יצירות חדשות הופכים מעורפלים יותר ויותר.

בינה מלאכותית היא כלי רב עוצמה, אך היא דורשת גישה אסטרטגית. חוקרי MIT מצאו סימן מעודד: משתתפים שפיתחו בסיס קוגניטיבי מוצק לפני השימוש בבינה מלאכותית הצליחו למנף אותה בצורה יעילה יותר, עם פעילות עצבית מוגברת אף יותר עם ההיכרות. הם השתמשו בבינה מלאכותית כעוזר אמיתי, לא רק ככלי תמיכה.

ידע אנושי נבנה באמצעות מאמץ, סקרנות ואומץ להעז אל הלא נודע. עם זאת, אם נהפוך את הבינה המלאכותית ל"רכבת" היחידה, אנו מסתכנים בהובלה למעגל קסמים שבו בני אדם ומכונות כאחד רק חוזרים על מה שכבר נעשה.

היי טאו

מקור: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291