خطر «انحطاط تفکر» به دلیل سوءاستفاده از هوش مصنوعی.

DNVN - مطالعات اخیر زنگ خطر را در مورد عواقب غیرقابل پیش‌بینی اتکای روزافزون بشریت به هوش مصنوعی (AI)، به ویژه مدل‌های زبانی بزرگ (LLM) مانند ChatGPT، به صدا درآورده‌اند.

تصویر گویا.

هوش مصنوعی تقریباً در هر جنبه‌ای از زندگی انسان، از فعالیت‌های روزمره گرفته تا تولید، آموزش ، تحقیق و خلق آثار هنری، حضور دارد. هوش مصنوعی به افراد کمک می‌کند تا عملیات را بهینه کنند، کارایی را افزایش دهند و نیروی انسانی را کاهش دهند. انفجار هوش مصنوعی، رشد مداوم کاربردهای یادگیری ماشین و فناوری کلان‌داده را نشان داده و هوش مصنوعی را به سطح جدیدی از توسعه رسانده است.

با وجود این مزایای عظیم، هوش مصنوعی این خطر را دارد که فرآیند خلق دانش را به یک حلقه بسته تبدیل کند، نوآوری را تهدید کند و باعث «انحطاط» تفکر انسانی شود.

به گفته کارشناسان، راحتی فوری استفاده از هوش مصنوعی ممکن است به قیمت از دست رفتن منابع فکری در درازمدت تمام شود.

کاهش عملکرد مغز و «بدهی شناختی»

یک مطالعه چهار ماهه توسط موسسه فناوری ماساچوست (MIT) اثرات عمیق استفاده بیش از حد از هوش مصنوعی بر مغز انسان را روشن کرده است. این مطالعه که ۵۴ شرکت‌کننده در یک مقاله را پیگیری کرد، نشان داد که اتکا به ابزارهای هوش مصنوعی می‌تواند عملکرد مغز و مهارت‌های تفکر انتقادی را مختل کند.

محققان با استفاده از فناوری الکتروانسفالوگرافی (EEG)، فعالیت مغزی شرکت‌کنندگان را ثبت کردند. نتایج شگفت‌انگیز بود: گروهی که از ابزار هوش مصنوعی استفاده می‌کردند، الگوهای عصبی به طور قابل توجهی متفاوتی را در مقایسه با گروهی که فقط ذهنی می‌نوشتند، نشان دادند. این گروه تا ۵۵٪ اتصالات عصبی کمتری نسبت به گروه فقط با مغز، به ویژه در مناطقی که مسئول تفکر عمیق و شکل‌گیری حافظه هستند، نشان دادند.

محققان این پدیده را «بدهی شناختی» می‌نامند. مشابه بدهی مالی که به ما امکان می‌دهد از مزایای فعلی لذت ببریم اما بعداً هزینه‌هایی را متحمل شویم، بدهی شناختی زمانی رخ می‌دهد که ما تلاش فکری را به سیستم‌های خارجی واگذار می‌کنیم و باعث می‌شویم عضلات ذهنی ما در اثر عدم استفاده تحلیل بروند. در صورت سوءاستفاده، هوش مصنوعی می‌تواند انسان‌ها را به مصرف‌کنندگان منفعل تبدیل کند و توانایی تفکر مستقل را از دست بدهد.

عواقب کاهش عملکرد شناختی واضح است:

اختلال حافظه : در اولین جلسه مطالعه MIT، حدود ۸۳٪ از کاربران هوش مصنوعی قادر به استناد به نوشته‌های خود نبودند و هیچ‌کدام استناد دقیقی ارائه نکردند. حتی پس از چندین جلسه، بسیاری هنوز با این کار اساسی مشکل داشتند.

تضعیف تفکر انتقادی : استفاده از هوش مصنوعی منجر به «تعامل سطحی» و تضعیف مهارت‌های تفکر انتقادی می‌شود و به طور بالقوه باعث تعلل و تنبلی می‌شود.

کاهش فعالیت مغز : افرادی که با کمک هوش مصنوعی مقاله نوشتند، فعالیت مغزی به طور قابل توجهی کمتری را فعال کردند، به طوری که نواحی مربوط به حافظه، تفکر انتقادی و عملکرد اجرایی کاهش شدیدی را نشان دادند.

بحران خلق دانش و «فروپاشی مدل»

مشکل LLMها در قابلیت‌های سنتز آنها نیست، بلکه در این واقعیت است که آنها فقط می‌دانند چگونه آنچه را که از قبل وجود دارد بازیافت کنند. این سیستم‌ها دانش جدیدی تولید نمی‌کنند؛ آنها در درجه اول از داده‌های موجود استفاده کرده و آن را دوباره توزیع می‌کنند.

برخلاف انسان‌ها که همیشه به دنبال مسیرهای جدید برای انگیزه‌های مختلفی مانند پول، شهرت، کنجکاوی یا تمایل به فتح دانش هستند، هوش مصنوعی نمی‌تواند «نوآوری» ایجاد کند. وقتی هوش مصنوعی بتواند تقریباً به هر سؤال پیچیده‌ای تنها در عرض چند ثانیه پاسخ دهد، پاداش خلاقیت انسانی به تدریج ناپدید خواهد شد.

این از دست دادن شتاب، در مورد Stack Overflow، انجمنی که برنامه‌نویسان در آن دانش خود را به اشتراک می‌گذارند، نشان داده شده است: تنها در عرض ۶ ماه پس از ظهور ChatGPT، تعداد سوالات روی پلتفرم بیش از ۲۵٪ کاهش یافت و اکنون ۹۰٪ کاهش یافته است. این از دست دادن یک «پایگاه دانش زنده» است که در آن هر پاسخ تأیید، بحث و تکمیل می‌شد.

داده‌های پلتفرم‌هایی مانند Stack Overflow قبلاً منبع آموزشی ابزارهای هوش مصنوعی بودند. با خشک شدن این منبع دانش، هوش مصنوعی به طور فزاینده‌ای آنچه را که قبلاً تولید کرده است تکرار خواهد کرد.

این پدیده به عنوان «فروپاشی مدل» شناخته می‌شود. محققان هشدار می‌دهند که وقتی مدل‌ها در درجه اول بر اساس داده‌های تولید شده توسط خود هوش مصنوعی آموزش داده می‌شوند، کیفیت دانش به تدریج رو به زوال می‌رود و توانایی خود را برای انعکاس تنوع و دقت دنیای واقعی از دست می‌دهد. پروفسور هانا لی از دانشگاه کلمبیا نتیجه می‌گیرد: «نتیجه کلی این است که آنها بدتر خواهند شد. مدل‌ها بدتر خواهند شد.»

خطرات همگن‌سازی و بازیافت دانش

علاوه بر کاهش آگاهی فردی، سوءاستفاده از هوش مصنوعی منجر به همگن‌سازی دانش نیز می‌شود. مقالاتی که با کمک هوش مصنوعی نوشته می‌شوند، شباهت‌های چشمگیری را نشان می‌دهند و الگوهای «از نظر آماری همگن» را آشکار می‌کنند. این امر نوعی تک‌فرهنگ فکری ایجاد می‌کند، جایی که دیدگاه‌های متنوع انسانی از طریق یک لنز الگوریتمی یکسان فیلتر می‌شوند و به طور بالقوه تنوع خلاقانه را خفه می‌کنند.

هوش مصنوعی تمایل دارد بر الگوهای رایج در داده‌ها تأکید کند و به تدریج اطلاعات نادر، جزئیات منحصر به فرد یا داده‌های پنهان در سایه آمار را نادیده بگیرد. اگر این روند ادامه یابد، اینترنت، مخزن غنی اطلاعات، در معرض خطر تبدیل شدن به جهانی رقیق شده است که در آن دانش از بین می‌رود. بشریت ممکن است وارد دورانی از «بازیافت دانش» شود، جایی که نوآوری با کاهش پاداش برای خلاقیت‌های جدید، راکد می‌شود.

هوش مصنوعی ابزاری قدرتمند است، اما به یک رویکرد استراتژیک نیاز دارد. محققان MIT نشانه دلگرم‌کننده‌ای یافته‌اند: شرکت‌کنندگانی که قبل از استفاده از هوش مصنوعی، پایه شناختی محکمی در خود ایجاد کرده بودند، توانستند از آن به طور مؤثرتری استفاده کنند و حتی فعالیت عصبی آنها پس از آشنایی با آن افزایش یافت. آنها از هوش مصنوعی به عنوان یک دستیار واقعی استفاده کردند، نه فقط یک ابزار پشتیبانی.

دانش بشر از طریق تلاش، کنجکاوی و شجاعت برای ورود به ناشناخته‌ها ساخته می‌شود. با این حال، اگر هوش مصنوعی را به تنها «راه‌آهن» تبدیل کنیم، در معرض خطر قرار گرفتن در یک چرخه معیوب قرار می‌گیریم که در آن هم انسان‌ها و هم ماشین‌ها فقط آنچه را که قبلاً انجام شده است تکرار می‌کنند.

هین تائو

منبع: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291