هوش مصنوعی همچنین اشتباهات غیرمنطقی مرتکب می‌شود و درست مانند انسان‌ها تعصب نشان می‌دهد.

با وجود کار بر روی الگوریتم‌ها و مجموعه داده‌های عظیم، سیستم‌های هوش مصنوعی (AI) مانند ChatGPT هنوز در معرض سوگیری‌های شناختی رایج انسان، یعنی اعتماد بیش از حد و سوگیری، قرار دارند.

هوش مصنوعی زمانی بهترین عملکرد را دارد که وظیفه حل مسائلی را بر عهده داشته باشد که از رویه‌های روشن و فرمول‌های ثابت پیروی می‌کنند. با این حال، هنگام مواجهه با موقعیت‌هایی که نیاز به قضاوت ذهنی دارند یا شامل ترجیحات شخصی می‌شوند، هوش مصنوعی می‌تواند اشتباهاتی مشابه انسان مرتکب شود.

یک مطالعه جدید که در مجله مدیریت عملیات تولید و خدمات (Management Manufacturing & Service Operations Management) منتشر شده و توسط دانشمندان پنج دانشگاه در کانادا و استرالیا انجام شده است، رفتار ChatGPT (به طور خاص، مدل‌های GPT-3.5 و GPT-4 شرکت OpenAI) را در مورد ۱۸ سوگیری شناختی برجسته که معمولاً در روانشناسی انسان یافت می‌شوند، مانند سوگیری تأیید، اثر مالکیت، مغالطه هزینه از دست رفته و سوگیری قطعیت، ارزیابی کرد.

نتایج نشان داد که در تقریباً نیمی از سناریوهای آزمایش‌شده، ChatGPT در مواجهه با انتخاب‌های غیرمنطقی یا احساسی، دقیقاً مانند یک انسان رفتار کرد، علی‌رغم شهرت این سیستم به استدلال منطقی منسجم.

آیا هوش مصنوعی واقعاً آنطور که انتظار می‌رود «بی‌طرف» است؟

دکتر یانگ چن، دانشیار مدیریت عملیات در دانشکده بازرگانی ایوی (کانادا) و نویسنده اصلی این مطالعه، اظهار داشت: «هوش مصنوعی زمانی بهترین عملکرد را دارد که وظیفه حل مسائلی را بر عهده داشته باشد که از فرآیندهای روشن و فرمول‌های ثابت پیروی می‌کنند. اما هنگام مواجهه با موقعیت‌هایی که نیاز به قضاوت ذهنی دارند یا شامل ترجیحات شخصی می‌شوند، هوش مصنوعی می‌تواند درست مانند انسان‌ها اشتباه کند.»

تیم تحقیقاتی سناریوهای روانشناختی آشنایی را در ChatGPT گنجاند و زمینه‌های کاربردی مانند مدیریت موجودی یا مذاکرات با تأمین‌کنندگان را به آن اضافه کرد.

شایان ذکر است که مدل‌های هوش مصنوعی حتی زمانی که زمینه سوال از انتزاعی به زمینه عملی کسب‌وکار تغییر می‌کند، همچنان سوگیری شناختی از خود نشان می‌دهند.

GPT-4 هوشمندتر است، اما بی‌نقص نیست.

GPT-4 نسخه ارتقا یافته GPT-3.5 است که در حل مسائل منطقی یا احتمالی عملکرد بسیار خوبی دارد. با این حال، در شبیه‌سازی‌های ذهنی، مانند انتخاب یک گزینه پرخطر برای افزایش سود، GPT-4 تمایل به رفتار احساسی‌تر از انسان‌ها را نشان می‌دهد.

به طور خاص، این مطالعه خاطرنشان کرد که GPT-4 به طور مداوم پاسخ‌های مغرضانه در سناریوهای آزمایش سوگیری تأییدی ارائه می‌دهد و بیشتر از GPT-3.5 مستعد ابتلا به "مغالطه دست داغ" است، تمایلی به باور اینکه رویدادهای تصادفی به ترتیب تکرار می‌شوند.

برعکس، هوش مصنوعی این پتانسیل را دارد که از برخی از سوگیری‌هایی که انسان‌ها اغلب مرتکب می‌شوند، مانند نادیده گرفتن نرخ پایه یا مغالطه هزینه از دست رفته، اجتناب کند.

دلیل اینکه ChatGPT سوگیری شبه انسانی از خود نشان می‌دهد، از داده‌های آموزشی آن ناشی می‌شود که مملو از رفتارها و الگوهای فکری ناقص خود ماست. - تصویر: هوش مصنوعی

منشأ سوگیری هوش مصنوعی: از خود داده‌های انسانی.

به گفته تیم تحقیقاتی، دلیل اینکه ChatGPT سوگیری انسانی از خود نشان می‌دهد، از خود داده‌های آموزشی ناشی می‌شود که پر از رفتارها و الگوهای فکری ناقص خودمان است. این واقعیت که هوش مصنوعی بر اساس بازخورد انسانی اصلاح می‌شود، این گرایش را بیشتر تقویت می‌کند، زیرا این مدل برای پاسخ‌هایی که منطقی به نظر می‌رسند، به جای پاسخ‌های کاملاً دقیق، "پاداش" می‌گیرد.

دکتر چن توصیه می‌کند: «برای نتایج دقیق و بی‌طرفانه، از هوش مصنوعی برای کارهایی استفاده کنید که از قبل به کامپیوتر برای انجام خوب آنها اعتماد دارید. با این حال، برای مشکلات استراتژیک یا عاطفی، نظارت و مداخله انسانی هنوز ضروری است، حتی اگر صرفاً با بازنویسی سوال باشد.»

مینا اندیاپان، دانشیار منابع انسانی و مدیریت در دانشگاه مک مستر (کانادا)، یکی از نویسندگان این مقاله، استدلال می‌کند: «هوش مصنوعی باید به عنوان یک کارمند با قدرت تصمیم‌گیری قابل توجه در نظر گرفته شود، به این معنی که باید تحت نظارت باشد و به اصول اخلاقی پایبند باشد. در غیر این صورت، ما به جای بهبود تفکر ناقص، ناخواسته آن را خودکار می‌کنیم.»

ادامه مطلب بازگشت به صفحه اصلی

برگردیم به موضوع

مین های

منبع: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm