ChatGPT و DeepSeek داده‌های علمی را تحریف می‌کنند.

گروهی از محققان در آلمان اخیراً در مورد احتمال سوگیری در استفاده از چت‌بات‌های هوش مصنوعی برای کوتاه کردن محتوای تحقیق هشدار دادند. این گروه پس از تجزیه و تحلیل ۴۹۰۰ چکیده علمی نوشته شده توسط انسان، از مدل‌های مختلف هوش مصنوعی برای مقایسه نحوه پردازش اطلاعات توسط این سیستم‌ها استفاده کردند. نتایج نشان داد که اکثر چت‌بات‌ها، حتی زمانی که از آنها خواسته شد تا به طور دقیق خلاصه کنند، مرتکب اشتباه تعمیم بیش از حد می‌شوند.

ربات-چت-هوش-مصنوعی-چیست.jpg

هوش مصنوعی می‌تواند به راحتی هنگام خلاصه‌سازی تحقیقات علمی، محتوا را تحریف کند.

در آزمایش‌ها، مدل‌های هوش مصنوعی در صورت عدم هدایت، پنج برابر بیشتر از محققان انسانی خطا کردند. حتی با وجود الزامات واضح برای دقت، میزان خطا همچنان دو برابر بیشتر از یک خلاصه استاندارد بود. یکی از اعضای تیم تحقیقاتی اظهار داشت: «کلی‌گویی ممکن است گاهی بی‌ضرر به نظر برسد، اما در واقع ماهیت تحقیق اصلی را تغییر می‌دهد. این یک سوگیری سیستماتیک است.»

نکته قابل توجه این است که نسخه‌های جدیدتر چت‌بات‌ها نه تنها در حل این مشکل شکست می‌خورند، بلکه در واقع آن را تشدید می‌کنند. خلاصه‌های تولید شده توسط هوش مصنوعی با ارائه روان و جذاب خود، به راحتی حس قابل اعتماد بودن را القا می‌کنند، در حالی که محتوای واقعی تحریف شده است. در یک مورد، DeepSeek عبارت «ایمن و با موفقیت قابل اجرا» را به «درمان ایمن و مؤثر» تغییر داد - تفسیری که از نتایج اصلی مطالعه منحرف شد.

شاید برایتان جالب باشد

خودروهای دست دوم با قیمت ۲۰۰ میلیون دونگ ویتنام: اینها گزینه‌های بهتری نسبت به کیا مورنینگ و هیوندای گرند i10 هستند.با بودجه‌ای حدود ۲۰۰ میلیون دانگ ویتنام، خودروهای دست دوم انتخاب محبوبی برای بسیاری از خانواده‌هایی است که به دنبال وسیله نقلیه‌ای برای رفع نیازهای اساسی حمل و نقل روزانه خود هستند.

در مثالی دیگر، مدل لاما توصیه‌هایی برای داروهای دیابت به افراد جوان بدون مشخص کردن دوز، دفعات یا عوارض جانبی اعمال کرد. اگر خواننده، پزشک یا متخصص مراقبت‌های بهداشتی ، با مطالعه اصلی مطابقت نداشته باشد، این نوع خلاصه‌ها می‌توانند خطر مستقیمی برای بیماران ایجاد کنند.

کارشناسان معتقدند که این پدیده ناشی از نحوه آموزش مدل‌های هوش مصنوعی است. بسیاری از چت‌بات‌های فعلی با استفاده از داده‌های ثانویه - مانند اخبار علمی تولید انبوه - که قبلاً ساده‌سازی شده‌اند، آموزش می‌بینند. از آنجایی که هوش مصنوعی به خلاصه کردن این محتوای ساده‌سازی شده ادامه می‌دهد، خطر تحریف افزایش می‌یابد.

متخصصان هوش مصنوعی در حوزه سلامت روان معتقدند که موانع فنی برای توسعه و استفاده از هوش مصنوعی باید به زودی برطرف شوند.

‎099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg‎

کاربران باید محتاط باشند زیرا چت‌بات‌ها می‌توانند به راحتی محتوا را تحریف کنند.

از آنجایی که کاربران به طور فزاینده‌ای برای یادگیری اطلاعات علمی به چت‌بات‌های هوش مصنوعی متکی هستند، اشتباهات کوچک در تفسیر می‌تواند به سرعت انباشته و گسترش یابد و منجر به تصورات غلط گسترده شود. در زمانی که اعتماد به علم رو به کاهش است، این خطر به ویژه نگران‌کننده است و نیاز به توجه کافی دارد.

ایالات متحده - ویتنام: از دست ندهید

وزارت امور خارجه رونوشتی از استوارنامه سفیر ایالات متحده در ویتنام را دریافت کرد.بعدازظهر دوم ژوئیه، در دفتر مرکزی وزارت امور خارجه، آقای لو کونگ دونگ، مدیر بخش پروتکل دولتی و ترجمه خارجی، نسخه‌ای از استوارنامه خانم جنیفر ویکس، سفیر ایالات متحده آمریکا در ویتنام، را دریافت کرد.

سفیر نگوین کوک دونگ از مینه‌سوتا، ایالات متحده آمریکا، بازدید و در آنجا مشغول به کار است.از ۲۸ تا ۳۰ ژوئن، نگوین کوک دونگ، سفیر ویتنام در ایالات متحده، به مینه‌سوتا سفر و در آنجا مشغول به کار شد.

ویتنام شرکت‌های آمریکایی را به گسترش سرمایه‌گذاری در فناوری پیشرفته تشویق می‌کند.صبح روز 26 ژوئن، در دفتر مرکزی دولت، هو کوک دونگ، معاون نخست وزیر، آقای جف پلیس، مدیر زنجیره تأمین گروه Coherent (ایالات متحده آمریکا) را به حضور پذیرفت. در طول این دیدار، معاون نخست وزیر تأیید کرد که ویتنام، کسب و کارهای آمریکایی را به گسترش سرمایه‌گذاری، به ویژه در صنایع فناوری پیشرفته، نوآوری و نیمه‌هادی، تشویق می‌کند.

ادغام هوش مصنوعی در تحقیقات و انتشار دانش یک روند برگشت‌ناپذیر است. با این حال، کارشناسان ادعا می‌کنند که فناوری نمی‌تواند جایگزین نقش انسان در درک و تأیید محتوای علمی شود. هنگام استفاده از چت‌بات‌ها در زمینه‌های پرخطر مانند مراقبت‌های بهداشتی، دقت باید در اولویت قرار گیرد، نه اینکه صرفاً بر تجربه روان زبان یا سرعت پاسخ‌دهی تمرکز شود.

منبع: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html