ChatGPT و DeepSeek داده‌های علمی را تحریف می‌کنند.

مشخص شده است که مدل‌های هوش مصنوعی مانند ChatGPT و DeepSeek می‌توانند هنگام خلاصه‌سازی محتوای علمی، به ویژه در حوزه پزشکی، آن را تحریف کنند.

Báo Khoa học và Đời sống•08/07/2025

گروهی از محققان در آلمان اخیراً در مورد احتمال سوگیری در استفاده از چت‌بات‌های هوش مصنوعی برای کوتاه کردن محتوای تحقیق هشدار دادند. این گروه پس از تجزیه و تحلیل ۴۹۰۰ چکیده علمی نوشته شده توسط انسان، از مدل‌های مختلف هوش مصنوعی برای مقایسه نحوه پردازش اطلاعات توسط این سیستم‌ها استفاده کردند. نتایج نشان داد که اکثر چت‌بات‌ها، حتی زمانی که از آنها خواسته شد تا به طور دقیق خلاصه کنند، مرتکب اشتباه تعمیم بیش از حد می‌شوند.

ربات-چت-هوش-مصنوعی-چیست.jpg

هوش مصنوعی می‌تواند به راحتی هنگام خلاصه‌سازی تحقیقات علمی، محتوا را تحریف کند.

در آزمایش‌ها، مدل‌های هوش مصنوعی در صورت عدم هدایت، پنج برابر بیشتر از محققان انسانی خطا کردند. حتی با وجود الزامات واضح برای دقت، میزان خطا همچنان دو برابر بیشتر از یک خلاصه استاندارد بود. یکی از اعضای تیم تحقیقاتی اظهار داشت: «کلی‌گویی ممکن است گاهی بی‌ضرر به نظر برسد، اما در واقع ماهیت تحقیق اصلی را تغییر می‌دهد. این یک سوگیری سیستماتیک است.»

نکته قابل توجه این است که نسخه‌های جدیدتر چت‌بات‌ها نه تنها در حل این مشکل شکست می‌خورند، بلکه در واقع آن را تشدید می‌کنند. خلاصه‌های تولید شده توسط هوش مصنوعی با ارائه روان و جذاب خود، به راحتی حس قابل اعتماد بودن را القا می‌کنند، در حالی که محتوای واقعی تحریف شده است. در یک مورد، DeepSeek عبارت «ایمن و با موفقیت قابل اجرا» را به «درمان ایمن و مؤثر» تغییر داد - تفسیری که از نتایج اصلی مطالعه منحرف شد.

شاید برایتان جالب باشد

پاریس چگونه میلیاردها یورو برای تبدیل رودخانه سن به یک «دستگاه تهویه هوا» هزینه کرد؟(روزنامه دن تری) - برای کاهش نیاز به دستگاه‌های خنک‌کننده انفرادی، پاریس ۲.۴ میلیارد یورو برای گسترش سیستم خنک‌کننده شهری خود با استفاده از آب رودخانه سن سرمایه‌گذاری کرده است.

ناسا با موفقیت یک ماهواره هوش مصنوعی را آزمایش کرد که نیازی به ارسال تصاویر به زمین ندارد.دانشمندان برای اولین بار با موفقیت ماهواره‌ای را آزمایش کردند که قادر است مشاهدات خود را از مدار، بدون ارسال تمام تصاویر به زمین، به طور مستقل شناسایی و توصیف کند.

ویتل داده‌های دنیای واقعی را در اختیار تیم‌های رقیب که در حال توسعه راه‌حل‌های هوش مصنوعی هستند، قرار می‌دهد.در تاریخ ۲ جولای، گروه مخابرات نظامی ویتنام (ویتل) مسابقه هوش مصنوعی ویتل ۲۰۲۶ را آغاز کرد. نکته برجسته مسابقه امسال این است که تیم‌های برجسته به داده‌های دنیای واقعی دسترسی خواهند داشت، مستقیماً با متخصصان کار می‌کنند و مشکلات پیش روی تولید و عملیات تجاری ویتل را حل خواهند کرد.

در مثالی دیگر، مدل لاما توصیه‌هایی برای داروهای دیابت به افراد جوان بدون مشخص کردن دوز، دفعات یا عوارض جانبی اعمال کرد. اگر خواننده، پزشک یا متخصص مراقبت‌های بهداشتی ، با مطالعه اصلی مطابقت نداشته باشد، این نوع خلاصه‌ها می‌توانند خطر مستقیمی برای بیماران ایجاد کنند.

کارشناسان معتقدند که این پدیده ناشی از نحوه آموزش مدل‌های هوش مصنوعی است. بسیاری از چت‌بات‌های فعلی با استفاده از داده‌های ثانویه - مانند اخبار علمی تولید انبوه - که قبلاً ساده‌سازی شده‌اند، آموزش می‌بینند. از آنجایی که هوش مصنوعی به خلاصه کردن این محتوای ساده‌سازی شده ادامه می‌دهد، خطر تحریف افزایش می‌یابد.

متخصصان هوش مصنوعی در حوزه سلامت روان معتقدند که موانع فنی برای توسعه و استفاده از هوش مصنوعی باید به زودی برطرف شوند.

‎099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg‎

کاربران باید محتاط باشند زیرا چت‌بات‌ها می‌توانند به راحتی محتوا را تحریف کنند.

از آنجایی که کاربران به طور فزاینده‌ای برای یادگیری اطلاعات علمی به چت‌بات‌های هوش مصنوعی متکی هستند، اشتباهات کوچک در تفسیر می‌تواند به سرعت انباشته و گسترش یابد و منجر به تصورات غلط گسترده شود. در زمانی که اعتماد به علم رو به کاهش است، این خطر به ویژه نگران‌کننده است و نیاز به توجه کافی دارد.

ایالات متحده - ویتنام: از دست ندهید

وزارت امور خارجه رونوشتی از استوارنامه سفیر ایالات متحده در ویتنام را دریافت کرد.بعدازظهر دوم ژوئیه، در دفتر مرکزی وزارت امور خارجه، آقای لو کونگ دونگ، مدیر بخش پروتکل دولتی و ترجمه خارجی، نسخه‌ای از استوارنامه خانم جنیفر ویکس، سفیر ایالات متحده آمریکا در ویتنام، را دریافت کرد.

سفیر نگوین کوک دونگ از مینه‌سوتا، ایالات متحده آمریکا، بازدید و در آنجا مشغول به کار است.از ۲۸ تا ۳۰ ژوئن، نگوین کوک دونگ، سفیر ویتنام در ایالات متحده، به مینه‌سوتا سفر و در آنجا مشغول به کار شد.

ویتنام شرکت‌های آمریکایی را به گسترش سرمایه‌گذاری در فناوری پیشرفته تشویق می‌کند.صبح روز 26 ژوئن، در دفتر مرکزی دولت، هو کوک دونگ، معاون نخست وزیر، آقای جف پلیس، مدیر زنجیره تأمین گروه Coherent (ایالات متحده آمریکا) را به حضور پذیرفت. در طول این دیدار، معاون نخست وزیر تأیید کرد که ویتنام، کسب و کارهای آمریکایی را به گسترش سرمایه‌گذاری، به ویژه در صنایع فناوری پیشرفته، نوآوری و نیمه‌هادی، تشویق می‌کند.

ادغام هوش مصنوعی در تحقیقات و انتشار دانش یک روند برگشت‌ناپذیر است. با این حال، کارشناسان ادعا می‌کنند که فناوری نمی‌تواند جایگزین نقش انسان در درک و تأیید محتوای علمی شود. هنگام استفاده از چت‌بات‌ها در زمینه‌های پرخطر مانند مراقبت‌های بهداشتی، دقت باید در اولویت قرار گیرد، نه اینکه صرفاً بر تجربه روان زبان یا سرعت پاسخ‌دهی تمرکز شود.

منبع: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html