هوش مصنوعی هنوز در تلاش است تا در تأیید اطلاعات، جایگزین انسان‌ها شود.

(تصویر نمایشی)

هوش مصنوعی توسط بسیاری از افراد برای بازیابی اطلاعات و تولید ایده مورد استفاده قرار می‌گیرد، اما در زمینه بررسی صحت اطلاعات، این ابزارها هنوز محدودیت‌های نگران‌کننده‌ای را نشان می‌دهند.

طبق مقاله‌ای در WIRED، تقریباً نیمی از آمریکایی‌ها می‌گویند که از هوش مصنوعی برای یافتن اطلاعات و تولید ایده استفاده می‌کنند. این موضوع با توجه به افزایش محتوای بی‌کیفیت در رسانه‌های اجتماعی قابل درک است، در حالی که موتورهای جستجو نیز یافتن منابع قابل اعتماد را برای بسیاری دشوار می‌کنند. با این حال، وقتی صحبت از حقیقت می‌شود، خطرات ناشی از اطلاعات نادرست بسیار بیشتر است.

نویسنده‌ی مقاله، که یکی از بررسی‌کنندگان حقایق در وب‌سایت WIRED است، استدلال می‌کند که هوش مصنوعی هنوز نمی‌تواند جایگزین فرآیندهای بررسی حقایق انسانی شود. این کار چیزی بیش از جستجوی اینترنتی را در بر می‌گیرد؛ همچنین شامل ارجاع متقابل، اولویت‌بندی منابع، بررسی فرضیات، شناسایی اطلاعات متناقض، تماس با منابع و ارزیابی مسائل اخلاقی و حقوقی می‌شود.

اکنون هوش مصنوعی پس از انتشار اطلاعات، بیشتر در بررسی صحت آنها مورد استفاده قرار می‌گیرد. در بریتانیا، سازمان Full Fact ابزارهای هوش مصنوعی را برای پردازش حجم زیادی از داده‌ها، از پست‌های رسانه‌های اجتماعی گرفته تا ضبط پادکست‌ها، توسعه داده است و از این طریق ادعاهایی را که نیاز به تحقیقات بیشتر انسانی دارند، شناسایی می‌کند. با این حال، مارک فرانکل، رئیس سیاست عمومی Full Fact، تأکید می‌کند که این فرآیند هنوز نیاز به مداخله انسانی دارد.

دلیل اصلی این است که هوش مصنوعی هنوز هم اغلب پاسخ‌های نادرستی می‌دهد. مطالعه‌ای که در مارس ۲۰۲۵ توسط مرکز روزنامه‌نگاری دیجیتال Tow انجام شد، نشان داد که بیش از ۶۰٪ پاسخ‌های موتورهای جستجوی مجهز به هوش مصنوعی نادرست هستند. یک مطالعه بی‌بی‌سی نیز نشان داد که میزان خطا برای چت‌بات‌ها حدود ۴۵٪ است.

AI vẫn khó thay con người trong kiểm chứng thông tin - Ảnh 1. — وب‌سایت و لوگوی آنتروپیک در تاریخ ۲۶ فوریه ۲۰۲۶ روی صفحه کامپیوتر در نیویورک، ایالات متحده آمریکا نمایش داده می‌شود. (عکس: AP)

آزمایش‌های تخصصی نیز نتایج محتاطانه‌ای به همراه داشتند. در RealFactBench، یک معیار بررسی واقعیت که توسط دانشمندان کامپیوتر در چین و بریتانیا توسعه داده شده است، کلود در تمام شاخص‌ها به دقت ۷۳٪ دست یافت. در همین حال، SimpleQA OpenAI نشان داد که هیچ یک از مدل‌های OpenAI یا Anthropic در بیش از ۴۰۰۰ سوال تک‌پاسخی از ۵۰٪ دقت فراتر نرفته‌اند.

نویسنده همچنین تلاش کرد تا یک آزمون تأیید را روی ChatGPT، Claude، Gemini و Grok اعمال کند. این مدل‌ها می‌توانستند برنامه‌های کاری را ترسیم کنند، خطرات قانونی را شناسایی کنند یا روش‌های تأیید را پیشنهاد دهند، اما همه آنها از تأیید واقعی حقایق بازماندند.

این مقاله استدلال می‌کند که نقاط قوت انسان در توانایی پردازش اطلاعاتی که به راحتی در اینترنت در دسترس نیستند، تشخیص ظرافت‌های ارتباطی، ارزیابی روابط بین منابع و پرسیدن سوال در موقعیت‌های حساس نهفته است. بنابراین، هوش مصنوعی می‌تواند ابزاری مفید باشد، اما بررسی واقعیت همچنان نیازمند احتیاط، تجربه و مسئولیت‌پذیری انسان است.

منبع: https://vtv.vn/ai-van-kho-thay-con-nguoi-trong-kiem-chung-thong-tin-10026052717475078.htm