وقتی هوش مصنوعی می‌داند چگونه حقیقت را تأیید کند: پیشرفت جدید هوش مصنوعی ویتل در NAACL 2025

در NAACL 2025، یکی از کنفرانس‌های پیشرو هوش مصنوعی (AI) در جهان که در ایالات متحده برگزار شد، شرکت Viettel AI از VeGraph رونمایی کرد - روشی برای تأیید اطلاعات که به افزایش دقت تا 5٪ در مقایسه با روش‌های موجود کمک می‌کند.

وِگراف (VeGraph) دقت را نسبت به روش‌های موجود ۲ تا ۵ درصد بهبود می‌بخشد.

NAACL 2025 (کنفرانس سالانه بخش کشورهای قاره آمریکا از انجمن زبان‌شناسی محاسباتی) معتبرترین و پیشروترین انجمن علمی جهان در زمینه پردازش زبان طبیعی و زبان‌شناسی محاسباتی است.

طبق اطلاعات ویتل در بعد از ظهر ۱۶ مه، انفجار اینترنت و شبکه‌های اجتماعی باعث محبوبیت روزافزون محتوای تولید شده توسط کاربران شده است؛ در عین حال، منجر به موجی از اخبار جعلی و اخبار غیررسمی شده است که به طور گسترده منتشر می‌شود. این اطلاعات نادرست نه تنها باعث سردرگمی افراد در حوزه‌های حساس مانند سلامت، بلایای طبیعی، سیاست‌های عمومی و... می‌شود، بلکه منجر به عواقب جدی مانند: آسیب اقتصادی، کاهش اعتبار سازمانی و تهدید امنیت ملی نیز می‌شود.

نماینده‌ی ویتل گفت: «در گذشته، این اطلاعات فقط در یک زمان و محدوده‌ی خاص تأثیر داشتند، اکنون وقتی به بخشی از داده‌های ورودی سیستم‌های هوش مصنوعی (AI) تبدیل می‌شوند، به طور فزاینده‌ای خطرناک می‌شوند. در فرآیند جستجو و جمع‌آوری اطلاعات برای پاسخ به کاربران، سیستم‌هایی مانند چت‌بات‌ها و دستیاران مجازی اگر توانایی تأیید خود را نداشته باشند، کاملاً قادر به استفاده، ایجاد یا انتشار اطلاعات نادرست هستند.»

بررسی واقعیت، فرآیندی است که طی آن درستی یا نادرستی یک اطلاعات تأیید می‌شود. به عنوان مثال، هدف از بررسی واقعیت جمله‌ی «ناسا حیات را در مریخ پیدا کرده است» بررسی این است که آیا این اطلاعات بر اساس حقایق منتشر شده است یا خیر؟ این کار از طریق منابع معتبری مانند روزنامه‌ها، داده‌های علمی یا پایگاه‌های دانش انجام می‌شود. برای تأیید خودکار اطلاعات، سیستم‌های هوش مصنوعی باید بتوانند جمله را درک کنند، اطلاعات مرتبط را پیدا کنند و بر اساس داده‌های عینی نتیجه‌گیری منطقی داشته باشند.

VeGraph (تأیید در گراف) یک روش تأیید اطلاعات است که توسط تیمی از مهندسان در مرکز خدمات داده و هوش مصنوعی Viettel AI (Viettel AI) در NAACL 2025 - یکی از سه کنفرانس معتبر بین‌المللی در زمینه پردازش زبان طبیعی - مورد تحقیق، توسعه و ارائه قرار گرفته است. نتایج آزمایش بر روی دو مجموعه داده تأیید محبوب، HoVer و FEVEROUS، نشان می‌دهد که VeGraph در مقایسه با روش‌های موجود، دقت را 2 تا 5 درصد بهبود می‌بخشد.

 

به گفته کارشناسان هوش مصنوعی Viettel، اکثر روش‌های فعلی تأیید اطلاعات هنوز در مدیریت اظهارات مبهم، استعاری یا چندلایه که اغلب برای "پنهان کردن" اطلاعات جعلی استفاده می‌شوند، مشکل دارند. در عین حال، آنها نمی‌توانند به وضوح توضیح دهند که چرا یک محتوا نادرست در نظر گرفته می‌شود و اعتماد به نتایج را برای کاربران دشوار می‌کند. بسیاری از روش‌ها نیز عمدتاً به مدل‌های زبانی بزرگ (LLM) متکی هستند بدون اینکه بتوانند با منابع دانش رسمی مطابقت داشته باشند و این امر منجر به خطر ایجاد نتیجه‌گیری‌های نادرست یا پدیده‌ای به نام "توهم" می‌شود.

برخلاف ابزارهایی که فقط استنتاج‌های داخلی را در مدل انجام می‌دهند، VeGraph به طور فعال درخواست تأیید اطلاعات را به بندهای کوچک تقسیم می‌کند و سپس آن را با منابع قابل اعتمادی مانند اسناد حقوقی، پایگاه‌های داده دولتی ، اسناد تخصصی و غیره مقایسه می‌کند. کل فرآیند تأیید به مراحل واضحی سیستماتیک شده است که نظارت و بررسی را برای کاربران آسان می‌کند و دقت و شفافیت را افزایش می‌دهد - عاملی که به طور فزاینده‌ای در برنامه‌های هوش مصنوعی مهم است. این ویژگی همچنین سازمان‌ها را قادر می‌سازد تا در صورت نیاز به سرعت سیستم را تنظیم و بهبود بخشند.

با هدف ایجاد یک محیط دیجیتال شفاف و امن، وِگراف (VeGraph) به دلیل کاربرد عملی خود بسیار مورد توجه قرار گرفته است. این فناوری علاوه بر قابلیت ادغام در سیستم‌های هوش مصنوعی برای افزایش دقت و قابلیت اطمینان، می‌تواند به یک سیستم تأیید اطلاعات در بسیاری از زمینه‌ها مانند مراقبت‌های بهداشتی، روزنامه‌نگاری، حقوق یا مدیریت دولتی تبدیل شود... به لطف آن، افراد می‌توانند اطلاعات مهمی را که نیاز به صحت بالایی دارند، مانند اخبار جاری، اطلاعات مربوط به داروها، واکسن‌ها، داروها یا مقررات قانونی، خود تأیید کنند...

در آینده، VeGraph گسترش خواهد یافت تا بتواند فرمت‌های داده متنوعی مانند تصاویر، ویدیوها، صدا و غیره را مدیریت کند، اشکال پیچیده زبان مانند استعاره‌ها، مفاهیم ضمنی را تشخیص دهد و نمودارهای دانش بیشتری را برای بهبود قابلیت‌های استدلال در خود جای دهد.

امسال، NAACL 2025 تعداد بی‌سابقه‌ای از مقالات را جذب کرد و به بیش از 3000 مقاله رسید، با نرخ پذیرش بسیار رقابتی برای مقالات اولیه (تقریباً 22٪)، که پیشگامانه‌ترین تحقیقات را گرد هم آورده است. NAACL 2025 به طور خاص بر پیشرفت‌های چشمگیر در توسعه مدل‌های زبانی بزرگ، پردازش زبان طبیعی بین فرهنگی و چندزبانه، قابلیت‌های استنتاج نوظهور و هوش مصنوعی مسئولانه تمرکز دارد.

 

به نقل از روزنامه نیوز اند پیپل

منبع: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067