عندما يعرف الذكاء الاصطناعي كيفية التحقق من الحقيقة: تقدم جديد من Viettel AI في NAACL 2025

يحسن VeGraph الدقة بنسبة 2 - 5% مقارنة بالطرق الحالية.

NAACL 2025 (المؤتمر السنوي لجمعية الأمم الأمريكية لعلم اللغويات الحاسوبية) هو المنتدى العلمي الرائد في العالم في مجال معالجة اللغة الطبيعية وعلم اللغويات الحاسوبية.

وبحسب المعلومات الواردة من فيتيل بعد ظهر يوم 16 مايو، فإن انتشار الإنترنت وشبكات التواصل الاجتماعي جعل المحتوى الذي ينشئه المستخدمون يحظى بشعبية متزايدة؛ وفي الوقت نفسه، يؤدي ذلك إلى انتشار موجة من الأخبار الكاذبة والأخبار غير الرسمية على نطاق واسع. إن هذه المعلومات الكاذبة لا تسبب ارتباكًا للأشخاص في مجالات حساسة مثل الصحة والكوارث الطبيعية والسياسة العامة وما إلى ذلك فحسب، بل تؤدي أيضًا إلى عواقب وخيمة مثل: الضرر الاقتصادي وفقدان سمعة المنظمة وتهديد الأمن القومي.

في الماضي، كان تأثير هذه المعلومات يقتصر على وقت ونطاق محددين، أما الآن، فقد أصبح أكثر خطورةً عندما أصبح جزءًا من بيانات الإدخال لأنظمة الذكاء الاصطناعي. ففي عملية البحث عن المعلومات وجمعها للرد على المستخدمين، أصبحت أنظمة مثل برامج الدردشة الآلية والمساعدين الافتراضيين قادرةً تمامًا على استخدام أو إنشاء أو نشر معلومات كاذبة إذا لم تكن لديها القدرة على التحقق الذاتي، وفقًا لممثل شركة فيتيل.

التحقق من الحقائق هو عملية التحقق من صحة أو زيف معلومة ما. على سبيل المثال، هل الهدف من التحقق من صحة العبارة "ناسا وجدت حياة على المريخ" هو التحقق مما إذا كانت هذه المعلومات مبنية على حقائق منشورة؟ من خلال مصادر موثوقة مثل الصحف أو البيانات العلمية أو قواعد المعرفة. للتحقق من المعلومات ذاتيًا، يجب أن تكون أنظمة الذكاء الاصطناعي قادرة على فهم الجمل، والعثور على المعلومات ذات الصلة، واستخلاص استنتاجات منطقية بناءً على بيانات موضوعية.

VeGraph (التحقق في الرسم البياني) هي طريقة للتحقق من المعلومات تم البحث عنها وتطويرها وتقديمها من قبل فريق من المهندسين في مركز خدمات البيانات والذكاء الاصطناعي في Viettel (Viettel AI) في NAACL 2025 - أحد المؤتمرات الدولية الثلاثة الأكثر شهرة في معالجة اللغة الطبيعية. تظهر النتائج التجريبية على مجموعتين شائعتين من بيانات التحقق، HoVer وFEVEROUS، أن VeGraph يحسن الدقة بنسبة 2 - 5% مقارنة بالطرق الحالية.

 

وبحسب خبراء الذكاء الاصطناعي في شركة فيتيل، فإن معظم طرق التحقق من المعلومات الحالية لا تزال تواجه صعوبة في التعامل مع البيانات الغامضة أو المجازية أو متعددة الطبقات، والتي تُستخدم غالبًا "لإخفاء" المعلومات المزيفة؛ وفي الوقت نفسه، ليس من الممكن تفسير سبب تصنيف محتوى ما على أنه كاذب بشكل واضح، مما يجعل من الصعب على المستخدمين الثقة بالنتائج. وتعتمد العديد من الأساليب أيضًا بشكل كبير على نماذج اللغة الكبيرة (LLMs) التي تفتقر إلى القدرة على التحقق المتبادل مع مصادر المعرفة الموثوقة، مما يؤدي إلى خطر توليد استنتاجات خاطئة، والمعروفة أيضًا باسم "الهلوسة".

على عكس الأدوات التي تقوم فقط باستنتاجات داخلية داخل النموذج، يقوم VeGraph بشكل استباقي بفصل طلب التحقق من المعلومات إلى مقترحات صغيرة ثم يقارنها بمراجع موثوقة مثل المستندات القانونية وقواعد البيانات الحكومية والمستندات المتخصصة وما إلى ذلك. يتم تنظيم عملية التحقق بأكملها في خطوات واضحة، مما يسهل على المستخدمين التتبع والتحقق، مما يزيد من الدقة والشفافية - العوامل التي تكتسب أهمية متزايدة في تطبيقات الذكاء الاصطناعي. وتتيح هذه الميزة أيضًا للمؤسسات إمكانية تعديل النظام وتحسينه بسرعة عند الحاجة إليه.

تهدف VeGraph إلى توفير بيئة رقمية شفافة وآمنة، وهي تحظى بتقدير كبير لتطبيقاتها العملية. بالإضافة إلى القدرة على الاندماج في أنظمة الذكاء الاصطناعي لزيادة الدقة والموثوقية، يمكن تطوير هذه التكنولوجيا إلى نظام للتحقق من المعلومات في العديد من المجالات مثل الطب والصحافة والقانون أو إدارة الدولة... وبفضل ذلك، يمكن للأشخاص التحقق ذاتيًا من المعلومات المهمة التي تتطلب درجة عالية من الأصالة مثل الأخبار الحالية، أو المعلومات حول الأدوية، أو اللقاحات، أو المستحضرات الصيدلانية، أو اللوائح القانونية...

في المستقبل، سيتم توسيع VeGraph للتعامل مع تنسيقات البيانات المتنوعة مثل الصور ومقاطع الفيديو والصوت وما إلى ذلك، والتعرف على أشكال اللغة المعقدة مثل الاستعارات والآثار المترتبة على ذلك، ودمج الرسوم البيانية المعرفية لتعزيز قدرات التفكير.

هذا العام، اجتذب مؤتمر NAACL 2025 عددًا قياسيًا من أوراق البحث، حيث وصل إلى أكثر من 3000، مع معدل قبول تنافسي للغاية للأوراق الرئيسية (حوالي 22٪)، مما يجمع بين الأبحاث الأكثر ثورية. يركز مؤتمر NAACL 2025 بشكل خاص على التقدم الرائد في تطوير نماذج اللغة الكبيرة، ومعالجة اللغة الطبيعية متعددة الثقافات واللغات، وقدرات الاستدلال الناشئة، والذكاء الاصطناعي المسؤول.

 

وفقًا لصحيفة الأخبار والشعب

المصدر: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067