عندما يعرف الذكاء الاصطناعي كيفية التحقق من المعلومات: تقدم جديد من Viettel AI في NAACL 2025

لقد أدى انفجار الإنترنت وشبكات التواصل الاجتماعي إلى زيادة شعبية المحتوى الذي ينشئه المستخدمون بشكل متزايد، وفي الوقت نفسه أدى إلى موجة واسعة النطاق من الأخبار المزيفة والأخبار غير الرسمية.

إن هذه المعلومات الكاذبة لا تسبب ارتباكًا بين الناس في مجالات حساسة مثل الصحة والكوارث الطبيعية والسياسة العامة وما إلى ذلك فحسب، بل تؤدي أيضًا إلى عواقب وخيمة مثل الخسائر الاقتصادية وفقدان سمعة المنظمة وتهديد الأمن القومي.

VeGraph هي طريقة للتحقق من المعلومات تم البحث عنها وتطويرها من قبل فريق من المهندسين في مركز خدمات البيانات والذكاء الاصطناعي في Viettel (Viettel AI) (الصورة: Viettel AI).

إذا كانت هذه المعلومات في الماضي لا تؤثر إلا في وقت ونطاق معينين، فإنها أصبحت الآن خطيرة بشكل متزايد حيث أصبحت جزءًا من بيانات الإدخال لأنظمة الذكاء الاصطناعي. في عملية البحث عن المعلومات وجمعها للرد على المستخدمين، تكون الأنظمة مثل برامج الدردشة الآلية والمساعدين الافتراضيين قادرة تمامًا على استخدام أو إنشاء أو نشر معلومات كاذبة إذا لم تكن لديها القدرة على التحقق الذاتي.

التحقق من الحقائق هو عملية التحقق من صحة أو زيف معلومة ما. على سبيل المثال، الهدف من التحقق من صحة بيان "ناسا وجدت حياة على المريخ" هو التحقق مما إذا كانت المعلومات تستند إلى حقائق منشورة، من خلال مصادر موثوقة مثل الصحف أو البيانات العلمية أو قواعد المعرفة.

للتحقق من المعلومات ذاتيًا، يجب أن تكون أنظمة الذكاء الاصطناعي قادرة على فهم الجمل، والعثور على المعلومات ذات الصلة، واستخلاص استنتاجات منطقية بناءً على بيانات موضوعية.

VeGraph (التحقق في الرسم البياني) هي طريقة للتحقق من المعلومات تم البحث عنها وتطويرها وتقديمها من قبل فريق من المهندسين في مركز خدمات البيانات والذكاء الاصطناعي في Viettel (Viettel AI) في NAACL 2025 - أحد المؤتمرات الدولية الثلاثة الرائدة في معالجة اللغة الطبيعية.

تظهر النتائج التجريبية على مجموعتين شائعتين من بيانات التحقق، HoVer وFEVEROUS، أن VeGraph يحسن الدقة بنسبة 2-5% مقارنة بالطرق الحالية.

لا تزال معظم طرق التحقق من الحقائق الحالية تواجه صعوبة في التعامل مع البيانات الغامضة أو المجازية أو متعددة الطبقات، والتي تُستخدم غالبًا "لإخفاء" المعلومات الكاذبة، ولا يمكنها تفسير سبب اعتبار جزء من المحتوى كاذبًا بشكل واضح، مما يجعل من الصعب على المستخدمين الثقة بالنتائج.

وتعتمد العديد من الأساليب أيضًا بشكل كبير على نماذج اللغة الكبيرة (LLMs) التي تفتقر إلى القدرة على التحقق المتبادل مع مصادر المعرفة الموثوقة، مما يؤدي إلى خطر توليد استنتاجات خاطئة، والمعروفة أيضًا باسم "الهلوسة".

على عكس الأدوات التي تقوم فقط باستنتاجات داخلية ضمن النموذج، يقوم VeGraph بفصل طلب التحقق من المعلومات بشكل استباقي إلى مقترحات صغيرة ثم يقارنها بمراجع موثوقة مثل الوثائق القانونية وقواعد البيانات الحكومية والوثائق المتخصصة وما إلى ذلك. يتم تنظيم عملية التحقق بأكملها إلى خطوات واضحة، مما يسهل على المستخدمين التتبع والتحقق، مما يزيد من الدقة - وهو عامل متزايد الأهمية في تطبيقات الذكاء الاصطناعي. وتتيح هذه الميزة أيضًا للمؤسسات إمكانية تعديل النظام وتحسينه بسرعة عند الحاجة إليه.

تهدف VeGraph إلى توفير بيئة رقمية شفافة وآمنة، وهي تحظى بتقدير كبير لتطبيقاتها العملية. بالإضافة إلى القدرة على الاندماج في أنظمة الذكاء الاصطناعي لزيادة الدقة، يمكن تطوير هذه التكنولوجيا إلى نظام للتحقق من المعلومات في العديد من المجالات مثل الطب والصحافة والقانون أو إدارة الدولة... وبفضل ذلك، يمكن للأشخاص التحقق ذاتيًا من المعلومات المهمة التي تتطلب درجة عالية من الأصالة مثل الأخبار الحالية، أو المعلومات حول الأدوية، أو اللقاحات، أو المستحضرات الصيدلانية، أو اللوائح القانونية...

تتمتع الأنظمة مثل برامج المحادثة الآلية والمساعدين الافتراضيين بالقدرة الكاملة على استخدام أو إنشاء أو نشر معلومات كاذبة إذا لم تكن قادرة على التحقق الذاتي (الصورة: Viettel AI).

في المستقبل، سيتم توسيع VeGraph للتعامل مع تنسيقات البيانات المتنوعة مثل الصور ومقاطع الفيديو والصوت وما إلى ذلك، والتعرف على أشكال اللغة المعقدة مثل الاستعارات والآثار المترتبة على ذلك، ودمج الرسوم البيانية المعرفية لتحسين قدرات التفكير.

NAACL 2025 (المؤتمر السنوي لجمعية الأمم الأمريكية لعلم اللغة الحاسوبي) هو المنتدى العلمي الرائد في العالم في مجالات معالجة اللغة الطبيعية وعلم اللغة الحاسوبي.

وقد استقطب المؤتمر هذا العام أكثر من 3000 ورقة بحثية، مع معدل قبول تنافسي للغاية للأوراق البحثية السائدة (حوالي 22٪)، مما جمع بين الأبحاث الأكثر ابتكارًا. يركز مؤتمر NAACL 2025 على التطورات الرائدة في تطوير نماذج اللغة الكبيرة، ومعالجة اللغة الطبيعية متعددة اللغات والثقافات، وقدرات الاستدلال الناشئة، والذكاء الاصطناعي المسؤول.

Viettel AI هي وحدة تابعة لمجموعة الصناعة العسكرية - الاتصالات (Viettel) - رائدة في إتقان وتطوير المنتجات والخدمات في مجالات الذكاء الاصطناعي والبيانات الضخمة والروبوتات والتوأم الرقمي.

يشتمل نظام Viettel AI حاليًا على العديد من خطوط المنتجات ذات الجودة الرائدة في فيتنام، والتي تحظى بثقة واستخدام العديد من المنظمات والشركات المحلية والدولية الكبيرة.

المصدر: https://dantri.com.vn/cong-nghe/khi-ai-biet-kiem-chung-thong-tin-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025-20250519084620026.htm