لقد أدى انفجار الإنترنت وشبكات التواصل الاجتماعي إلى زيادة شعبية المحتوى الذي ينشئه المستخدمون بشكل متزايد، وفي الوقت نفسه أدى إلى موجة واسعة النطاق من الأخبار المزيفة والأخبار غير الرسمية.
إن هذه المعلومات الكاذبة لا تسبب ارتباكًا بين الناس في مجالات حساسة مثل الصحة والكوارث الطبيعية والسياسة العامة وما إلى ذلك فحسب، بل تؤدي أيضًا إلى عواقب وخيمة مثل الخسائر الاقتصادية وفقدان سمعة المنظمة وتهديد الأمن القومي.
VeGraph هي طريقة للتحقق من المعلومات تم البحث عنها وتطويرها من قبل فريق من المهندسين في مركز خدمات البيانات والذكاء الاصطناعي في Viettel (Viettel AI) (الصورة: Viettel AI).
إذا كانت هذه المعلومات في الماضي تقتصر على فترة زمنية ونطاق محددين، فإنها تزداد خطورةً اليوم عندما تُدمج في بيانات إدخال أنظمة الذكاء الاصطناعي. ففي عملية البحث عن المعلومات وجمعها للرد على المستخدمين، تُصبح أنظمة مثل روبوتات الدردشة والمساعدين الافتراضيين قادرةً تمامًا على استخدام أو إنشاء أو نشر معلومات كاذبة إذا لم تكن لديها القدرة على التحقق الذاتي.
التحقق من صحة المعلومات هو عملية التأكد من صحتها أو خطأها. على سبيل المثال، يهدف التحقق من صحة عبارة "ناسا وجدت حياة على المريخ" إلى التأكد من استنادها إلى حقائق منشورة، من مصادر موثوقة كالصحف والبيانات العلمية وقواعد المعرفة.
للتحقق من المعلومات ذاتيًا، يجب أن تكون أنظمة الذكاء الاصطناعي قادرة على فهم الجمل، والعثور على المعلومات ذات الصلة، واستخلاص استنتاجات منطقية بناءً على بيانات موضوعية.
VeGraph (التحقق في الرسم البياني) هي طريقة للتحقق من المعلومات تم البحث عنها وتطويرها وتقديمها من قبل فريق من المهندسين في مركز خدمات البيانات والذكاء الاصطناعي في Viettel (Viettel AI) في NAACL 2025 - أحد المؤتمرات الدولية الثلاثة الرائدة في معالجة اللغة الطبيعية.
تظهر النتائج التجريبية على مجموعتين شائعتين من بيانات التحقق، HoVer وFEVEROUS، أن VeGraph يحسن الدقة بنسبة 2-5% مقارنة بالطرق الحالية.
لا تزال معظم طرق التحقق من الحقائق الحالية تواجه صعوبة في التعامل مع البيانات الغامضة أو المجازية أو متعددة الطبقات، والتي تُستخدم غالبًا "لإخفاء" المعلومات الكاذبة، ولا يمكنها تفسير سبب اعتبار جزء من المحتوى كاذبًا بشكل واضح، مما يجعل من الصعب على المستخدمين الثقة بالنتائج.
وتعتمد العديد من الأساليب أيضًا بشكل كبير على نماذج اللغة الكبيرة (LLMs) التي تفتقر إلى القدرة على التحقق المتبادل مع مصادر المعرفة الموثوقة، مما يؤدي إلى خطر توليد استنتاجات خاطئة، والمعروفة أيضًا باسم "الهلوسة".
بخلاف الأدوات التي تقتصر على الاستنتاجات الداخلية ضمن النموذج، يُقسّم VeGraph طلب التحقق من المعلومات استباقيًا إلى مقترحات صغيرة، ثم يُقارنها بمراجع موثوقة، مثل الوثائق القانونية وقواعد البيانات الحكومية والوثائق المتخصصة، وغيرها. تُنظّم عملية التحقق بأكملها إلى خطوات واضحة، مما يُسهّل على المستخدمين التتبع والتحقق، ويزيد من الدقة - وهو عامل متزايد الأهمية في تطبيقات الذكاء الاصطناعي. كما تُمكّن هذه الميزة المؤسسات من تعديل النظام وتحسينه بسرعة عند الحاجة.
يهدف VeGraph إلى توفير بيئة رقمية شفافة وآمنة، ويحظى بتقدير كبير لتطبيقاته العملية. فبالإضافة إلى إمكانية دمجه في أنظمة الذكاء الاصطناعي لزيادة الدقة، يمكن تطوير هذه التقنية لتصبح نظامًا للتحقق من المعلومات في مجالات عديدة، مثل الرعاية الصحية والصحافة والقانون وإدارة الدولة. وبفضل ذلك، يمكن للأشخاص التحقق ذاتيًا من المعلومات المهمة التي تتطلب دقة عالية، مثل الأخبار الحالية، ومعلومات الأدوية واللقاحات والمستحضرات الصيدلانية، واللوائح القانونية.
تتمتع الأنظمة مثل برامج المحادثة الآلية والمساعدين الافتراضيين بالقدرة الكاملة على استخدام أو إنشاء أو نشر معلومات كاذبة إذا لم تكن قادرة على التحقق الذاتي (الصورة: Viettel AI).
في المستقبل، سيتم توسيع VeGraph للتعامل مع تنسيقات البيانات المتنوعة مثل الصور ومقاطع الفيديو والصوت وما إلى ذلك، والتعرف على أشكال اللغة المعقدة مثل الاستعارات والآثار المترتبة على ذلك، ودمج الرسوم البيانية المعرفية لتحسين قدرات التفكير.
NAACL 2025 (المؤتمر السنوي لجمعية الأمم الأمريكية لعلم اللغويات الحاسوبية) هو المنتدى العلمي الرائد في العالم في مجالات معالجة اللغة الطبيعية وعلم اللغويات الحاسوبية.
استقطب المؤتمر هذا العام أكثر من 3000 ورقة بحثية، بمعدل قبول تنافسي للغاية للأوراق البحثية الرئيسية (حوالي 22%)، جامعًا بذلك أبرز الأبحاث الرائدة. يركز مؤتمر NAACL 2025 على التطورات الرائدة في تطوير نماذج اللغات الكبيرة، ومعالجة اللغات الطبيعية متعددة الثقافات واللغات، وقدرات الاستدلال الناشئة، والذكاء الاصطناعي المسؤول.
Viettel AI هي وحدة تابعة لمجموعة الصناعة العسكرية - الاتصالات (Viettel) - رائدة في إتقان وتطوير المنتجات والخدمات في مجالات الذكاء الاصطناعي والبيانات الضخمة والروبوتات والتوأم الرقمي.
يشتمل نظام Viettel AI حاليًا على العديد من خطوط المنتجات ذات الجودة الرائدة في فيتنام، والتي تحظى بثقة واستخدام العديد من المنظمات والشركات المحلية والدولية الكبيرة.
المصدر: https://dantri.com.vn/cong-nghe/khi-ai-biet-kiem-chung-thong-tin-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025-20250519084620026.htm
تعليق (0)