Când inteligența artificială știe cum să verifice adevărul: Noi progrese de la Viettel AI la NAACL 2025

Legendă foto

VeGraph îmbunătățește precizia cu 2 - 5% față de metodele existente.

NAACL 2025 (Conferința Anuală a Națiunilor Americilor, capitolul Asociației pentru Lingvistică Computațională) este cel mai important forum științific prestigios din lume în domeniul procesării limbajului natural și al lingvisticii computaționale.

Conform informațiilor furnizate de Viettel în după-amiaza zilei de 16 mai, explozia internetului și a rețelelor sociale a făcut ca conținutul generat de utilizatori să devină din ce în ce mai popular; în același timp, a dus la un val de știri false și neoficiale care se răspândesc pe scară largă. Aceste informații false nu numai că provoacă confuzie oamenilor în domenii sensibile precum sănătatea, dezastrele naturale, politicile publice... dar duc și la consecințe grave, cum ar fi: pagube economice, scăderea reputației organizației și amenințarea securității naționale.

„În trecut, aceste informații aveau impact doar într-un anumit moment și cu o anumită amploare, acum devin din ce în ce mai periculoase atunci când devin parte a datelor de intrare pentru sistemele de inteligență artificială (IA). În procesul de căutare și colectare a informațiilor pentru a răspunde utilizatorilor, sisteme precum chatboții și asistenții virtuali sunt complet capabile să utilizeze, să creeze sau să răspândească informații false dacă nu au capacitatea de autoverificare”, a declarat un reprezentant Viettel.

Verificarea faptelor este procesul de verificare a adevărului sau falsității unei informații. De exemplu, scopul verificării faptelor afirmației „NASA a găsit viață pe Marte” este de a verifica dacă informațiile se bazează pe fapte publicate, prin intermediul unor surse fiabile, cum ar fi ziarele, datele științifice sau bazele de cunoștințe. Pentru a autoverifica informațiile, sistemele de inteligență artificială trebuie să fie capabile să înțeleagă propoziția, să găsească informații relevante și să tragă concluzii logice bazate pe date obiective.

VeGraph (Verify-in-the-Graph) este o metodă de verificare a informațiilor cercetată, dezvoltată și prezentată de o echipă de ingineri de la Viettel AI Data Services and Artificial Intelligence Center (Viettel AI) la NAACL 2025 - una dintre cele mai prestigioase trei conferințe internaționale privind procesarea limbajului natural. Rezultatele experimentale pe două seturi de date de verificare populare, HoVer și FEVEROUS, arată că VeGraph îmbunătățește precizia cu 2 - 5% în comparație cu metodele existente.

Potrivit experților în inteligență artificială Viettel, majoritatea metodelor actuale de verificare a informațiilor întâmpină încă dificultăți în gestionarea afirmațiilor ambigue, metaforice sau cu mai multe straturi, care sunt adesea folosite pentru a „deghiza” informațiile false; în același timp, nu pot explica clar de ce un conținut este considerat fals, ceea ce face dificilă încrederea utilizatorilor în rezultate. Multe metode se bazează, de asemenea, în principal pe modele lingvistice mari (LLM), fără a putea verifica încrucișat cu surse oficiale de cunoștințe, ceea ce duce la riscul de a ajunge la concluzii false sau la așa-numitul fenomen de „halucinație”.

Spre deosebire de instrumentele care fac doar inferențe interne în cadrul modelului, VeGraph separă proactiv cererea de verificare a informațiilor în clauze mici și apoi o compară cu referințe fiabile, cum ar fi documente juridice, baze de date guvernamentale , documente specializate etc. Întregul proces de verificare este sistematizat în etape clare, facilitând monitorizarea și verificarea de către utilizatori, crescând acuratețea și transparența - un factor din ce în ce mai important în aplicațiile de inteligență artificială. Această caracteristică permite, de asemenea, organizațiilor să ajusteze și să îmbunătățească rapid sistemul atunci când este necesar.

Urmărind un mediu digital transparent și sigur, VeGraph este foarte apreciat pentru aplicarea sa practică. Pe lângă capacitatea de a se integra în sistemele de inteligență artificială pentru a crește acuratețea și fiabilitatea, această tehnologie poate fi dezvoltată într-un sistem de verificare a informațiilor în multe domenii, cum ar fi asistența medicală, jurnalismul, dreptul sau managementul statului... Datorită acestui fapt, oamenii pot autoverifica informații importante care necesită o autenticitate ridicată, cum ar fi știri actuale, informații despre medicamente, vaccinuri, produse farmaceutice sau reglementări legale...

În viitor, VeGraph va fi extins pentru a gestiona diverse formate de date, cum ar fi imagini, videoclipuri, audio etc., pentru a recunoaște forme complexe de limbaj, cum ar fi metafore, implicații și pentru a încorpora grafice de cunoștințe suplimentare pentru a îmbunătăți capacitățile de raționament.

Anul acesta, NAACL 2025 a atras un număr record de lucrări, ajungând la peste 3.000, cu o rată de acceptare foarte competitivă pentru lucrările primare (aproximativ 22%), reunind cele mai inovatoare cercetări. NAACL 2025 se concentrează în special pe progresele inovatoare în dezvoltarea de modele lingvistice mari, procesarea limbajului natural intercultural și multilingv, capacitățile de inferență emergente și inteligența artificială responsabilă.

Conform ziarului News and People

Sursă: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067