När AI vet hur man verifierar sanningen: Nya framsteg från Viettel AI på NAACL 2025

Bildtext

VeGraph förbättrar noggrannheten med 2–5 % jämfört med befintliga metoder.

NAACL 2025 (Annual Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics) är världens ledande prestigefyllda vetenskapliga forum inom området naturlig språkbehandling och beräkningslingvistik.

Enligt information från Viettel på eftermiddagen den 16 maj har explosionen av internet och sociala nätverk gjort användargenererat innehåll alltmer populärt; samtidigt har det lett till en våg av falska nyheter och inofficiella nyheter som sprids i stor utsträckning. Denna falska information orsakar inte bara förvirring för människor inom känsliga områden som hälsa, naturkatastrofer, offentlig politik... utan leder också till allvarliga konsekvenser såsom: ekonomisk skada, minskat organisationsrykte och hot mot den nationella säkerheten.

”Tidigare påverkade denna information bara vid en viss tidpunkt och i en viss omfattning, nu blir den allt farligare när den blir en del av indata för artificiell intelligens (AI). I processen att söka och samla in information för att svara användare är system som chatbots och virtuella assistenter fullt kapabla att använda, skapa eller sprida falsk information om de inte har möjlighet att självverifiera sig”, sa en representant för Viettel.

Faktakontroll är processen att verifiera sanningen eller falskheten i en information. Till exempel är målet med att faktagranska påståendet "NASA har hittat liv på Mars" att kontrollera om informationen är baserad på publicerade fakta genom tillförlitliga källor som tidningar, vetenskapliga data eller kunskapsbaser. För att självverifiera information måste AI-system kunna förstå meningen, hitta relevant information och dra logiska slutsatser baserade på objektiv data.

VeGraph (Verify-in-the-Graph) är en informationsverifieringsmetod som forskats fram, utvecklats och presenterats av ett team av ingenjörer vid Viettel AI Data Services and Artificial Intelligence Center (Viettel AI) på NAACL 2025 - en av de tre mest prestigefyllda internationella konferenserna om naturlig språkbehandling. Experimentella resultat på två populära verifieringsdataset, HoVer och FEVEROUS, visar att VeGraph förbättrar noggrannheten med 2–5 % jämfört med befintliga metoder.

Enligt Viettels AI-experter har de flesta nuvarande informationsverifieringsmetoder fortfarande svårt att hantera tvetydiga, metaforiska eller flerskiktade påståenden, som ofta används för att "dölja" falsk information. Samtidigt kan de inte tydligt förklara varför ett innehåll anses vara falskt, vilket gör det svårt för användare att lita på resultaten. Många metoder förlitar sig också huvudsakligen på stora språkmodeller (LLM) utan möjlighet att dubbelkolla med officiella kunskapskällor, vilket leder till risken att dra falska slutsatser eller det så kallade "hallucinationsfenomenet".

Till skillnad från verktyg som bara gör interna slutsatser inom modellen, separerar VeGraph proaktivt informationsverifieringsbegäran i små klausuler och jämför den sedan med tillförlitliga referenser som juridiska dokument, myndighetsdatabaser , specialiserade dokument etc. Hela verifieringsprocessen är systematiserad i tydliga steg, vilket gör det enkelt för användare att övervaka och kontrollera, vilket ökar noggrannhet och transparens – en allt viktigare faktor i AI-applikationer. Denna funktion gör det också möjligt för organisationer att snabbt justera och förbättra systemet vid behov.

Med siktet inställt på en transparent och säker digital miljö är VeGraph mycket uppskattad för sin praktiska tillämpning. Förutom möjligheten att integreras i AI-system för att öka noggrannhet och tillförlitlighet, kan denna teknik utvecklas till ett informationsverifieringssystem inom många områden som hälso- och sjukvård, journalistik, juridik eller statlig förvaltning... Tack vare det kan människor självverifiera viktig information som kräver hög autenticitet, såsom aktuella nyheter, information om läkemedel, vacciner, läkemedel eller lagar...

I framtiden kommer VeGraph att utökas till att hantera olika dataformat som bilder, videor, ljud etc., känna igen komplexa språkformer som metaforer och implikationer, och införliva ytterligare kunskapsgrafer för att förbättra resonemangsförmågan.

I år lockade NAACL 2025 ett rekordantal artiklar, över 3 000, med en mycket konkurrenskraftig antagningsgrad för primära artiklar (cirka 22 %), vilket sammanförde den mest banbrytande forskningen. NAACL 2025 fokuserar specifikt på banbrytande framsteg inom utveckling av stora språkmodeller, tvärkulturell och flerspråkig naturlig språkbehandling, nya inferensfunktioner och ansvarsfull AI.

Enligt tidningen News and People

Källa: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067