Artificiell intelligens hjälper till att verifiera information

I den digitala världen behöver användare verktyg som stöder informationsautentisering.

I den digitala världen behöver användare verktyg som stöder informationsautentisering.

I den digitala tidsåldern har sociala nätverk och onlineplattformar blivit den viktigaste kanalen för informationstillgång för tiotals miljoner människor varje dag. Men tillsammans med bekvämligheten är falska nyheter och falska nyheter som sprids i en svindlande hastighet en oroande verklighet. I detta sammanhang blir behovet av att verifiera information genom jämförelse och verifiering av riktigheten i vad vi läser, hör och delar nödvändigt.

Inför denna situation har Viettel Data and Artificial Intelligence Service Center forskat kring och utvecklat ClaimPKG – en effektiv informationsverifieringsmetod med möjlighet att tillämpas i praktiken. Denna forskning har överträffat mer än 5 200 studier världen över och presenterats direkt på ACL 2025. Detta är en av världens ledande konferenser om naturlig språkbehandling (NLP), med en antagningsgrad för presentationer på endast 37 %. Evenemanget samlar ledande teknikexperter från stora namn som Google, Meta, Huawei, IBM, Amazon, Oracle...

ClaimPKG kombinerar en kunskapsgraf (Knowledge Graph) och en stor språkmodell (LLM), vilket ökar noggrannheten med 9 % till 12 % jämfört med nuvarande metoder när den testas på FactKG (en riktmärkesdatauppsättning som är mycket uppskattad av teknikgemenskapen inom informationsverifiering). Detta testresultat visar ClaimPKGs starka tillämpningspotential för att förbättra tillförlitligheten hos framtida AI-system för informationsverifiering.

Tidigare, vid NAACL 2025-konferensen, uppmärksammades även Viettel Data and Artificial Intelligence Service Center med VeGraph – en informationsverifieringsmetod baserad på textbaserade kunskapsplattformar som artiklar, juridiska dokument etc. VeGraph noterade en förbättring av noggrannheten på 2–5 % jämfört med andra metoder, men i många fall, särskilt om textdata saknar en tydlig struktur, kan verifieringsprocessen vara tidskrävande och svår att säkerställa konsekvens.

För att förbättra noggrannhet och konsekvens fortsätter Viettel Data and Artificial Intelligence Service Center att söka en annan riktning. ClaimPKG är utvecklad med en strukturerad kunskapsbaserad metod, med hjälp av en tydligt formaterad kunskapsgraf enligt modellen "subjekt-relation-objekt".

Informationen som ska verifieras delas upp och omvandlas till en "pseudo-subgraf", varefter systemet hämtar relaterad kunskap i kunskapsgrafen och låter sedan LLM dra slutsatser. Denna process bidrar till att öka verifieringens noggrannhet, konsekvens och tillförlitlighet, samtidigt som den minskar beräkningsbördan för LLM.

De tekniska fördelarna med ClaimPKG är också grunden för att utöka praktiska tillämpningar. Inom journalistik och kommunikation kan tekniken hjälpa reportrar och redaktörer att upptäcka falska nyheter och jämföra nyhetskällor snabbt och med utgångspunkt.

Inom medicin och juridik kan denna teknik fungera som en "verifieringsassistent" som hjälper till att söka upp och autentisera specialiserad kunskap. Dessutom har ClaimPKG potential att integreras i chatbotar eller virtuella assistenter, vilket hjälper systemet att ge mer tillförlitliga svar och undvika tvetydiga bedömningar.

ACL 2025-konferensen (årsmötet för Association for Computational Linguistics), som äger rum från 27 juli till 1 augusti i Wien, Österrike, är ett av världens mest prestigefyllda och inflytelserika evenemang inom NLP. Med tusentals internationella forskare, ingenjörer och experter samlade, är konferensen en plats att dela de senaste framstegen inom NLP, från maskininlärning av språk, maskinöversättning, textsammanfattning, automatisk frågesvar till etiska frågor och rättvisa inom språklig AI.

I år är konferensens huvudtema ”Generalisering av NLP-modeller”, med betoning på utvecklingen av modeller som kan anpassa sig till och förstå nya data, språk eller domäner.

HA LINH

Källa: https://nhandan.vn/cong-nghe-tri-tue-nhan-tao-giup-kiem-chung-thong-tin-post898494.html