Quand l'IA sait vérifier les informations : Nouvelle avancée de Viettel AI au NAACL 2025

L’explosion d’Internet et des réseaux sociaux a rendu le contenu généré par les utilisateurs de plus en plus populaire, et a en même temps conduit à une vague généralisée de fausses nouvelles et d’informations non officielles.

Ces fausses informations non seulement créent de la confusion parmi les personnes dans des domaines sensibles tels que la santé, les catastrophes naturelles, les politiques publiques, etc., mais entraînent également de graves conséquences telles que des pertes économiques , une perte de réputation organisationnelle et des menaces à la sécurité nationale.

VeGraph est une méthode de vérification des informations étudiée et développée par une équipe d'ingénieurs du Viettel Data Services and Artificial Intelligence Center (Viettel AI) (Photo : Viettel AI).

Si par le passé, ces informations n’avaient d’impact qu’à un moment et à une échelle déterminés, elles deviennent aujourd’hui de plus en plus dangereuses car elles font partie des données d’entrée des systèmes d’intelligence artificielle (IA). Dans le processus de recherche et de collecte d’informations pour répondre aux utilisateurs, des systèmes tels que les chatbots et les assistants virtuels sont tout à fait capables d’utiliser, de créer ou de diffuser de fausses informations s’ils n’ont pas la capacité de s’auto-vérifier.

La vérification des faits est le processus de vérification de la véracité ou de la fausseté d’une information. Par exemple, l’objectif de la vérification des faits concernant l’affirmation « La NASA a trouvé de la vie sur Mars » est de vérifier si l’information est basée sur des faits publiés, via des sources fiables telles que des journaux, des données scientifiques ou des bases de connaissances.

Pour auto-vérifier les informations, les systèmes d’IA doivent être capables de comprendre des phrases, de trouver des informations pertinentes et de tirer des conclusions logiques basées sur des données objectives.

VeGraph (Verify-in-the-Graph) est une méthode de vérification d'informations recherchée, développée et présentée par une équipe d'ingénieurs du Viettel Data Services and Artificial Intelligence Center (Viettel AI) à NAACL 2025 - l'une des trois principales conférences internationales sur le traitement du langage naturel.

Les résultats expérimentaux sur deux ensembles de données de validation populaires, HoVer et FEVEROUS, montrent que VeGraph améliore la précision de 2 à 5 % par rapport aux méthodes existantes.

La plupart des méthodes actuelles de vérification des faits ont encore du mal à gérer les déclarations ambiguës, métaphoriques ou à plusieurs niveaux, qui sont souvent utilisées pour « camoufler » de fausses informations, et ne peuvent pas expliquer clairement pourquoi un élément de contenu est considéré comme faux, ce qui rend difficile pour les utilisateurs de faire confiance aux résultats.

De nombreuses méthodes s’appuient également fortement sur de grands modèles de langage (LLM) qui n’ont pas la capacité de vérifier avec des sources de connaissances faisant autorité, ce qui entraîne le risque de générer de fausses conclusions, également appelées « hallucinations ».

Contrairement aux outils qui ne font que des inférences internes au sein du modèle, VeGraph sépare de manière proactive la demande de vérification des informations en petites propositions, puis la compare à des références fiables telles que des documents juridiques, des bases de données gouvernementales, des documents spécialisés, etc. L'ensemble du processus de vérification est systématisé en étapes claires, ce qui facilite le suivi et la vérification par les utilisateurs, augmentant ainsi la précision - un facteur de plus en plus important dans les applications d'IA. Cette fonctionnalité permet également aux organisations d’ajuster et d’améliorer rapidement le système lorsque cela est nécessaire.

Visant un environnement numérique transparent et sécurisé, VeGraph est très apprécié pour son application pratique. Outre la possibilité de s'intégrer dans des systèmes d'IA pour augmenter la précision, cette technologie peut être développée en un système de vérification d'informations dans de nombreux domaines tels que la médecine, le journalisme, le droit ou la gestion de l'État... Grâce à cela, les gens peuvent auto-vérifier des informations importantes qui nécessitent une grande authenticité comme l'actualité, les informations sur les médicaments, les vaccins, les produits pharmaceutiques ou les réglementations légales...

Les systèmes tels que les chatbots et les assistants virtuels sont parfaitement capables d’utiliser, de créer ou de diffuser de fausses informations s’ils ne sont pas capables de s’auto-vérifier (Photo : Viettel AI).

À l’avenir, VeGraph sera étendu pour gérer divers formats de données tels que des images, des vidéos, de l’audio, etc., reconnaître des formes de langage complexes telles que des métaphores, des implications et intégrer des graphiques de connaissances pour améliorer les capacités de raisonnement.

NAACL 2025 (Conférence annuelle du chapitre des Nations des Amériques de l'Association pour la linguistique computationnelle) est le principal forum scientifique mondial dans les domaines du traitement du langage naturel et de la linguistique computationnelle.

Cette année, la conférence a attiré plus de 3 000 articles, avec un taux d’acceptation très compétitif pour les articles grand public (environ 22 %), rassemblant les recherches les plus innovantes. NAACL 2025 se concentre sur les avancées révolutionnaires dans le développement de grands modèles linguistiques, le traitement du langage naturel multilingue et interculturel, les capacités d'inférence émergentes et l'IA responsable.

Viettel AI est une unité du Military Industry - Telecommunications Group (Viettel) - un pionnier dans la maîtrise et le développement de produits et services dans les domaines de l'IA, du Big Data, de la robotique et du Digital Twin.

Actuellement, l'écosystème Viettel AI comprend de nombreuses gammes de produits de qualité supérieure au Vietnam, fiables et utilisées par de nombreuses grandes organisations et entreprises nationales et internationales.

Source : https://dantri.com.vn/cong-nghe/khi-ai-biet-kiem-chung-thong-tin-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025-20250519084620026.htm