L’explosion d’Internet et des réseaux sociaux a rendu le contenu généré par les utilisateurs de plus en plus populaire, et a en même temps conduit à une vague généralisée de fausses nouvelles et d’informations non officielles.
Ces fausses informations non seulement créent de la confusion parmi les personnes dans des domaines sensibles tels que la santé, les catastrophes naturelles, les politiques publiques, etc., mais entraînent également de graves conséquences telles que des pertes économiques , une perte de réputation organisationnelle et des menaces à la sécurité nationale.
VeGraph est une méthode de vérification des informations étudiée et développée par une équipe d'ingénieurs du Viettel Data Services and Artificial Intelligence Center (Viettel AI) (Photo : Viettel AI).
Si, par le passé, ces informations n'avaient qu'un impact ponctuel et limité, elles deviennent aujourd'hui de plus en plus dangereuses lorsqu'elles entrent dans la composition des données d'entrée des systèmes d'intelligence artificielle (IA). Lors de la recherche et de la collecte d'informations pour répondre aux utilisateurs, des systèmes tels que les chatbots et les assistants virtuels sont tout à fait capables d'utiliser, de créer ou de diffuser de fausses informations s'ils ne disposent pas de la capacité d'auto-vérification.
La vérification des faits consiste à vérifier la véracité d'une information. Par exemple, l'objectif de la vérification des faits concernant l'affirmation « La NASA a découvert de la vie sur Mars » est de vérifier si l'information est fondée sur des faits publiés, provenant de sources fiables telles que des journaux, des données scientifiques ou des bases de connaissances.
Pour auto-vérifier les informations, les systèmes d’IA doivent être capables de comprendre des phrases, de trouver des informations pertinentes et de tirer des conclusions logiques basées sur des données objectives.
VeGraph (Verify-in-the-Graph) est une méthode de vérification d'informations recherchée, développée et présentée par une équipe d'ingénieurs du Viettel Data Services and Artificial Intelligence Center (Viettel AI) à NAACL 2025 - l'une des trois principales conférences internationales sur le traitement du langage naturel.
Les résultats expérimentaux sur deux ensembles de données de validation populaires, HoVer et FEVEROUS, montrent que VeGraph améliore la précision de 2 à 5 % par rapport aux méthodes existantes.
La plupart des méthodes actuelles de vérification des faits ont encore du mal à gérer les déclarations ambiguës, métaphoriques ou à plusieurs niveaux, qui sont souvent utilisées pour « camoufler » de fausses informations, et ne peuvent pas expliquer clairement pourquoi un élément de contenu est considéré comme faux, ce qui rend difficile pour les utilisateurs de faire confiance aux résultats.
De nombreuses méthodes s’appuient également fortement sur de grands modèles de langage (LLM) qui n’ont pas la capacité de vérifier avec des sources de connaissances faisant autorité, ce qui entraîne le risque de générer de fausses conclusions, également appelées « hallucinations ».
Contrairement aux outils qui se contentent d'effectuer des inférences internes au modèle, VeGraph décompose proactivement la demande de vérification des informations en propositions concises, puis les compare à des références fiables telles que des documents juridiques, des bases de données gouvernementales, des documents spécialisés, etc. L'ensemble du processus de vérification est systématisé en étapes claires, facilitant ainsi le suivi et la vérification par les utilisateurs, augmentant ainsi la précision, un facteur de plus en plus important dans les applications d'IA. Cette fonctionnalité permet également aux organisations d'ajuster et d'améliorer rapidement le système en cas de besoin.
Visant un environnement numérique transparent et sécurisé, VeGraph est très apprécié pour ses applications pratiques. Outre sa capacité à s'intégrer aux systèmes d'IA pour une plus grande précision, cette technologie peut être développée pour devenir un système de vérification d'informations dans de nombreux domaines tels que la santé, le journalisme, le droit ou la gestion publique. Grâce à cela, les utilisateurs peuvent auto-vérifier des informations importantes exigeant une grande authenticité, comme l'actualité, les informations sur les médicaments, les vaccins, les produits pharmaceutiques ou les réglementations légales.
Les systèmes tels que les chatbots et les assistants virtuels sont parfaitement capables d’utiliser, de créer ou de diffuser de fausses informations s’ils ne sont pas capables de s’auto-vérifier (Photo : Viettel AI).
À l’avenir, VeGraph sera étendu pour gérer divers formats de données tels que des images, des vidéos, de l’audio, etc., reconnaître des formes de langage complexes telles que des métaphores, des implications et intégrer des graphiques de connaissances pour améliorer les capacités de raisonnement.
NAACL 2025 (Conférence annuelle du chapitre des Nations des Amériques de l'Association pour la linguistique computationnelle) est le principal forum scientifique mondial dans les domaines du traitement du langage naturel et de la linguistique computationnelle.
Cette année, la conférence a attiré plus de 3 000 articles, avec un taux d'acceptation très compétitif pour les articles grand public (environ 22 %), réunissant les recherches les plus innovantes. NAACL 2025 se concentre sur les avancées majeures dans le développement de grands modèles linguistiques, le traitement du langage naturel interculturel et multilingue, les nouvelles capacités d'inférence et l'IA responsable.
Viettel AI est une unité du Military Industry - Telecommunications Group (Viettel) - un pionnier dans la maîtrise et le développement de produits et services dans les domaines de l'IA, du Big Data, de la robotique et du Digital Twin.
Actuellement, l'écosystème Viettel AI comprend de nombreuses gammes de produits de qualité supérieure au Vietnam, fiables et utilisées par de nombreuses grandes organisations et entreprises nationales et internationales.
Source : https://dantri.com.vn/cong-nghe/khi-ai-biet-kiem-chung-thong-tin-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025-20250519084620026.htm
Comment (0)