Cuando la IA sabe verificar la información: Nuevos avances de Viettel AI en NAACL 2025

La explosión de Internet y las redes sociales ha hecho que el contenido generado por los usuarios sea cada vez más popular y, al mismo tiempo, ha provocado una ola generalizada de noticias falsas y noticias no oficiales.

Esta información falsa no sólo causa confusión entre las personas en áreas sensibles como la salud, los desastres naturales, las políticas públicas, etc., sino que también conlleva graves consecuencias como pérdidas económicas , pérdida de reputación organizacional y amenazas a la seguridad nacional.

VeGraph es un método de verificación de información investigado y desarrollado por un equipo de ingenieros de Viettel Data Services and Artificial Intelligence Center (Viettel AI) (Foto: Viettel AI).

Si en el pasado esta información solo tenía impacto en un tiempo y alcance determinados, ahora resulta cada vez más peligrosa al pasar a formar parte de los datos de entrada de los sistemas de inteligencia artificial (IA). En el proceso de búsqueda y recopilación de información para responder a los usuarios, sistemas como los chatbots y asistentes virtuales son completamente capaces de utilizar, crear o difundir información falsa si no tienen la capacidad de autoverificarse.

La verificación de hechos es el proceso de verificar la veracidad o falsedad de una pieza de información. Por ejemplo, el objetivo de verificar la afirmación “La NASA ha encontrado vida en Marte” es verificar si la información se basa en hechos publicados, a través de fuentes confiables como periódicos, datos científicos o bases de conocimiento.

Para autoverificar la información, los sistemas de IA deben poder comprender oraciones, encontrar información relevante y sacar conclusiones lógicas basadas en datos objetivos.

VeGraph (Verify-in-the-Graph) es un método de verificación de información investigado, desarrollado y presentado por un equipo de ingenieros de Viettel Data Services and Artificial Intelligence Center (Viettel AI) en NAACL 2025, una de las tres conferencias internacionales líderes sobre procesamiento del lenguaje natural.

Los resultados experimentales en dos conjuntos de datos de validación populares, HoVer y FEVEROUS, muestran que VeGraph mejora la precisión entre un 2 y un 5 % en comparación con los métodos existentes.

La mayoría de los métodos actuales de verificación de datos aún tienen dificultades para manejar declaraciones ambiguas, metafóricas o de múltiples capas, que a menudo se utilizan para "camuflar" información falsa, y no pueden explicar claramente por qué un contenido se considera falso, lo que dificulta que los usuarios confíen en los resultados.

Muchos métodos también dependen en gran medida de grandes modelos de lenguaje (LLM, por sus siglas en inglés) que carecen de la capacidad de contrastarse con fuentes de conocimiento autorizadas, lo que genera el riesgo de generar conclusiones falsas, también conocidas como "alucinaciones".

A diferencia de las herramientas que solo hacen inferencias internas dentro del modelo, VeGraph separa proactivamente la solicitud de verificación de información en pequeñas proposiciones y luego la compara con referencias confiables como documentos legales, bases de datos gubernamentales, documentos especializados, etc. Todo el proceso de verificación está sistematizado en pasos claros, lo que facilita a los usuarios el seguimiento y la verificación, aumentando la precisión, un factor cada vez más importante en las aplicaciones de IA. Esta característica también permite a las organizaciones ajustar y mejorar rápidamente el sistema cuando sea necesario.

Con el objetivo de lograr un entorno digital transparente y seguro, VeGraph es muy valorado por su aplicación práctica. Además de la capacidad de integrarse en sistemas de IA para aumentar la precisión, esta tecnología puede desarrollarse en un sistema de verificación de información en muchos campos como la medicina, el periodismo, el derecho o la gestión estatal... Gracias a eso, las personas pueden autoverificar información importante que requiere alta autenticidad como noticias de actualidad, información sobre medicamentos, vacunas, productos farmacéuticos o regulaciones legales...

Sistemas como chatbots y asistentes virtuales son totalmente capaces de utilizar, crear o difundir información falsa si no son capaces de autoverificarse (Foto: Viettel AI).

En el futuro, VeGraph se ampliará para manejar diversos formatos de datos como imágenes, videos, audio, etc., reconocer formas complejas del lenguaje como metáforas e implicaciones e incorporar gráficos de conocimiento para mejorar las capacidades de razonamiento.

NAACL 2025 (Conferencia Anual de las Naciones de las Américas, Capítulo de la Asociación para la Lingüística Computacional) es el foro científico líder a nivel mundial en los campos del procesamiento del lenguaje natural y la lingüística computacional.

Este año, la conferencia atrajo más de 3.000 artículos, con una tasa de aceptación muy competitiva para los artículos principales (alrededor del 22%), reuniendo las investigaciones más innovadoras. NAACL 2025 se centra en avances revolucionarios en el desarrollo de modelos de lenguaje a gran escala, procesamiento del lenguaje natural multilingüe e intercultural, capacidades de inferencia emergentes e IA responsable.

Viettel AI es una unidad del Grupo de Industria Militar - Telecomunicaciones (Viettel), pionera en el dominio y desarrollo de productos y servicios en los campos de IA, Big Data, Robótica y Gemelo Digital.

Actualmente, el ecosistema de inteligencia artificial de Viettel incluye muchas líneas de productos con calidad líder en Vietnam, confiables y utilizadas por muchas grandes organizaciones y empresas nacionales e internacionales.

Fuente: https://dantri.com.vn/cong-nghe/khi-ai-biet-kiem-chung-thong-tin-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025-20250519084620026.htm