La explosión de Internet y las redes sociales ha hecho que el contenido generado por los usuarios sea cada vez más popular y, al mismo tiempo, ha provocado una ola generalizada de noticias falsas y noticias no oficiales.
Esta información falsa no sólo causa confusión entre las personas en áreas sensibles como la salud, los desastres naturales, las políticas públicas, etc., sino que también conlleva graves consecuencias como pérdidas económicas , pérdida de reputación organizacional y amenazas a la seguridad nacional.
VeGraph es un método de verificación de información investigado y desarrollado por un equipo de ingenieros de Viettel Data Services and Artificial Intelligence Center (Viettel AI) (Foto: Viettel AI).
Si antes esta información solo tenía un impacto en un momento y alcance determinados, ahora se vuelve cada vez más peligrosa al formar parte de los datos de entrada de los sistemas de inteligencia artificial (IA). En el proceso de búsqueda y recopilación de información para responder a los usuarios, sistemas como chatbots y asistentes virtuales son totalmente capaces de usar, crear o difundir información falsa si no tienen la capacidad de autoverificarse.
La verificación de datos es el proceso de verificar si una información es verdadera o falsa. Por ejemplo, el objetivo de verificar la afirmación «La NASA ha encontrado vida en Marte» es comprobar si la información se basa en hechos publicados, a través de fuentes fiables como periódicos, datos científicos o bases de datos.
Para autoverificar la información, los sistemas de IA deben poder comprender oraciones, encontrar información relevante y sacar conclusiones lógicas basadas en datos objetivos.
VeGraph (Verify-in-the-Graph) es un método de verificación de información investigado, desarrollado y presentado por un equipo de ingenieros de Viettel Data Services and Artificial Intelligence Center (Viettel AI) en NAACL 2025, una de las tres conferencias internacionales líderes sobre procesamiento del lenguaje natural.
Los resultados experimentales en dos conjuntos de datos de validación populares, HoVer y FEVEROUS, muestran que VeGraph mejora la precisión entre un 2 y un 5 % en comparación con los métodos existentes.
La mayoría de los métodos actuales de verificación de datos aún tienen dificultades para manejar declaraciones ambiguas, metafóricas o de múltiples capas, que a menudo se utilizan para "camuflar" información falsa, y no pueden explicar claramente por qué un contenido se considera falso, lo que dificulta que los usuarios confíen en los resultados.
Muchos métodos también dependen en gran medida de grandes modelos de lenguaje (LLM, por sus siglas en inglés) que carecen de la capacidad de contrastarse con fuentes de conocimiento autorizadas, lo que genera el riesgo de generar conclusiones falsas, también conocidas como "alucinaciones".
A diferencia de las herramientas que solo realizan inferencias internas dentro del modelo, VeGraph desglosa proactivamente la solicitud de verificación de información en pequeñas proposiciones y las compara con referencias fiables, como documentos legales, bases de datos gubernamentales, documentos especializados, etc. Todo el proceso de verificación está sistematizado en pasos claros, lo que facilita el seguimiento y la verificación por parte de los usuarios, aumentando así la precisión, un factor cada vez más importante en las aplicaciones de IA. Esta función también permite a las organizaciones ajustar y mejorar el sistema rápidamente cuando sea necesario.
Con el objetivo de crear un entorno digital transparente y seguro, VeGraph goza de gran reconocimiento por su aplicación práctica. Además de su capacidad de integración con sistemas de IA para aumentar la precisión, esta tecnología puede convertirse en un sistema de verificación de información en diversos ámbitos, como la salud, el periodismo, el derecho o la gestión estatal. Gracias a ello, las personas pueden autoverificar información importante que requiere alta autenticidad, como noticias de actualidad, información sobre medicamentos, vacunas, productos farmacéuticos o normativas legales.
Sistemas como chatbots y asistentes virtuales son totalmente capaces de utilizar, crear o difundir información falsa si no son capaces de autoverificarse (Foto: Viettel AI).
En el futuro, VeGraph se ampliará para manejar diversos formatos de datos como imágenes, videos, audio, etc., reconocer formas complejas del lenguaje como metáforas e implicaciones e incorporar gráficos de conocimiento para mejorar las capacidades de razonamiento.
NAACL 2025 (Conferencia Anual de las Naciones de las Américas, Capítulo de la Asociación para la Lingüística Computacional) es el foro científico líder a nivel mundial en los campos del procesamiento del lenguaje natural y la lingüística computacional.
Este año, la conferencia atrajo a más de 3000 artículos, con una tasa de aceptación muy competitiva para los artículos de referencia (alrededor del 22 %), reuniendo las investigaciones más innovadoras. NAACL 2025 se centra en avances revolucionarios en el desarrollo de grandes modelos lingüísticos, el procesamiento del lenguaje natural intercultural y multilingüe, las nuevas capacidades de inferencia y la IA responsable.
Viettel AI es una unidad del Grupo de Industria Militar - Telecomunicaciones (Viettel), pionera en el dominio y desarrollo de productos y servicios en los campos de IA, Big Data, Robótica y Gemelo Digital.
Actualmente, el ecosistema de inteligencia artificial de Viettel incluye muchas líneas de productos con calidad líder en Vietnam, confiables y utilizadas por muchas grandes organizaciones y empresas nacionales e internacionales.
Fuente: https://dantri.com.vn/cong-nghe/khi-ai-biet-kiem-chung-thong-tin-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025-20250519084620026.htm
Kommentar (0)