AI가 진실을 검증하는 방법을 알게 될 때: NAACL 2025에서 Viettel AI의 새로운 발전

사진 설명

VeGraph는 기존 방법에 비해 정확도를 2~5% 향상시킵니다.

NAACL 2025(미국 계산언어학회 미주 지부 연례 회의)는 자연어 처리 및 계산언어학 분야에서 세계적으로 유명한 과학 포럼입니다.

5월 16일 오후 비엣텔(Viettel) 의 보도에 따르면, 인터넷과 소셜 네트워크의 폭발적인 성장으로 사용자 제작 콘텐츠(UGC)가 점점 더 인기를 얻고 있습니다. 동시에 가짜 뉴스와 비공식 뉴스가 널리 퍼지고 있습니다. 이러한 허위 정보는 보건, 자연재해, 공공 정책 등 민감한 분야의 사람들에게 혼란을 야기할 뿐만 아니라 경제적 손실, 조직 평판 저하, 국가 안보 위협 등 심각한 결과를 초래합니다.

"과거에는 이러한 정보가 특정 시점과 범위에서만 영향을 미쳤지만, 이제는 인공지능(AI) 시스템의 입력 데이터가 될 경우 더욱 위험해지고 있습니다. 챗봇이나 가상 비서와 같은 시스템은 사용자에게 응답하기 위해 정보를 검색하고 수집하는 과정에서 자체 검증 능력이 없다면 허위 정보를 이용, 생성 또는 유포할 수 있습니다."라고 비엣텔 관계자는 말했습니다.

팩트체킹은 정보의 진위 여부를 검증하는 과정입니다. 예를 들어, "NASA가 화성에서 생명체를 발견했다"는 주장에 대한 팩트체킹의 목적은 해당 정보가 신문, 과학 데이터, 또는 지식 기반과 같은 신뢰할 수 있는 출처를 통해 발표된 사실에 기반하는지 확인하는 것입니다. 정보를 자체적으로 검증하기 위해 AI 시스템은 해당 주장을 이해하고, 관련 정보를 찾고, 객관적인 데이터를 기반으로 논리적인 결론을 도출할 수 있어야 합니다.

VeGraph(Verify-in-the-Graph)는 Viettel AI 데이터 서비스 및 인공지능 센터(Viettel AI) 엔지니어 팀이 자연어 처리 분야에서 가장 권위 있는 3대 국제 학술대회 중 하나인 NAACL 2025에서 연구, 개발 및 발표한 정보 검증 방법입니다. 두 가지 인기 검증 데이터셋인 HoVer와 FEVEROUS를 대상으로 한 실험 결과, VeGraph는 기존 방법 대비 정확도를 2~5% 향상시켰습니다.

Viettel AI 전문가들에 따르면, 현재 대부분의 정보 검증 방법은 모호하거나 은유적이거나 다층적인 표현을 처리하는 데 어려움을 겪고 있습니다. 이러한 표현은 가짜 정보를 "은폐"하는 데 자주 사용됩니다. 또한, 콘텐츠가 왜 거짓으로 간주되는지 명확하게 설명할 수 없어 사용자가 결과를 신뢰하기 어렵게 만듭니다. 또한 많은 방법들이 공식적인 지식 출처와 교차 검증할 수 없는 대규모 언어 모델(LLM)에 주로 의존하여 "환각"이라고도 하는 잘못된 결론을 도출할 위험이 있습니다.

모델 내부 추론만 수행하는 도구와 달리, VeGraph는 정보 검증 요청을 작은 조항으로 사전에 구분하여 법률 문서, 정부 데이터베이스 , 전문 문서 등 신뢰할 수 있는 참고 자료와 비교합니다. 전체 검증 프로세스는 명확한 단계로 체계화되어 사용자가 쉽게 모니터링하고 확인할 수 있도록 하여 정확성과 투명성을 높입니다. 이는 AI 애플리케이션에서 점점 더 중요해지고 있는 요소입니다. 또한 이 기능을 통해 조직은 필요에 따라 시스템을 신속하게 조정하고 개선할 수 있습니다.

투명하고 안전한 디지털 환경을 목표로 하는 VeGraph는 실용적인 적용 가능성으로 높은 평가를 받고 있습니다. 정확도와 신뢰성을 높이기 위해 AI 시스템과 통합될 수 있을 뿐만 아니라, 의료, 언론, 법률, 국가 관리 등 다양한 분야에서 정보 검증 시스템으로 활용될 수 있습니다. 이를 통해 최신 뉴스, 약물, 백신, 의약품 정보, 법률 규정 등 높은 신뢰성이 요구되는 중요한 정보를 스스로 검증할 수 있습니다.

앞으로 VeGraph는 이미지, 비디오, 오디오 등 다양한 데이터 형식을 처리하고, 은유, 의미 등 복잡한 언어 형태를 인식하고, 지식 그래프를 통합하여 추론 능력을 강화하도록 확장될 것입니다.

올해 NAACL 2025에는 3,000편이 넘는 역대 최다 논문이 접수되었으며, 주요 논문의 채택률(약 22%)이 매우 높아 가장 획기적인 연구들이 한자리에 모였습니다. NAACL 2025는 대규모 언어 모델 개발, 문화 간 및 다국어 자연어 처리, 새로운 추론 기능, 그리고 책임감 있는 AI 분야의 획기적인 발전에 특히 중점을 둡니다.

뉴스 앤 피플 신문에 따르면

출처: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067