AI가 진실을 검증하는 방법을 알게 되면: NAACL 2025에서 Viettel AI의 새로운 진전

사진 설명

VeGraph는 기존 방법보다 정확도를 2~5% 향상시킵니다.

NAACL 2025(미국 계산언어학회 미주 지부 연례 회의)는 자연어 처리 및 계산언어학 분야에서 세계적으로 유명한 과학 포럼입니다.

5월 16일 오후 비엣텔(Viettel) 의 보도에 따르면, 인터넷과 소셜 네트워크의 폭발적인 성장으로 사용자 제작 콘텐츠(UGC)가 점점 더 인기를 얻고 있습니다. 동시에 가짜 뉴스와 비공식적인 뉴스가 널리 퍼지고 있습니다. 이러한 허위 정보는 보건, 자연재해, 공공 정책 등 민감한 분야의 사람들에게 혼란을 야기할 뿐만 아니라 경제적 피해, 조직 평판 저하, 국가 안보 위협 등 심각한 결과를 초래합니다.

"과거에는 이러한 정보가 특정 시점과 범위에만 영향을 미쳤지만, 이제는 인공지능(AI) 시스템의 입력 데이터가 될 경우 더욱 위험해지고 있습니다. 챗봇이나 가상 비서와 같은 시스템은 사용자에게 응답하기 위해 정보를 검색하고 수집하는 과정에서 자체 검증 능력이 없다면 허위 정보를 이용, 생성 또는 유포할 수 있습니다."라고 비엣텔 관계자는 말했습니다.

팩트체킹은 정보의 진위 여부를 검증하는 과정입니다. 예를 들어, "NASA가 화성에서 생명체를 발견했다"는 주장에 대한 팩트체킹의 목적은 해당 정보가 신문, 과학 데이터, 또는 지식 기반과 같은 신뢰할 수 있는 출처를 통해 발표된 사실에 기반하는지 확인하는 것입니다. 정보를 자체적으로 검증하기 위해 AI 시스템은 문장을 이해하고, 관련 정보를 찾고, 객관적인 데이터를 기반으로 논리적인 결론을 도출할 수 있어야 합니다.

VeGraph(Verify-in-the-Graph)는 Viettel AI 데이터 서비스 및 인공지능 센터(Viettel AI) 엔지니어 팀이 자연어 처리 분야에서 가장 권위 있는 3대 국제 학술대회 중 하나인 NAACL 2025에서 연구, 개발 및 발표한 정보 검증 방법입니다. 두 가지 인기 검증 데이터셋인 HoVer와 FEVEROUS를 대상으로 한 실험 결과, VeGraph는 기존 방법 대비 정확도를 2~5% 향상시켰습니다.

Viettel AI 전문가들에 따르면, 현재 대부분의 정보 검증 방법은 모호하거나 은유적이거나 다층적인 표현을 처리하는 데 어려움을 겪고 있으며, 이러한 표현은 가짜 정보를 "은폐"하는 데 자주 사용됩니다. 또한, 콘텐츠가 왜 거짓으로 간주되는지 명확하게 설명하지 못해 사용자가 결과를 신뢰하기 어렵게 만듭니다. 또한 많은 방법들이 공식 지식 출처와의 교차 검증 없이 대규모 언어 모델(LLM)에 주로 의존하여 잘못된 결론이나 소위 "환각" 현상을 초래할 위험이 있습니다.

모델 내부 추론만 수행하는 도구와 달리, VeGraph는 정보 검증 요청을 사전에 작은 조항으로 구분하여 법률 문서, 정부 데이터베이스 , 전문 문서 등 신뢰할 수 있는 참고 자료와 비교합니다. 전체 검증 프로세스는 명확한 단계로 체계화되어 사용자가 쉽게 모니터링하고 확인할 수 있도록 하여 정확성과 투명성을 높입니다. 이는 AI 애플리케이션에서 점점 더 중요해지는 요소입니다. 또한 이 기능을 통해 조직은 필요에 따라 시스템을 신속하게 조정하고 개선할 수 있습니다.

투명하고 안전한 디지털 환경을 목표로 하는 VeGraph는 실용적인 적용 가능성으로 높은 평가를 받고 있습니다. 정확도와 신뢰성을 높이기 위해 AI 시스템과 통합될 수 있을 뿐만 아니라, 이 기술은 의료, 저널리즘, 법률, 국가 관리 등 다양한 분야의 정보 검증 시스템으로 발전할 수 있습니다. 이를 통해 최신 뉴스, 약물, 백신, 의약품 정보, 법적 규제 등 높은 신뢰성이 요구되는 중요한 정보를 스스로 검증할 수 있습니다.

앞으로 VeGraph는 이미지, 비디오, 오디오 등 다양한 데이터 형식을 처리하고, 은유, 의미 등 복잡한 언어 형태를 인식하고, 추론 능력을 향상시키기 위해 추가적인 지식 그래프를 통합하도록 확장될 것입니다.

올해 NAACL 2025에는 3,000편이 넘는 논문이 접수되어 역대 최다 기록을 세웠으며, 주요 논문의 채택률(약 22%) 또한 매우 경쟁적이어서 가장 획기적인 연구들이 한자리에 모였습니다. NAACL 2025는 특히 대규모 언어 모델 개발, 문화 간 및 다국어 자연어 처리, 새로운 추론 기능, 그리고 책임 있는 AI 분야의 획기적인 발전에 중점을 두고 있습니다.

뉴스 앤 피플 신문에 따르면

출처: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067