AI가 진실을 검증하는 방법을 알게 될 때: NAACL 2025에서 Viettel AI의 새로운 발전

VeGraph는 기존 방법에 비해 정확도를 2~5% 향상시킵니다.

NAACL 2025(미국 계산언어학회 미주 지부 연례 회의)는 자연어 처리 및 계산언어학 분야에서 세계적으로 유명한 과학 포럼입니다.

5월 16일 오후 비엣텔 의 정보에 따르면, 인터넷과 소셜 네트워크의 폭발적인 성장으로 사용자 생성 콘텐츠가 점점 더 인기를 얻고 있다. 동시에 이로 인해 가짜 뉴스와 비공식적인 뉴스가 널리 퍼지게 됩니다. 이러한 허위 정보는 건강, 자연재해, 공공 정책 등 민감한 분야의 사람들에게 혼란을 야기할 뿐만 아니라 경제적 피해, 조직적 평판 손상, 국가 안보 위협 등 심각한 결과를 초래합니다.

"과거에는 이러한 정보가 특정 시점과 범위에서만 영향을 미쳤지만, 이제는 인공지능(AI) 시스템의 입력 데이터가 될 경우 더욱 위험해지고 있습니다. 챗봇이나 가상 비서와 같은 시스템은 사용자에게 응답하기 위해 정보를 검색하고 수집하는 과정에서 자체 검증 능력이 없다면 허위 정보를 이용, 생성 또는 유포할 수 있습니다."라고 비엣텔 관계자는 말했습니다.

사실 확인은 정보의 진실 또는 거짓을 검증하는 과정입니다. 예를 들어, "NASA가 화성에서 생명체를 발견했다"는 진술을 검증하는 목적이 이 정보가 발표된 사실에 기반한 것인지 확인하는 것인가요? 신문, 과학 데이터 또는 지식 기반과 같은 신뢰할 수 있는 출처를 통해서. AI 시스템은 정보를 자체적으로 검증하기 위해 문장을 이해하고, 관련 정보를 찾고, 객관적인 데이터를 기반으로 논리적인 결론을 도출할 수 있어야 합니다.

VeGraph(Verify-in-the-Graph)는 Viettel Data Services and Artificial Intelligence Center(Viettel AI)의 엔지니어 팀이 연구, 개발하여 자연어 처리 분야에서 가장 권위 있는 3대 국제 학회 중 하나인 NAACL 2025에서 발표한 정보 검증 방법입니다. 두 가지 인기 있는 검증 데이터 세트인 HoVer와 FEVEROUS에 대한 실험 결과에 따르면 VeGraph는 기존 방법에 비해 정확도를 2~5% 향상시킵니다.

Viettel AI 전문가에 따르면, 현재 대부분의 정보 검증 방법은 여전히 ​​모호하고 은유적이거나 다층적인 진술을 처리하는 데 어려움을 겪고 있으며, 이러한 진술은 종종 가짜 정보를 "위장"하는 데 사용됩니다. 동시에 콘텐츠가 거짓으로 평가된 이유를 명확하게 설명할 수 없어 사용자가 결과를 신뢰하기 어렵습니다. 또한 많은 방법은 권위 있는 지식 출처와 교차 검사하는 능력이 부족한 대규모 언어 모델(LLM)에 크게 의존하여 "환각"이라고도 알려진 잘못된 결론을 도출할 위험이 있습니다.

모델 내에서 내부 추론만 하는 도구와 달리 VeGraph는 정보 검증 요청을 사전에 작은 명제로 분리한 다음 법률 문서, 정부 데이터베이스 , 전문 문서 등과 같은 신뢰할 수 있는 참조 자료와 비교합니다. 전체 검증 프로세스는 명확한 단계로 체계화되어 사용자가 추적하고 확인하기 쉽고, 정확성과 투명성이 높아집니다. 이러한 요소는 AI 애플리케이션에서 점점 더 중요해지고 있습니다. 이 기능을 사용하면 조직이 필요할 때 시스템을 신속하게 조정하고 개선할 수도 있습니다.

투명하고 안전한 디지털 환경을 목표로 하는 VeGraph는 실용적인 적용성으로 높은 평가를 받고 있습니다. 이 기술은 정확성과 신뢰성을 높이기 위해 AI 시스템에 통합할 수 있는 능력 외에도 의학, 저널리즘, 법률 또는 국가 관리와 같은 여러 분야에서 정보 검증 시스템으로 개발될 수 있습니다. 이를 통해 사람들은 최신 뉴스, 약물, 백신, 제약품 또는 법적 규정에 대한 정보 등 높은 진위성이 요구되는 중요한 정보를 스스로 검증할 수 있습니다.

앞으로 VeGraph는 이미지, 비디오, 오디오 등 다양한 데이터 형식을 처리하고, 은유, 의미 등 복잡한 언어 형태를 인식하고, 지식 그래프를 통합하여 추론 능력을 강화하도록 확장될 것입니다.

올해 NAACL 2025에는 3,000편이 넘는 연구 논문이 접수되어 역대 최다 기록을 세웠으며, 주요 논문의 채택률(약 22%)도 매우 경쟁력이 있어 가장 획기적인 연구가 한자리에 모였습니다. NAACL 2025는 대규모 언어 모델 개발, 문화 간 및 다국어 자연어 처리, 새로운 추론 기능, 책임 있는 AI 분야의 획기적인 발전에 특히 초점을 맞춥니다.

뉴스 앤 피플 신문에 따르면

출처: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067