베트남 AI: 정보 확인 방법, 진실 말하기 방법 알고

미국에서 개최된 세계 3대 자연어 처리 컨퍼런스 중 하나인 NAACL 2025에서 Viettel AI는 VeGraph를 소개했습니다. 이는 HoVer와 FEVEROUS라는 두 가지 인기 있는 사실 확인 데이터세트에 대해 기존 방식과 비교했을 때 정확도를 2~5% 향상시키는 새로운 사실 ​​확인 방법입니다.

인터넷과 소셜 네트워크의 확산으로 인해 가짜 뉴스와 잘못된 정보가 점점 더 흔해지고 있으며, 특히 건강 , 자연 재해, 공공 정책과 같은 민감한 분야에서 그러한 현상이 두드러지고 있습니다. 이러한 잘못된 정보가 챗봇이나 가상 비서와 같은 AI 시스템의 입력 데이터가 되면 문제는 훨씬 더 심각해집니다. AI를 제대로 관리하지 않으면 의도치 않게 잘못된 정보가 퍼지거나 심지어 만들어질 수도 있습니다.

VeGraph는 Viettel AI가 NAACL 2025 컨퍼런스에서 연구, 개발하여 발표한 정보 검증 방법입니다.

사실 확인은 신문, 과학 문헌, 공식 데이터베이스 등 신뢰할 수 있는 출처를 기반으로 진술의 진실 또는 거짓을 검증하는 과정입니다. 이를 위해 AI 시스템은 언어를 이해하고, 데이터를 검색하고, 논리적으로 추론할 수 있는 능력이 필요합니다.

Viettel 데이터 및 인공지능 서비스 센터의 엔지니어링 팀에서 탄생한 VeGraph(Verify-in-the-Graph)는 검증 요청을 작은 조항으로 분해하여 법률 문서, 정부 데이터, 전문 문서와 같은 권위 있는 출처와 비교합니다. 대규모 언어 모델(LLM)에만 의존하는 많은 현재 방식과 달리 VeGraph는 검증 프로세스를 명확한 단계로 구성하여 투명성을 높이고 AI가 자동으로 잘못된 정보를 생성하는 "환상" 현상을 줄입니다.

VeGraph는 정보 검증에 효과적일 뿐만 아니라 적용성도 매우 높습니다. 이 기술은 신뢰성을 높이기 위해 AI 시스템에 통합될 수도 있고, 의학, 저널리즘, 법률 또는 국가 관리와 같은 분야에 독립적으로 배포될 수도 있습니다. 사람들은 이를 이용해 최신 뉴스, 약물 정보, 백신 또는 법적 규정 등 높은 신뢰성이 요구되는 중요한 정보를 자체적으로 검증할 수 있습니다.

Viettel AI는 앞으로 이미지, 비디오, 오디오 등 다양한 데이터 형식을 처리할 수 있도록 VeGraph를 개발할 계획입니다. 은유, 함축적 의미 등 복잡한 언어를 이해하는 능력을 키우고, 지식 그래프를 통합하여 추론 능력을 강화합니다.

NAACL 2025(미국 계산언어학회 미주 지부 연례 회의)는 자연어 처리 및 계산언어학 분야에서 세계적으로 유명한 과학 포럼입니다.

올해의 학회에는 3,000편이 넘는 역대 최다 논문이 발표되었고, 주요 논문의 채택률(약 22%)도 매우 치열하여 가장 획기적인 연구들이 한자리에 모였습니다.

NAACL 2025는 대규모 언어 모델 개발, 문화 간 및 다국어 자연어 처리, 새로운 추론 기능, 책임 있는 AI 분야의 획기적인 발전에 특히 초점을 맞춥니다.

출처: https://nld.com.vn/ai-cua-nguoi-viet-biet-kiem-tra-thong-tin-biet-noi-su-that-196250517125935127.htm