AIが情報の検証方法を知るとき：NAACL 2025におけるViettel AIの新たな進歩

インターネットとソーシャルネットワークの爆発的な普及により、ユーザー生成コンテンツの人気が高まり、同時にフェイクニュースや非公式ニュースの波が広がっています。

こうした虚偽の情報は、健康、自然災害、公共政策などのデリケートな分野で人々の間に混乱を引き起こすだけでなく、経済的損失、組織の評判の失墜、国家安全保障への脅威など、深刻な結果をもたらします。

Khi AI biết kiểm chứng thông tin: Bước tiến mới từ Viettel AI tại NAACL 2025 - 1 — VeGraphは、 Viettelデータサービスおよび人工知能センター（Viettel AI）のエンジニアチームによって研究開発された情報検証方法です（写真：Viettel AI）。

これまで、この情報は特定の時間と範囲にのみ影響を与えていましたが、現在では人工知能 (AI) システムの入力データの一部となるため、ますます危険になっています。チャットボットやバーチャルアシスタントなどのシステムは、ユーザーに応答するために情報を検索および収集するプロセスにおいて、自己検証機能がない場合、虚偽の情報を使用したり、作成したり、拡散したりする可能性があります。

ファクトチェックとは、情報の真偽を検証するプロセスです。たとえば、「NASA は火星に生命体を発見した」という声明のファクトチェックの目的は、新聞、科学データ、ナレッジベースなどの信頼できる情報源を通じて、その情報が公表された事実に基づいているかどうかを確認することです。

情報を自己検証するために、AI システムは文章を理解し、関連情報を見つけ、客観的なデータに基づいて論理的な結論を導き出すことができなければなりません。

VeGraph (Verify-in-the-Graph) は、Viettel Data Services and Artificial Intelligence Center (Viettel AI) のエンジニアチームが研究、開発し、自然言語処理に関する 3 大国際会議の 1 つである NAACL 2025 で発表した情報検証手法です。

2 つの一般的な検証データセット HoVer と FEVEROUS での実験結果では、VeGraph は既存の方法と比較して精度を 2 ～ 5% 向上させることがわかりました。

現在のファクトチェック方法のほとんどは、曖昧、比喩的、または多層的な記述（誤った情報を「カモフラージュ」するためによく使用される）を処理するのが依然として困難であり、コンテンツがなぜ誤りであると判断されるのか明確に説明できないため、ユーザーが結果を信頼することが困難になっています。

また、多くの手法は、信頼できる知識源とクロスチェックする能力を欠いた大規模言語モデル (LLM) に大きく依存しており、「幻覚」とも呼ばれる誤った結論を生成するリスクがあります。

モデル内で内部推論のみを行うツールとは異なり、VeGraph は情報検証要求を事前に小さな命題に分割し、それを法的文書、政府データベース、専門文書などの信頼できる参照と比較します。検証プロセス全体が明確な手順に体系化されているため、ユーザーは簡単に追跡および確認でき、AI アプリケーションにおいてますます重要な要素である精度が向上します。この機能により、組織は必要に応じてシステムを迅速に調整および改善することもできます。

透明で安全なデジタル環境を目指したVeGraphは、その実用性が高く評価されています。この技術は、AIシステムに統合して精度を高めることができるだけでなく、医療、ジャーナリズム、法律、国家管理など、多くの分野の情報検証システムに開発することができます。これにより、最新ニュース、薬物、ワクチン、医薬品、法的規制に関する情報など、高い信頼性が求められる重要な情報を人々が自己検証できるようになります。