AIが真実を検証する方法を知るとき：NAACL 2025におけるViettel AIの新たな進歩

写真のキャプション — VeGraph は既存の方法と比較して精度を 2 - 5% 向上させます。

NAACL 2025 (計算言語学協会アメリカ大陸支部の年次会議) は、自然言語処理と計算言語学の分野における世界有数の権威ある科学フォーラムです。

5月16日午後のViettelの情報によると、インターネットとソーシャルネットワークの爆発的な普及により、ユーザー生成コンテンツの人気が高まっている。同時に、フェイクニュースや非公式ニュースの波が広まることになります。この虚偽の情報は、健康、自然災害、公共政策などの敏感な分野の人々に混乱を引き起こすだけでなく、経済的損害、組織の評判の失墜、国家安全保障への脅威などの深刻な結果をもたらします。

「かつては、こうした情報は特定の時間と範囲にしか影響を与えませんでしたが、今では人工知能（AI）システムの入力データの一部となることで、ますます危険なものになっています。チャットボットやバーチャルアシスタントなどのシステムは、ユーザーへの対応のために情報を検索・収集する過程で、自己検証能力がなければ、虚偽の情報を使用、作成、または拡散する可能性があり得ます」と、Viettelの担当者は述べた。

ファクトチェックとは、情報の真偽を検証するプロセスです。たとえば、「NASA は火星に生命体を発見した」という声明を検証する目的は、この情報が公表された事実に基づいているかどうかを確認することでしょうか?新聞、科学データ、知識ベースなどの信頼できる情報源を通じて。情報を自己検証するために、AI システムは文章を理解し、関連情報を見つけ、客観的なデータに基づいて論理的な結論を導き出すことができなければなりません。

VeGraph (Verify-in-the-Graph) は、Viettel Data Services and Artificial Intelligence Center (Viettel AI) のエンジニアチームによって研究、開発され、自然言語処理に関する 3 つの最も権威ある国際会議の 1 つである NAACL 2025 で発表された情報検証方法です。 2 つの一般的な検証データセットである HoVer と FEVEROUS での実験結果では、VeGraph は既存の方法と比較して精度を 2 - 5% 向上させることがわかりました。

ViettelのAI専門家によると、現在のほとんどの情報検証方法は、偽情報を「偽装」するためによく使われる曖昧、比喩的、または多層的な表現を処理するのが依然として難しいという。同時に、コンテンツが虚偽であると評価される理由を明確に説明することができないため、ユーザーが結果を信頼することが困難になります。また、多くの手法は、信頼できる知識源とのクロスチェック能力を欠いた大規模言語モデル（LLM）に大きく依存しており、「幻覚」とも呼ばれる誤った結論を生み出すリスクにつながります。

モデル内で内部推論のみを行うツールとは異なり、VeGraph は情報検証要求を事前に小さな命題に分割し、それを法的文書、政府データベース、専門文書などの信頼できる参照と比較します。検証プロセス全体が明確な手順に体系化されているため、ユーザーは簡単に追跡および確認でき、精度と透明性が向上します。これは AI アプリケーションでますます重要な要素です。この機能により、組織は必要に応じてシステムを迅速に調整および改善することもできます。

透明で安全なデジタル環境を目指したVeGraphは、その実用性が高く評価されています。この技術は、AIシステムに統合して精度と信頼性を高めることができるだけでなく、医療、ジャーナリズム、法律、国家管理など、多くの分野の情報検証システムに開発することができます。これにより、最新ニュース、薬物、ワクチン、医薬品、法的規制に関する情報など、高い信頼性が求められる重要な情報を人々が自己検証できるようになります。

今後、VeGraph は拡張され、画像、動画、音声などの多様なデータ形式に対応し、比喩や含意などの複雑な言語形式を認識し、知識グラフを組み込んで推論機能を強化します。

今年のNAACL 2025には、記録的な数の研究論文が集まり、3,000件を超えました。主要論文の採択率は非常に高く（約22%）、最も革新的な研究が集まりました。 NAACL 2025 は、大規模言語モデルの開発、異文化および多言語の自然言語処理、新たな推論機能、責任ある AI における画期的な進歩に特に焦点を当てています。

出典: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067

コメント (0)