Kiedy sztuczna inteligencja potrafi zweryfikować prawdę: nowe postępy firmy Viettel AI na konferencji NAACL 2025

Podczas NAACL 2025, jednej z najważniejszych na świecie konferencji poświęconych sztucznej inteligencji (AI), która odbyła się w Stanach Zjednoczonych, Viettel AI zaprezentował VeGraph — metodę weryfikacji informacji, która pozwala zwiększyć dokładność nawet o 5% w porównaniu z istniejącymi metodami.

VeGraph zwiększa dokładność o 2–5% w porównaniu z dotychczas stosowanymi metodami.

NAACL 2025 (doroczna konferencja oddziału Narodów Ameryki stowarzyszenia Association for Computational Linguistics) jest wiodącym na świecie prestiżowym forum naukowym w dziedzinie przetwarzania języka naturalnego i lingwistyki obliczeniowej.

Według informacji Viettel z popołudnia 16 maja, eksplozja internetu i portali społecznościowych sprawiła, że ​​treści tworzone przez użytkowników stały się coraz bardziej popularne. Jednocześnie doprowadziła do fali fałszywych wiadomości i nieoficjalnych informacji, które rozprzestrzeniły się szeroko. Te fałszywe informacje nie tylko wprowadzają zamieszanie w obszarach wrażliwych, takich jak zdrowie, klęski żywiołowe czy polityka publiczna… ale także prowadzą do poważnych konsekwencji, takich jak straty ekonomiczne, upadek reputacji organizacji i zagrożenie dla bezpieczeństwa narodowego.

„W przeszłości informacje te miały wpływ tylko w określonym czasie i zakresie, teraz stają się coraz bardziej niebezpieczne, gdy stają się częścią danych wejściowych dla systemów sztucznej inteligencji (AI). W procesie wyszukiwania i gromadzenia informacji w celu reagowania na potrzeby użytkowników, systemy takie jak chatboty i wirtualni asystenci są w pełni zdolne do wykorzystywania, tworzenia lub rozpowszechniania fałszywych informacji, jeśli nie posiadają możliwości samodzielnej weryfikacji” – powiedział przedstawiciel Viettel.

Weryfikacja faktów to proces weryfikacji prawdziwości lub fałszywości informacji. Na przykład, celem weryfikacji informacji w stwierdzeniu „NASA odkryła życie na Marsie” jest sprawdzenie, czy informacja jest oparta na opublikowanych faktach, pochodzących z wiarygodnych źródeł, takich jak gazety, dane naukowe lub bazy wiedzy. Aby dokonać samoweryfikacji informacji, systemy sztucznej inteligencji muszą być w stanie zrozumieć zdanie, znaleźć istotne informacje i wyciągnąć logiczne wnioski na podstawie obiektywnych danych.

VeGraph (Verify-in-the-Graph) to metoda weryfikacji informacji, opracowana i zaprezentowana przez zespół inżynierów z Viettel AI Data Services and Artificial Intelligence Center (Viettel AI) na konferencji NAACL 2025 – jednej z trzech najbardziej prestiżowych międzynarodowych konferencji poświęconych przetwarzaniu języka naturalnego. Wyniki eksperymentów przeprowadzonych na dwóch popularnych zbiorach danych weryfikacyjnych, HoVer i FEVEROUS, pokazują, że VeGraph poprawia dokładność o 2–5% w porównaniu z istniejącymi metodami.

 

Według ekspertów Viettel AI, większość obecnych metod weryfikacji informacji wciąż ma trudności z obsługą niejednoznacznych, metaforycznych lub wielowarstwowych stwierdzeń, które często służą do „maskowania” fałszywych informacji. Jednocześnie nie potrafią one jednoznacznie wyjaśnić, dlaczego dany fragment treści jest uznawany za fałszywy, co utrudnia użytkownikom zaufanie do wyników. Wiele metod opiera się również głównie na dużych modelach językowych (LLM) bez możliwości weryfikacji z oficjalnymi źródłami wiedzy, co prowadzi do ryzyka wyciągnięcia fałszywych wniosków lub tzw. zjawiska „halucynacji”.

W przeciwieństwie do narzędzi, które jedynie wyciągają wnioski wewnętrzne w ramach modelu, VeGraph proaktywnie dzieli żądanie weryfikacji informacji na małe klauzule, a następnie porównuje je z wiarygodnymi źródłami, takimi jak dokumenty prawne, rządowe bazy danych , dokumenty specjalistyczne itp. Cały proces weryfikacji jest usystematyzowany i podzielony na jasne kroki, co ułatwia użytkownikom monitorowanie i sprawdzanie, zwiększając dokładność i przejrzystość – czynnik coraz ważniejszy w zastosowaniach AI. Funkcja ta umożliwia również organizacjom szybkie dostosowywanie i ulepszanie systemu w razie potrzeby.

Dążąc do stworzenia przejrzystego i bezpiecznego środowiska cyfrowego, VeGraph jest wysoko ceniony za praktyczne zastosowanie. Oprócz możliwości integracji z systemami AI w celu zwiększenia dokładności i niezawodności, technologia ta może zostać rozwinięta w system weryfikacji informacji w wielu dziedzinach, takich jak opieka zdrowotna, dziennikarstwo, prawo czy zarządzanie państwem. Dzięki temu użytkownicy mogą samodzielnie weryfikować ważne informacje wymagające wysokiej autentyczności, takie jak bieżące wiadomości, informacje o lekach, szczepionkach, produktach farmaceutycznych czy regulacjach prawnych.

W przyszłości VeGraph zostanie rozbudowany o obsługę różnych formatów danych, takich jak obrazy, filmy, pliki audio itp., będzie rozpoznawał złożone formy językowe, takie jak metafory i implikacje, a także będzie zawierał dodatkowe grafy wiedzy w celu usprawnienia zdolności rozumowania.

W tym roku konferencja NAACL 2025 przyciągnęła rekordową liczbę artykułów, przekraczając 3000, przy bardzo konkurencyjnym wskaźniku akceptacji artykułów głównych (około 22%), co pozwoliło na prezentację najbardziej przełomowych badań. Konferencja NAACL 2025 koncentruje się w szczególności na przełomowych osiągnięciach w zakresie rozwoju dużych modeli językowych, międzykulturowego i wielojęzycznego przetwarzania języka naturalnego, nowych możliwości wnioskowania oraz odpowiedzialnej sztucznej inteligencji.

 

Według gazety News and People

Source: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067