Технология искусственного интеллекта помогает проверять информацию

ClaimPKG — метод проверки информации с использованием искусственного интеллекта, разработанный Центром услуг данных и искусственного интеллекта (Viettel AI), на 12% точнее существующих методов.

В цифровом мире пользователям необходимы инструменты для поддержки аутентификации информации.

В цифровую эпоху социальные сети и онлайн-платформы стали основным каналом доступа к информации для десятков миллионов людей ежедневно. Однако, помимо удобства, тревожной реальностью является и стремительное распространение фейковых и ложных новостей. В этом контексте необходимость проверки информации путём сравнения и подтверждения достоверности того, что мы читаем, слышим и чем делимся, становится насущной.

Столкнувшись с этой ситуацией, Центр услуг по обработке данных и искусственному интеллекту Viettel разработал ClaimPKG — эффективный метод верификации информации, применимый на практике. Результаты этого исследования, превзошедшие более 5200 исследований по всему миру, будут представлены непосредственно на конференции ACL 2025. Это одна из ведущих мировых конференций по обработке естественного языка (NLP), с уровнем одобрения докладов всего 37%. Мероприятие объединяет ведущих технологических экспертов из таких крупных компаний, как Google, Meta, Huawei, IBM, Amazon, Oracle...

ClaimPKG объединяет граф знаний (Knowledge Graph) и большую языковую модель (LLM), повышая точность на 9–12% по сравнению с существующими методами при тестировании на FactKG (эталонном наборе данных, высоко ценимом технологическим сообществом в области верификации информации). Результаты этого теста демонстрируют высокий потенциал применения ClaimPKG для повышения надежности будущих систем ИИ для верификации информации.

Ранее, на конференции NAACL 2025, Центр услуг по обработке данных и искусственному интеллекту Viettel также привлек внимание с помощью VeGraph — метода проверки информации, основанного на текстовых платформах знаний, таких как статьи, юридические документы и т. д. VeGraph зафиксировал повышение точности на 2–5 % по сравнению с другими методами, но во многих случаях, особенно если текстовые данные не имеют четкой структуры, процесс проверки может быть длительным и сложным для обеспечения согласованности.

Для повышения точности и согласованности Центр услуг по обработке данных и искусственному интеллекту Viettel продолжает поиск нового направления. ClaimPKG разработан на основе структурированного подхода, основанного на знаниях, с использованием четко отформатированного графа знаний в соответствии с моделью «субъект-связь-объект».

Проверяемая информация будет разделена и преобразована в «псевдоподграф», после чего система извлечет соответствующие знания из графа знаний, после чего LLM сделает выводы и сделает окончательное заключение. Этот процесс помогает повысить точность, согласованность и надёжность проверки, одновременно снижая вычислительную нагрузку на LLM.

Технические преимущества ClaimPKG также служат основой для расширения практических приложений. В сфере журналистики и коммуникаций технология может помочь журналистам и редакторам быстро и обоснованно выявлять фейковые новости и сравнивать источники новостей.

В медицинской и юридической сферах эта технология может выступать в качестве «помощника по проверке», помогая находить и подтверждать подлинность специализированных знаний. Кроме того, ClaimPKG может быть интегрирован в чат-ботов или виртуальных помощников, помогая системе выдавать более достоверные ответы, избегая неоднозначных суждений.

Конференция ACL 2025 (ежегодное собрание Ассоциации компьютерной лингвистики), проходящая с 27 июля по 1 августа в Вене, Австрия, является одним из самых престижных и влиятельных мероприятий в области обработки естественного языка (NLP). Собирая тысячи исследователей, инженеров и экспертов со всего мира, конференция предоставляет возможность поделиться последними достижениями в области обработки естественного языка (NLP) – от машинного обучения языкам, машинного перевода, реферирования текстов и автоматических ответов на вопросы до вопросов этики и справедливости в лингвистическом ИИ.

В этом году основная тема конференции — «Обобщение моделей НЛП», подчеркивающая разработку моделей, способных адаптироваться и понимать новые данные, языки или предметные области.

ХА ЛИНЬ

Источник: https://nhandan.vn/cong-nghe-tri-tue-nhan-tao-giup-kiem-chung-thong-tin-post898494.html