Искусственный интеллект по-прежнему испытывает трудности с заменой людей в проверке информации.

VTV.vn - Искусственный интеллект может помочь в поиске информации, но он по-прежнему часто ошибается и пока не может заменить людей в проверке фактов.

(Иллюстративное изображение)

Искусственный интеллект используется многими людьми для поиска информации и генерации идей, но в области проверки фактов эти инструменты по-прежнему демонстрируют множество тревожных ограничений.

Согласно статье в журнале WIRED, почти половина американцев заявляют, что используют ИИ для поиска информации и генерации идей. Это объяснимо, учитывая растущее количество низкокачественного контента в социальных сетях, а также то, что поисковые системы затрудняют многим поиск надежных источников. Однако, когда речь идет о вопросах правды, риски, связанные с дезинформацией, гораздо выше.

Автор статьи, специалист по проверке фактов в журнале WIRED, утверждает, что ИИ пока не может заменить человеческие процессы проверки фактов. Эта работа включает в себя не только поиск в интернете; она также включает в себя перекрестные ссылки, определение приоритетов источников, проверку предположений, выявление противоречивой информации, установление контактов с источниками и оценку этических и правовых вопросов.

Искусственный интеллект все чаще используется для проверки фактов после публикации информации. В Великобритании организация Full Fact разработала инструменты на основе ИИ для обработки больших объемов данных, от сообщений в социальных сетях до записей подкастов, тем самым выявляя утверждения, требующие дальнейшего расследования человеком. Однако Марк Франкель, руководитель отдела государственной политики Full Fact, подчеркивает, что этот процесс по-прежнему требует участия человека.

Главная причина заключается в том, что ИИ по-прежнему часто выдает неверные ответы. Исследование, проведенное Центром цифровой журналистики Тоу в марте 2025 года, показало, что более 60% ответов поисковых систем, интегрированных с ИИ, являются неточными. Исследование BBC также показало, что уровень ошибок в чат-ботах составляет около 45%.

Веб-сайт и логотип организации Anthropic отображаются на экране компьютера в Нью-Йорке, США, 26 февраля 2026 года. (Фото: AP)

Специализированные тесты также дали осторожные результаты. В RealFactBench, бенчмарке для проверки фактов, разработанном компьютерными специалистами из Китая и Великобритании, Клод достиг 73% точности по всем показателям. Между тем, SimpleQA от OpenAI показал, что ни одна из моделей OpenAI или Anthropic не превысила 50% точности по более чем 4000 вопросам с одним правильным ответом.

Автор также попытался применить проверочный тест к ChatGPT, Claude, Gemini и Grok. Модели могли описывать рабочие планы, выявлять юридические риски или предлагать методы проверки, но ни одна из них не дошла до фактической проверки фактов.

В статье утверждается, что сильные стороны человека заключаются в способности обрабатывать информацию, не всегда доступную в интернете, распознавать нюансы в общении, оценивать взаимосвязи между источниками и задавать вопросы в деликатных ситуациях. Следовательно, ИИ может быть полезным инструментом, но проверка фактов по-прежнему требует от человека осторожности, опыта и ответственности.

Источник: https://vtv.vn/ai-van-kho-thay-con-nguoi-trong-kiem-chung-thong-tin-10026052717475078.htm