Использование инструментов ИИ для устранения сбоев в продуктах на базе ИИ

Фейковые новости становятся все более изощренными благодаря манипуляциям ИИ

Недавно на встрече Ассоциации журналистов Вьетнама и Ассоциации журналистов Таиланда, состоявшейся в Ханое, лидеры двух ассоциаций большую часть времени посвятили обсуждению проблемы «фейковых новостей» и заявили, что это уже не национальная проблема, а серьезная проблема, оказывающая непредсказуемое воздействие на регион и мир.

Согласно исследованию Google DeepMind, создание изображений, видео и аудиозаписей, имитирующих людей, встречается почти в два раза чаще, чем создание дезинформации с использованием таких инструментов, как чат-боты на основе искусственного интеллекта.

В последние месяцы в TikTok, X и Instagram появились фейковые посты с изображением премьер-министра Великобритании Риши Сунака и других мировых лидеров. Возникли опасения, что, несмотря на попытки социальных сетей маркировать или удалять контент, аудитория может не осознать, что это фейк, и что его распространение может повлиять на избирателей.

Поддельное изображение премьер-министра Великобритании Риши Сунака появилось в TikTok и Instagram в преддверии всеобщих выборов. (Фото: AFP)

Оценивая влияние фейковых новостей в эпоху технологий, магистр наук Лыонг Донг Сон, преподаватель Института журналистики и коммуникаций Академии журналистики и пропаганды, отметил, что продукт взаимодействия искусственного интеллекта и дезинформации, также известный как сюрреалистичные фейковые новости, может искажать восприятие общественностью событий и социальных проблем, тем самым влияя на её способность оценивать ситуацию и принимать решения. Это может привести к серьёзным последствиям – от незначительных личных решений до важных решений, затрагивающих общество и страну.

Гиперфейковые новости могут использоваться как инструмент для манипулирования общественным мнением, разжигания насилия, разжигания розни и подрыва социальной стабильности. В политической сфере гиперфейковые новости могут подрывать доверие к демократическим институтам, влиять на результаты выборов и даже провоцировать конфликты.

Говоря о трудностях, с которыми сталкиваются журналисты и новостные организации, магистр наук Лыонг Донг Сон отметил, что сложность сюрреалистичных фейковых новостей, особенно дипфейков, значительно усложняет различение реальных и фейковых новостей даже для опытных журналистов.

«В эпоху информационного взрыва общественность всё чаще требует от журналистов и новостных организаций предоставлять информацию быстро и точно. Однако это давление может привести к тому, что журналисты будут поспешно публиковать информацию, не проверив её тщательно, что создаст возможности для распространения сюрреалистичных фейковых новостей. Кроме того, журналисты и новостные организации столкнутся с юридическими и этическими рисками, если не будут проявлять осторожность при проверке и публикации информации», — сказал г-н Сон.

Используйте ИИ для проверки информации

По словам магистра наук Лыонг Донга Сона, для борьбы с этим типом фейковых новостей крайне необходимо применение современных технологических решений.

«Эти решения не только направлены на обнаружение и устранение фейковых новостей, но и на предотвращение их появления на ранних этапах», — сказал магистр наук Дон Сон.

Во-первых, по словам г-на Сона, одной из важнейших технологий сегодня является использование систем искусственного интеллекта для обнаружения фейковых новостей. Современные системы ИИ способны анализировать контекст, сравнивать информацию из нескольких источников и выявлять отклонения в информационном контенте. Типичным примером является использование ИИ для анализа видео и изображений с целью выявления признаков редактирования или производства с использованием технологии дипфейка.

Кроме того, социальные сети и поисковые системы также активно используют алгоритмы машинного обучения для автоматической классификации и фильтрации фейкового новостного контента до того, как он станет вирусным. Эти алгоритмы распознают аномалии в шаблонах распространения информации, скорости её распространения и даже тональности публикаций, тем самым оценивая вероятность того, что информация является фейковой.

Кроме того, использование технологии блокчейн для управления происхождением информации также является потенциальным решением. Блокчейн позволяет создать прозрачную и неизменяемую систему аутентификации, помогая отслеживать происхождение и историю всей информации, обеспечивая точность и надёжность.

ИИ может создавать фальшивый контент или вводящую в заблуждение информацию и изображения, которые трудно различить, что наносит огромный ущерб репутации отдельных лиц и организаций и даже наносит ущерб национальным и этническим интересам.

Разделяя мнение магистра наук Лыонг Донг Сона, г-н Фан Ван Ту, заведующий кафедрой журналистики факультета журналистики и коммуникаций Университета социальных и гуманитарных наук в Хошимине, подчеркнул, что помимо предоставления навыков по использованию преимуществ ИИ в журналистике, нам также необходимо использовать инструменты ИИ для проверки информации.

Проверка источника, которая по сути представляет собой оценку его надежности, является важным навыком, который включает в себя проверку источника информации, сравнение его с другими источниками и использование инструментов проверки фактов для определения надежности.

Интересно, что теперь существует множество интегрированных на базе искусственного интеллекта инструментов, которые помогают журналистам в процессе проверки, в дополнение к традиционным инструментам, поддерживающим проверку фактов, таким как Google Image, обратный поиск изображений Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

Г-н Фан Ван Ту отметил, что в настоящее время профессиональная подготовка журналистов требует сосредоточения на обеспечении возможностей оценки информации для противодействия атакам фейковых новостей, создаваемых искусственным интеллектом. «Использование инструментов искусственного интеллекта для устранения ошибок, связанных с искусственным интеллектом, — это самый быстрый способ помочь журналистам и информационным агентствам не только эффективно выполнять свои обязанности, но и внести вклад в повышение качества информации и защиту общественности от ложной информации и негативного влияния СМИ», — сказал г-н Ту.

Однако г-н Ту также отметил, что способность журналистов оценивать информацию не может полагаться исключительно на инструменты. Следует сразу отметить, что ИИ может помочь в анализе новостного контента, но не способен обнаружить все виды фейковых новостей и сфальсифицированной информации. Программное обеспечение ИИ по-прежнему можно обмануть с помощью тех же самых методов, которые оно использует для обнаружения.

«Ни один инструмент не является волшебной палочкой, но инструменты искусственного интеллекта, которые обнаруживают поддельные фотографии и видео, по-прежнему являются ценным ресурсом в рамках процесса проверки или метода комплексной проверки», — сказал Фан Ван Ту.

Хоа Жанг

Источник: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html