Потенциальные риски распространения дезинформации
Наука и технологии не только влияют на то, как пресса и средства массовой информации передают свои сообщения, влияют и обуславливают способ и эффективность доступа общественности, но и глубоко воздействуют на качество информации.
На самом деле журналистика смогла быстро адаптироваться к технологическим инновациям, особенно в последние годы. Искусственный интеллект (ИИ) постепенно стал популярным в средствах массовой информации и в редакциях новостных агентств. Применение ИИ принесло пользу как журналистам, так и медиаорганизациям. Он освобождает журналистов от утомительных рутинных задач, помогая им экономить время и сосредотачиваться на более творческой и высококвалифицированной работе.
Хотя ИИ имеет много преимуществ, он также вызывает некоторые опасения. Одним из наиболее существенных рисков является потенциальная возможность распространения дезинформации с помощью контента, созданного ИИ.
Десять крупнейших мировых информационных агентств призывают к коллективным и прозрачным переговорам между средствами массовой информации и разработчиками ИИ, чтобы контролировать, какие материалы, защищенные авторским правом, могут использоваться для обучения инструментов ИИ, а также устранить предвзятость в алгоритмах ИИ.
На прошлой неделе 10 ведущих мировых новостных организаций подписали письмо, призывающее к прозрачности и четким законам об авторском праве, направленным против ИИ. Новостные организации утверждали, что ИИ может «угрожать устойчивости медиаэкосистемы», существенно подрывая доверие читателей к качеству и целостности новостей.
Согласно многим исследованиям, ИИ может использоваться для фильтрации и отбора историй, которые с наибольшей вероятностью привлекут читателей и вовлекут их, тем самым создавая дисбаланс в новостях, которого бы не было, если бы истории представлялись объективно, созданным людьми. Общественность видит только одну сторону истории, и поэтому она может ориентироваться на одностороннюю информацию, созданную ИИ. Кроме того, ИИ может использоваться для распространения дезинформации и фейковых новостей среди общественности, представляя сфабрикованные истории наряду с реальными.
ИИ также может быть обманут фейковыми новостями. Алгоритмы ИИ разработаны для быстрой и точной обработки данных, что означает, что трудно отличить настоящие новости от фейковых. Более того, ИИ не способен понимать эмоциональные и моральные последствия новостей, которые он обрабатывает. По мере того, как ИИ продолжает совершенствоваться, его уязвимость к фейковым новостям будет расти, что еще больше усложнит различение того, что реально, а что фейково.
По словам доцента доктора Нгуена Нгока Оаня, заведующего кафедрой международных отношений Академии журналистики и коммуникаций, когда ИИ становится мощным, это также время, когда нам нужно уделять особое внимание и проявлять инициативу перед лицом риска того, что плохие парни и враждебные силы используют ИИ для распространения вредоносных и фейковых новостей. С точки зрения безопасности СМИ это показывает потенциальный риск дезинформации, искажения и фейковых новостей. После того, как искусственный интеллект будет применяться в информационной сфере, технологии могут помочь подделывать голоса, изображения, создавать фейковые истории и заявления, которые кажутся реальными, чтобы обманывать общественность, особенно в социальных сетях.
«Те, у кого плохие намерения, пользуются ролью и репутацией прессы, чтобы фальсифицировать информацию, обманывая общественность, что информация предоставлена и отражена прессой. Разработка фейковых новостей станет более изощренной и сложной, и поэтому, наряду с повышением бдительности, методы выявления, реагирования и обработки фейковых новостей должны быть сосредоточены на инвестировании в интеллектуальные технологии и систематической обработке. Необходимо улучшить возможности социального управления и управления печатными агентствами, чтобы адаптироваться к изменениям», - прокомментировал доцент , доктор Нгуен Нгок Оан.
Новостная индустрия должна найти способы защитить свой творческий контент.
С момента запуска ChatGPT в ноябре 2022 года новые приложения на основе генеративного ИИ внедрялись практически ежедневно. В результате интернет наполнился контентом, созданным ИИ. Хотя есть и ошеломляющие материалы, есть и много скучного, повторяющегося контента. Это облегчает распространение дезинформации и накладывает большую нагрузку на медиаиндустрию, чтобы завоевать и восстановить доверие читателей.
Журналист Нгуен Хоанг Нхат, заместитель главного редактора газеты Vietnamplus, вспомнил уроки прошлого, когда многие эксперты говорили, что одной из первых больших ошибок прессы было слишком медленное реагирование на важность и вторжение социальных сетей. «Мы прошли через долгий период размещения всего контента, который мы производим, в социальных сетях, меняя наши самые основные вещи, чтобы служить им, что иногда не является нашей сильной стороной и не то, что нужно читателям. Короче говоря, мы дали слишком много власти социальным сетям, и это привело к тому, что социальные сети развернулись и поглотили нас», — сказал журналист Нгуен Хоанг Нхат.
В те дни, когда женская сборная Вьетнама выступала на чемпионате мира, социальные сети были заполнены источниками, распространявшими искаженную и сфабрикованную информацию. (Фото: VTC)
Рассматривая текущую угрозу со стороны ИИ, журналист Нгуен Хоанг Нхат сказал, что в целом ИИ помогает редакциям выполнять свою работу быстрее и экономить средства, но он сделает редакторов и репортеров более снисходительными, а также будет способствовать более быстрому распространению ложной информации. «Например, во время недавнего женского чемпионата мира фейковый контент о женской сборной Вьетнама стал ужасно «вирусным» через мемы, созданные с помощью инструментов, использующих ИИ, в результате чего общая психология сегмента аудитории была доведена до крайностей», — привел пример журналист Нгуен Хоанг Нхат.
За рубежом News Guard обнаружила поразительную статистику: 347 новостных сайтов, которые выглядят как настоящие новостные сайты, полны контента, сгенерированного ИИ, и способствуют распространению дезинформации. Недавнее исследование Массачусетского технологического института (MIT) показало, что люди более склонны верить дезинформации, сгенерированной ИИ, чем фейковым новостям, сгенерированным человеком.
По словам журналиста Нгуена Хоанг Нхата, эта реальность ставит новостную индустрию в положение, когда она должна искать способы защиты своего творческого контента и интеллектуальной собственности, но при этом не может отказаться от удобств, которые приносит ИИ.
Оценивая проблемы правдивости новостей, доцент д-р Нгуен Нгок Оанх сказал, что хотя Chat GPT имеет много выдающихся особенностей, в конечном итоге это всего лишь инструмент, который журналисты должны научиться осваивать, использовать его для обслуживания своей рабочей деятельности, чтобы создавать работы и пресс-продукты в соответствии с принципами профессии. Вопрос проверки источников информации репортеров и журналистов чрезвычайно важен, если они не хотят «помогать» распространению недостоверной информации.
В ходе многочисленных семинаров и дискуссий по искусственному интеллекту был сделан вывод о том, что риск использования фейковых данных и новостей в журналистских работах очень высок, если управление контентом в редакции не успевает за развитием цифровых технологий . В контексте того, что правовой коридор для цифровой журналистики во Вьетнаме еще не догнал реальность, юридические проблемы, угрозы безопасности СМИ, случаи нарушения авторских прав и споры о журналистской этике, социальной ответственности журналистики при применении автоматизированной журналистики... являются сегодня серьезными проблемами.
Фан Хоа Жанг
Источник
Комментарий (0)