Предупреждение об угрозе фейкового контента о стихийных бедствиях, создаваемого искусственным интеллектом

Сегодня люди стоят на пороге новой эры, когда каждый может создавать весьма убедительные видеоролики или изображения, связанные с наводнениями, ураганами или любыми другими катастрофами.

Все более реалистичные видеоролики, создаваемые искусственным интеллектом (ИИ), играют важную роль в росте фейкового контента, распространяемого во время наводнений, что вызывает замешательство среди общественности и грозит всеобщей паникой, угрожая национальной информационной безопасности.

Об этом предупреждает малазийский эксперт по безопасности в связи с ростом числа стихийных бедствий, возникающих из-за последствий изменения климата.

Доктор Нур Нирванди Мэт Нурдин, аналитик по вопросам войны, безопасности и политики из Технологического университета МАРА (UiTM), отметил, что общественность очень восприимчива к видео и изображениям, создаваемым искусственным интеллектом. Сейчас наступает новая эра, когда каждый может создавать убедительные видео или изображения, связанные с наводнениями, циклонами или любыми другими катастрофами.

Если не контролировать это, может возникнуть информационный хаос, поскольку люди невольно верят фейковому контенту, распространяемому в социальных сетях, и способствуют формированию ложных представлений и представлений, особенно в периоды кризиса. Поэтому, по мнению доктора Нура, проверка фактов должна стать культурной нормой, а общественность должна использовать платформы для проверки фактов, чтобы убедиться в точности получаемой информации.

Он также предупредил, что угроза, исходящая от манипулирования информацией с помощью искусственного интеллекта, может повлиять на общественные настроения, повлиять на их реакцию и подорвать общественный порядок и национальную безопасность.

Доктор Нур предложил Малайзии создать национальный центр информации о стихийных бедствиях и специализированное подразделение по анализу информации о стихийных бедствиях, чтобы обеспечить более организованный и точный поток информации. Также следует разработать национальный календарь стихийных бедствий, который будет периодически использоваться в качестве справочного материала для подготовки населения, а органам безопасности – сосредоточиться на улучшении координации спасательных операций.

Соглашаясь с этой точкой зрения, криминалист Шахул Хамид подчеркнул, что создание и распространение ложной информации о стихийных бедствиях теперь определено как новая угроза управлению в чрезвычайных ситуациях, поскольку современные технологии визуализации позволяют создавать невероятно реалистичные кадры наводнений всего за несколько минут.

По его словам, это явление приводит к «информационной катастрофе» и вызывает последствия, которые не ограничиваются только физическим ущербом, но и нарушают передачу реальной информации, вызывают панику, замешательство и мешают реальному общению.

Шахул Хамид предупредил, что проблема может усугубиться, если уровень цифровой грамотности населения останется низким. Распространение поддельных изображений также может помешать спасательным операциям пожарных и полиции, поскольку ресурсы могут быть перенаправлены не туда, а действительно пострадавшие районы останутся без внимания. Это увеличит риск напрасной траты ресурсов, задержек реагирования и несогласованности действий.

По словам Шахула Хамида, горячие линии экстренных служб также рискуют быть перегруженными постоянными звонками общественности с просьбой подтвердить подлинность видео, что означает, что важные звонки могут остаться без ответа. Более того, распространение информации, противоречащей официальным заявлениям, подрывает доверие общественности к агентствам и волонтёрским группам.

Кроме того, поддельные изображения ИИ могут использоваться в мошеннических целях, включая фальшивый сбор средств, эксплуатацию общественного сочувствия и манипулирование эмоциями, что добавляет новые измерения угрозам цифровой безопасности.

Поскольку общественности становится все труднее отличать реальный контент от видеороликов, созданных искусственным интеллектом, отсутствие обучения цифровой грамотности и психологической поддержки общественности во время катастроф приведет к тому, что многие люди с большей вероятностью поверят драматическому контенту, особенно когда алгоритмы социальных сетей часто отдают приоритет сенсационному контенту, в результате чего фейковые видеоролики распространяются быстрее официальной информации.

Г-н Шахул Хамид подчеркнул, что отсутствие оперативного справочного центра для проверки контента, связанного со стихийными бедствиями, сделает общественность уязвимой для мошенничества.

Опрос, проведённый компанией Bernama в TikTok и Instagram, показал, что после сезона муссонов, затронувшего несколько штатов, появилось больше видеороликов с использованием искусственного интеллекта. Среди обнаруженных фейковых материалов были изображения выходящих из воды крокодилов, тигров, входящих в деревни, ядовитых животных и необычных ситуаций, изображаемых как происходящие во время наводнений.

Многие фейковые видеоролики о сильных наводнениях выглядят очень реалистично и распространяются очень быстро, заставляя многих пользователей верить, что это кадры, взятые из реальных изображений, хотя на самом деле это полностью сгенерированные искусственным интеллектом видео.

(TTXVN/Вьетнам+)

Источник: https://www.vietnamplus.vn/canh-bao-moi-de-doa-tu-nhung-noi-dung-gia-mao-ve-thien-tai-do-ai-tao-ra-post1080179.vnp