Попередження про загрозу фейкового контенту про стихійні лиха, створюваного штучним інтелектом

Дедалі реалістичніші відео, що генеруються штучним інтелектом (ШІ), є основним фактором поширення фейкового контенту під час повеней, викликаючи громадську плутанину та ризикуючи поширенням паніки, загрожуючи національній інформаційній безпеці.

Це попередження малайзійського експерта з безпеки в контексті зростання кількості стихійних лих, що трапляються через вплив зміни клімату.

Доктор Нур Нірванді Мат Нурдін, аналітик з питань війни, безпеки та політики в Технологічному університеті MARA (UiTM), сказав, що громадськість дуже сприйнятлива до відео та зображень, створених штучним інтелектом. Люди зараз стикаються з новою ерою, коли будь-хто може створювати дуже переконливі відео чи зображення, пов'язані з повенями, циклонами чи будь-яким іншим стихійним лихом.

Якщо це не контролювати, це може призвести до інформаційного хаосу, оскільки люди мимоволі вірять фейковому контенту, що поширюється на платформах соціальних мереж, і сприяють створенню хибних наративів або уявлень, особливо під час кризи. Тому, за словами доктора Нура, перевірка фактів має стати культурною нормою, а громадськість повинна використовувати платформи перевірки фактів, щоб переконатися в точності отриманої інформації.

Він також попередив, що загроза від маніпуляцій інформацією на основі штучного інтелекту може вплинути на громадські настрої, вплинути на їхню реакцію та підірвати громадський порядок і національну безпеку.

Д-р Нур запропонував Малайзії створити національний центр інформації про стихійні лиха та спеціалізований підрозділ з огляду інформації про стихійні лиха, щоб забезпечити більш організований та точний потік інформації. Також слід розробити національний календар стихійних лих як періодичний довідник, щоб допомогти громадськості підготуватися, а службам безпеки зосередитися на покращенні координації рятувальних робіт.

Погоджуючись із цією точкою зору, аналітик з питань злочинності Шахул Хамід наголосив, що створення та поширення неправдивої інформації про стихійні лиха тепер визначено як нову загрозу для управління надзвичайними ситуаціями, оскільки сучасні технології обробки зображень можуть створювати неймовірно реалістичні кадри повені лише за кілька хвилин.

Він сказав, що це явище призводить до «інформаційної катастрофи» та спричиняє наслідки, які не обмежуються лише фізичною шкодою, а й порушують передачу реальної інформації, викликають паніку, плутанину та перешкоджають реальному спілкуванню.

Шахул Хамід попередив, що проблема може погіршитися, якщо рівень цифрової грамотності населення залишиться низьким. Поширення фальшивих зображень також може зірвати рятувальні операції пожежних та поліцейських служб, оскільки ресурси можуть бути перенаправлені не туди, а справді постраждалі райони будуть ігноруватися. Це збільшить ризик марнування ресурсів, затримки реагування та порушення координації.

За словами Шахула Хаміда, екстрені гарячі лінії також ризикують бути перевантаженими постійними дзвінками громадськості з проханням перевірити справжність відео, а це означає, що важливі дзвінки можуть залишитися без відповіді. Крім того, поширення інформації, яка суперечить офіційним заявам, також підриває довіру громадськості до агентств та волонтерських команд.

Крім того, підроблені зображення зі штучним інтелектом також можуть використовуватися для шахрайства, включаючи фальшивий збір коштів, експлуатацію громадської емпатії та маніпулювання емоціями, додаючи нових вимірів до загроз цифровій безпеці.

Оскільки громадськості дедалі важче відрізнити реальний контент від відео, створених штучним інтелектом, брак навчання цифровій грамотності та психологічної підтримки громадськості під час стихійних лих зробить багатьох людей більш схильними вірити драматичному контенту, особливо коли алгоритми соціальних мереж часто надають пріоритет сенсаційному контенту, що призводить до швидшого поширення фальшивих відео, ніж офіційної інформації.

Пан Шахул Хамід наголосив, що відсутність центру швидкої перевірки контенту, пов’язаного зі стихійними лихами, зробить громадськість вразливою до шахрайства.

Опитування Bernama у TikTok та Instagram показало, що після сезону мусонів, який торкнувся кількох штатів, з'явилося більше відео на базі штучного інтелекту. Серед знайденого фейкового контенту були зображення крокодилів, що виходять назовні, тигрів, що входять у села, отруйних тварин та незвичайних ситуацій, зображених під час повеней.

Багато фальшивих відео сильних повеней виглядають дуже реалістично та поширюються дуже швидко, змушуючи багатьох користувачів вважати, що це кадри, зроблені з реальних зображень, хоча насправді це повністю відео, згенеровані штучним інтелектом.

(TTXVN/В'єтнам+)

Джерело: https://www.vietnamplus.vn/canh-bao-moi-de-doa-tu-nhung-noi-dung-gia-mao-ve-thien-tai-do-ai-tao-ra-post1080179.vnp