Будьте осторожны с изображениями, созданными ИИ, когда информационная безопасность находится под угрозой

Тенденция создания изображений с использованием ИИ распространяется, что создает риск дезинформации, влияет на кибербезопасность и национальный суверенитет во время крупных праздников.

В эпоху стремительного развития технологий тенденция использования искусственного интеллекта (ИИ) для создания изображений распространяется в социальных сетях, привлекая внимание многих пользователей, особенно молодёжи. Фотографии, созданные с помощью ИИ, отличаются высокой креативностью, служат для развлечения, персонализации контента и выражения индивидуальности. Однако за этой привлекательностью скрываются потенциальные риски, связанные с безопасностью и защитой информации.

Развлечение или потенциальный триггер?

По данным полиции Ханоя , в последнее время наблюдается тенденция использования искусственного интеллекта (ИИ) для создания изображений, что привлекает внимание множества пользователей. Хотя эти изображения используются преимущественно в развлекательных целях, их распространение создаёт множество рисков, напрямую влияющих на безопасность и информационную сохранность, особенно в период 80-летия Августовской революции и Национального дня страны 2 сентября.

В настоящее время пользователи могут легко получать доступ к изображениям и создавать их с помощью программного обеспечения на основе искусственного интеллекта, а также использовать их в качестве аватаров, встраивать новости и статьи в социальные сети, такие как Zalo, TikTok, Facebook... Однако, если пользователи не будут осторожны, политически нечувствительны и не будут контролировать изображения, генерируемые искусственным интеллектом, они могут использовать неточные изображения, например, изображения карты Вьетнама, не содержащие информации об архипелагах Хоангша и Чыонгша; изображения, неподходящие для вьетнамцев. Использование таких неточных изображений может существенно повлиять на общественное мнение в киберпространстве и сформировать ложное представление о вопросах суверенитета границ, а также об истории и национальных культурных традициях.

Искусственный интеллект создаёт изображение аозай, напечатанного с картой Вьетнама, на которой не указаны архипелаги Хоангша и Чыонгша. (Фото: Полиция города Ханой)

Пользователь социальных сетей в Ханое с помощью искусственного интеллекта создал фотографию аозай с напечатанной на нём картой Вьетнама, а затем опубликовал её в TikTok, откликнувшись на тренд «национальной гордости». Однако на снимке, созданном с помощью искусственного интеллекта, отсутствовали острова Парасель и Спратли. Публикация быстро стала вирусной, собрав тысячи просмотров и репостов, но также столкнулась с бурной реакцией интернет-сообщества. Власти вмешались, потребовав удалить этот контент и предупредив о недопустимости распространения ложной информации, касающейся национального суверенитета .

Предупреждение от властей

По словам г-на Ву Нгок Сона, технического директора Вьетнамской национальной компании по технологиям кибербезопасности (NCS), в последнее время искусственный интеллект и приложения на его основе активно развиваются во многих сферах жизни. ChatGPT — это приложение, доступное большинству людей, не являющихся IT-специалистами, поэтому оно быстро вызвало ажиотаж.

С точки зрения технологий ChatGPT не является прорывом по сравнению с другими существующими технологиями на основе искусственного интеллекта, но с точки зрения обработки данных ChatGPT оказался весьма успешным, опираясь на огромный объём данных из самых разных областей, создавая у пользователей ощущение, что они «знают всё». В этом и заключается привлекательность ChatGPT на сегодняшний день.

С точки зрения безопасности, ChatGPT был создан для предоставления услуг вопросов и ответов, поэтому наибольший риск заключается в том, что контент, на который ChatGPT отвечает пользователям, будет контролироваться и «отравляться» кем-то, чтобы заставить ChatGPT предоставлять ложную информацию. В настоящее время нет никаких доказательств того, что ChatGPT может быть атакован, поскольку входные данные контролируются, проверяются и даже маркируются людьми этой компанией, поэтому вышеуказанные риски ограничены. Однако в будущем, когда этот сервис продолжит расширяться, потребность в большем количестве входных данных резко возрастёт, и риски, связанные с контролем данных, потребуют от производителей принятия более строгих мер безопасности.

Программное обеспечение на основе искусственного интеллекта может принести множество преимуществ, включая возможность создавать привлекательные и креативные изображения, но при безответственном использовании оно может стать «палкой о двух концах». Департамент кибербезопасности и предотвращения преступлений в сфере высоких технологий полиции города Ханой рекомендует:

1. Категорически не создавайте и не используйте изображения карты Вьетнама или изображения, которые являются неверными, нарушают закон или не соответствуют вьетнамским традициям, обычаям и культуре.

2. Регулярно делитесь предупреждающей информацией с родственниками, друзьями и местным сообществом, чтобы повысить осведомлённость и предотвратить заговоры и проделки враждебных сил. Не позволяйте субъектам использовать важные политические события в стране для совершения противоправных действий.

3. Будьте осторожны при установке и использовании непроверенных приложений ИИ, чтобы избежать риска сбора ваших персональных данных.

4. Имейте чувство ответственности перед собой и обществом, участвуя в мероприятиях в социальных сетях.

Нарушения будут строго пресекаться в соответствии с положениями закона.

Каждый пользователь должен чётко осознавать свою ответственность, участвуя в киберпространстве. «Уловка трендов» не должна обернуться невежеством или непреднамеренной поддержкой правонарушений. Что касается СМИ, то их задача — не только сообщать новости, но и формировать общественное мнение, способствуя защите истины и национальных ценностей.

Источник: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html