Остерігайтеся зображень, створених штучним інтелектом, коли інформаційна безпека знаходиться під загрозою

Тенденція створення зображень за допомогою штучного інтелекту поширюється, що потенційно призводить до спотворення інформації, впливає на мережеву безпеку та національний суверенітет під час великих свят.

В епоху швидкого технологічного розвитку тенденція використання штучного інтелекту (ШІ) для створення зображень поширюється на платформах соціальних мереж, привертаючи увагу багатьох користувачів, особливо молоді. Фотографії, створені за допомогою ШІ, є дуже креативними, служать для розваги, персоналізації контенту та вираження індивідуальності. Однак за цією привабливістю криються потенційні ризики для безпеки та захисту інформації.

Розвага чи потенційний тригер?

За даними поліції Ханоя , останнім часом спостерігається тенденція використання штучного інтелекту (ШІ) для створення зображень, що привертає увагу багатьох користувачів. Хоча поширення цих зображень переважно використовується в розважальних цілях, воно створює багато потенційних ризиків, безпосередньо впливаючи на інформаційну безпеку, особливо під час 80-ї річниці Серпневої революції та Національного свята країни 2 вересня.

Наразі користувачі можуть легко отримувати доступ до зображень та створювати їх за допомогою програмного забезпечення штучного інтелекту, а також використовувати ці зображення як аватарів, новин та статей у соціальних мережах, таких як Zalo, Tiktok, Facebook тощо. Однак, якщо користувачі не будуть обережними, політично нечутливими та не контролюватимуть зображення, що генеруються штучним інтелектом, вони можуть використовувати неточні зображення, такі як зображення карти В'єтнаму, на яких відсутня інформація про архіпелаги Хоангса та Чионгса; зображення, які не підходять для в'єтнамців. Використання цих неточних зображень значно вплине на громадську думку в кіберпросторі та може сформувати хибне уявлення про питання суверенітету кордонів, а також історію та національні культурні традиції.

Штучний інтелект створює зображення Ао Дай, надруковане з карти В'єтнаму, на якій відсутня архіпелаг Хоангса - Чионгса. (Фото: Поліція міста Ханой)

Користувач соціальних мереж у Ханої використав програмне забезпечення зі штучним інтелектом, щоб створити фотографію ао дай із надрукованою на ній картою В'єтнаму, а потім опублікував її в TikTok, реагуючи на тренд «національної гордості». Однак на зображенні, створеному штучним інтелектом, не було архіпелагів Хоангса та Чионгса. Публікація швидко стала вірусною, зібравши тисячі переглядів та поширень, але також зустріла бурхливу реакцію онлайн-спільноти. Влада втрутилася, вимагаючи видалення контенту та застерігаючи від поширення неправдивої інформації, пов'язаної з національним суверенітетом .

Попередження від влади

За словами пана Ву Нгок Сона, технічного директора В'єтнамської національної компанії з технологій кібербезпеки (NCS), останнім часом штучний інтелект та додатки на основі штучного інтелекту дуже активно розвиваються в багатьох сферах життя. ChatGPT – це насправді додаток, легкодоступний для більшості людей, які не є ІТ-фахівцями, тому він швидко викликав ажіотаж.

З точки зору технологій, ChatGPT не є проривом порівняно з іншими існуючими технологіями на основі штучного інтелекту, але з точки зору даних, ChatGPT був дуже успішним, оскільки базувався на величезній кількості даних у багатьох галузях, що давало користувачам відчуття, що «вони знають усе». У цьому також полягає привабливість ChatGPT на даний момент.

Що стосується безпеки, сам ChatGPT був створений для надання послуг запитань і відповідей, тому найбільший ризик полягає в тому, чи буде контент, на який ChatGPT відповідає користувачам, контролюватися або «отруюватися» кимось, щоб змусити ChatGPT надавати неправдиву інформацію. Наразі немає жодних доказів того, що ChatGPT може бути атакований, оскільки вхідні дані контролюються, перевіряються та навіть маркуються людьми цією компанією, тому вищезазначені ризики були обмежені. Однак у майбутньому, коли цей сервіс продовжуватиме розширюватися, попит на додаткові вхідні дані різко зростатиме, ризики контролю даних вимагатимуть від виробників жорсткіших заходів безпеки.

Програмне забезпечення на базі штучного інтелекту може принести багато переваг, зокрема можливість створювати привабливі, креативні зображення, але якщо його використовувати безвідповідально, воно може стати «палицею з двома кінцями». Департамент кібербезпеки та запобігання високотехнологічним злочинам поліції міста Ханой рекомендує людям:

1. Категорично забороняється створювати та використовувати зображення карти В'єтнаму або зображення, які є неправильними, порушують правові норми або не відповідають в'єтнамським традиціям, звичаям та культурі.

2. Регулярно поширюйте попереджувальну інформацію серед родичів, друзів та громади, щоб підвищити обізнаність та запобігти змовам і хитрощам ворожих сил. Не дозволяйте підданим використовувати важливі політичні події країни для вчинення незаконних дій.

3. Будьте обережні під час встановлення та використання неперевірених програм штучного інтелекту, щоб уникнути ризику збору ваших персональних даних.

4. Майте почуття відповідальності перед собою та громадою, коли берете участь у заходах у соціальних мережах.

Порушення будуть суворо розглядатися відповідно до положень законодавства.

Як користувач, кожна людина повинна мати чітке почуття відповідальності під час участі в кіберпросторі. «Відстеження трендів» не повинно замінюватися на незнання чи ненавмисну ​​підтримку правопорушень. Що стосується ЗМІ, то їхнє завдання полягає не лише в тому, щоб повідомляти новини, а й орієнтувати громадську думку, сприяючи захисту правди та національних цінностей.

Джерело: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html