Запобігання перетину етичних меж технологіями

Дедалі поширеніше використання штучного інтелекту в неетичних цілях викликало нагальні вимоги щодо контролю над технологіями та підвищення відповідальності користувачів.

Завдяки стрімким темпам розвитку штучний інтелект (ШІ) створює «революцію» в багатьох сферах – від охорони здоров’я, освіти , бізнесу... до повсякденного життя. Однак негативні аспекти цієї технології створюють значні проблеми для управління та контролю інформації в кіберпросторі.

Завалені фейковими новинами, створеними штучним інтелектом

Фейкові новини, згенеровані штучним інтелектом, поширюються на платформах соціальних мереж головним чином для залучення переглядів, лайків, збільшення кількості взаємодій для продажу онлайн або отримання прибутку від платформи.

Люди, які створюють фейкові новини, часто «стежать» за актуальними питаннями, що хвилюють громадськість. Наприклад, після серйозної дорожньо-транспортної пригоди 17 вересня на ринку Тан Лонг, комуна Лао Бао, провінція Куанг Трі , в результаті якої 12 людей загинули та постраждали, у соціальних мережах з’явилася низка розчулювальних знімків, які викликали сльози у багатьох глядачів. Визначивши, що ці зображення були створені штучним інтелектом, поліція комуни Лао Бао оголосила попередження про поширення фейкових зображень, які викликають непорозуміння. Цей акт не лише призводить до поширення неправдивої інформації, але й впливає на розслідування.

Аналогічно, скориставшись увагою громадськості до перекинутого туристичного човна Blue Bay 58 у затоці Халонг, провінція Куангнінь, 19 липня, внаслідок якого загинули десятки людей, багато акаунтів у соціальних мережах опублікували зворушливі зображення та історії про жертв. Однак багато з цих матеріалів були фальшивими, створеними за допомогою штучного інтелекту, щоб «вразити» до емоцій та залучити користувачів соціальних мереж до взаємодії. Примітно, що поширені фальшиві зображення з перебільшеним співчутливим змістом можуть спричинити подальшу емоційну травму для сімей жертв.

Оскільки технології штучного інтелекту вдосконалюються щодня, потрібно лише кілька хвилин за допомогою простих команд, щоб створити відео з привабливим контентом, який відповідає задуму користувача. Зокрема, платформи штучного інтелекту нового покоління, такі як KlingAI, Veo 3, Sora..., користуються великою популярністю серед користувачів у всьому світі, включаючи В'єтнам.

Крім того, технологія діпфейків – поєднання глибокого навчання та фейків – також викликала велике занепокоєння в усьому світі, оскільки її можна використовувати для створення реалістичних зображень, звуків чи відео, які дуже важко розпізнати як підробку. В результаті, у В'єтнамі та в усьому світі сталася низка шахрайств, пов'язаних з цією технологією.

Генерал-лейтенант Нгуєн Мінь Чінь, постійний віце-президент Національної асоціації кібербезпеки, зазначив, що існує тенденція до зловживання штучним інтелектом у незаконних цілях. Зокрема, ШІ як послуга (послуги, що надають інструменти та програми ШІ - PV) використовується кіберзлочинцями для створення шкідливого коду, підробки голосів, облич, текстових повідомлень... для здійснення шахрайства, атак на мережі, проникнення в системи даних, навіть спричинення нестабільності безпеки та руйнування репутації організацій, підприємств та лідерів.

За словами пана Тран Нгок Аня, технічного директора компанії Cyber ​​​​Peace Company Limited (CyPeace), одним із ризиків для користувачів штучного інтелекту є те, що вони можуть отримувати неправдиву інформацію, створену самим цим інструментом. Крім того, існує низка інших проблем, таких як розголошення конфіденційної інформації, персональних даних...

Фейкові зображення поширюються в інтернеті, щоб «викликати сльози» у глядачів, тим самим залучаючи лайки та збільшуючи кількість взаємодій (скріншот)

Підвищити відповідальність користувачів

Перш ніж будуть вжиті технологічні та правові заходи для суворого контролю над розробкою та використанням штучного інтелекту, користувачам необхідно проактивно та відповідально використовувати цю технологію.

Експерт з кібербезпеки Ву Нгок Сон, керівник технологічного відділу Національної асоціації кібербезпеки, зазначив, що люди є суб'єктами, які експлуатують та використовують ШІ, тому позитивні та негативні сторони ШІ тісно пов'язані з людьми. Якщо користувачі кваліфіковані та застосовують його для добрих цілей, технологія просуватиме його корисні сильні сторони. Навпаки, якщо користувачі ШІ не розуміють його або використовують у незаконних цілях, це може призвести до серйозних наслідків. «Щоб ефективно використовувати та експлуатувати ШІ, необхідно зосередитися на створенні команд та процесів. ШІ просуває свою цінність лише тоді, коли він потрапляє до рук тих, хто знає, як ним володіти», – сказав експерт з кібербезпеки.

З огляду на небезпеку діпфейків – провідного інструменту технологічного шахрайства сьогодні, у процесі розробки Закону про інвестиції та бізнес Міністерство фінансів також наголосило: бізнес з діпфейковими технологіями необхідно регулювати як умовний напрямок діяльності, щоб запобігти зловживанню технологіями, що призводить до порушення інформаційного обміну, шахрайства... За даними Міністерства фінансів, наразі бізнес з діпфейковими технологіями є однією з нових сфер, що створює складні ризики для безпеки та порядку, але не регулюється як умовний напрямок діяльності.

За словами адвоката Тран Ань Туана (Асоціація адвокатів Ханоя), якщо штучний інтелект використовується для створення контенту без дозволу, особливо для створення неправдивої, підробленої або шахрайської інформації, це може порушувати положення Цивільного кодексу. Відповідно, порушники будуть підлягати адміністративним санкціям або відшкодуванню збитків. У разі серйозних наслідків може бути притягнуто до кримінальної відповідальності. «Користувачам потрібно бути обережними, звертаючись до ШІ та використовуючи його, категорично уникати використання ШІ для залучення переглядів та лайків; підвищувати особисту відповідальність, дотримуватися закону під час використання ШІ, а також участі в онлайн-середовищі», – рекомендував адвокат Туан.

Генерал-лейтенант Нгуєн Мінь Чінь наголосив, що ключовим фактором сталого розвитку штучного інтелекту є людські ресурси. Від дослідників, інженерів, експертів з кібербезпеки до менеджерів та користувачів, усі повинні бути повністю оснащені знаннями, навичками, етичними нормами та правовою обізнаністю. За словами пана Чіньха, це не лише команда, яка створює та експлуатує системи штучного інтелекту, але й ключова сила у запобіганні, виявленні та боротьбі з високотехнологічними злочинами в кіберпросторі.

У В'єтнамі буде прийнято закон про штучний інтелект

На нещодавній національній науковій конференції, присвяченій штучному інтелекту, міністр науки і технологій Нгуєн Мань Хунг заявив, що ШІ відкриває великі можливості, але також порушує багато питань щодо етики, зайнятості та соціальної довіри. Тому ШІ має розроблятися швидко, безпечно та гуманно.

За словами міністра Нгуєн Мань Хунга, ШІ не замінює людей, а служить людям, є їхнім помічником. ШІ — це потужний інструмент, але люди приймають рішення, тому нехай ШІ підтримує, а не замінює людське мислення, цінності та відповідальність. «Міністерство науки і технологій опублікує національний Кодекс етики ШІ, який відповідає міжнародним стандартам, але розроблений з урахуванням в'єтнамської практики, а також одночасно розробить закон та стратегію ШІ», — повідомив міністр Нгуєн Мань Хунг.

Джерело: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm