Запобігайте перетину етичних меж технологіями.

Зростаюче використання штучного інтелекту в неетичних цілях створило нагальну потребу в контролі технологій та підвищенні відповідальності користувачів.

Завдяки стрімкому розвитку штучний інтелект (ШІ) революціонізує багато галузей – від охорони здоров’я, освіти та бізнесу до повсякденного життя. Однак недоліки цієї технології створюють значні труднощі для управління та контролю інформації в кіберпросторі.

Затоплений фейковими новинами, згенерованими штучним інтелектом.

Фейкові новини, згенеровані штучним інтелектом, поширюються на платформах соціальних мереж, головним чином для отримання переглядів, лайків та залучення для онлайн-продажів або отримання прибутку від платформи.

Ті, хто створює фейкові новини, часто користуються трендовими поточними подіями, які привертають увагу громадськості. Наприклад, після серйозної дорожньо-транспортної пригоди 17 вересня на ринку Тан Лонг, комуна Лао Бао, провінція Куанг Трі , в результаті якої загинуло 12 людей, у соціальних мережах з'явилися зворушливі знімки, які довели багатьох глядачів до сліз. Визначивши ці зображення як створені штучним інтелектом, поліція комуни Лао Бао оголосила попередження про поширення цих оманливих фейкових зображень. Така поведінка не лише поширює неправдиву інформацію, але й перешкоджає розслідуванню.

Аналогічно, скориставшись увагою громадськості до перекидання туристичного човна Green Bay 58 у затоці Халонг, провінція Куангнінь, 19 липня, внаслідок чого загинули десятки людей, багато акаунтів у соціальних мережах опублікували емоційні зображення та історії про жертв. Однак значна частина цього контенту була фальшивою, створеною за допомогою штучного інтелекту для маніпулювання емоціями та залучення користувачів соціальних мереж до взаємодії. Примітно, що широке використання фальшивих зображень із перебільшеним співчуттям може ще більше травмувати родини жертв.

Завдяки постійному вдосконаленню технологій штучного інтелекту, для створення відео із захопливим контентом, який ідеально відповідає намірам користувача, потрібно лише кілька хвилин і прості команди. Серед них платформи штучного інтелекту наступного покоління, такі як KlingAI, Veo 3 та Sora, користуються великою популярністю серед користувачів у всьому світі, включаючи В'єтнам.

Крім того, технологія діпфейків – поєднання глибокого навчання та фейків – також викликає серйозне занепокоєння в усьому світі, оскільки її можна використовувати для створення зображень, звуків чи відео, які виглядають настільки реалістично, що їх дуже важко розпізнати як підробку. В результаті, численні шахрайства, пов’язані з цією технологією, сталися як у В’єтнамі, так і в усьому світі.

Генерал-лейтенант Нгуєн Мінь Чінь, постійний віце-голова Національної асоціації кібербезпеки, зазначив зростаючу тенденцію зловживання штучним інтелектом у незаконних цілях. Зокрема, кіберзлочинці використовують штучний інтелект як послугу (інструменти та програми, що надаються штучним інтелектом) для створення шкідливого програмного забезпечення, підробки голосів, облич і тексту... для шахрайства, кібератак, вторгнення в системи даних і навіть для дестабілізації безпеки та пошкодження репутації організацій, бізнесу та лідерів.

За словами пана Тран Нгок Аня, технічного директора компанії Hoa Binh Cyber ​​​​Space Company Limited (CyPeace), одним із ризиків для користувачів штучного інтелекту є потенційне отримання дезінформації, згенерованої самим інструментом. Крім того, існує низка інших проблем, таких як витік конфіденційної інформації та персональних даних.

В інтернеті поширюються фейкові зображення, щоб «змусити глядачів плакати», тим самим отримуючи лайки та збільшуючи взаємодію (скріншот).

Підвищення відповідальності користувачів

Перш ніж будуть вжиті технологічні та правові заходи для жорсткого контролю над розробкою та використанням штучного інтелекту, користувачам необхідно проактивно та відповідально використовувати цю технологію.

Експерт з кібербезпеки Ву Нгок Сон, голова Технологічного комітету Національної асоціації кібербезпеки, зазначив, що люди є суб'єктами, які експлуатують та використовують ШІ, тому як позитивні, так і негативні аспекти ШІ тісно пов'язані з людьми. Якщо користувачі є вмілими та застосовують його для добрих цілей, технологія використає свої сильні сторони на свою користь. І навпаки, якщо користувачам ШІ бракує розуміння або вони використовують його для незаконних цілей, це може призвести до серйозних наслідків. «Щоб ефективно використовувати та експлуатувати ШІ, необхідно зосередитися на створенні команди та процесів. ШІ усвідомлює свою цінність лише тоді, коли він потрапляє до рук тих, хто знає, як ним володіти», – сказав експерт з кібербезпеки.

З огляду на небезпеку технології діпфейків – провідного інструменту, що сприяє сучасному кібершахрайству – Міністерство фінансів під час розробки Закону про інвестиції та бізнес наголосило, що бізнес, пов’язаний з технологією діпфейків, необхідно регулювати як умовний бізнес-сектор, щоб запобігти зловживанню технологіями, яке призводить до порушення інформаційної безпеки та шахрайства. За даними Міністерства фінансів, бізнес, пов’язаний з технологією діпфейків, наразі є однією з нових сфер зі складними потенційними ризиками для безпеки та порядку, проте він не регулюється як умовний бізнес-сектор.

За словами адвоката Тран Ань Туана (Асоціація адвокатів Ханоя), використання штучного інтелекту для створення контенту без дозволу, особливо для створення неправдивої, сфабрикованої або шахрайської інформації, може порушувати положення Цивільного кодексу. Порушники можуть зіткнутися з адміністративними стягненнями або відшкодуванням збитків. У випадках, що призводять до серйозних наслідків, може бути притягнуто до кримінальної відповідальності. «Користувачам необхідно бути обережними під час доступу та використання штучного інтелекту, абсолютно уникаючи будь-яких дій, що використовують штучний інтелект для отримання переглядів або вподобань; вони повинні посилювати особисту відповідальність та дотримуватися закону під час використання штучного інтелекту та участі в онлайн-середовищі», – порадив адвокат Туан.

Генерал-лейтенант Нгуєн Мінь Чінь наголосив, що ключовим елементом сталого розвитку штучного інтелекту є людські ресурси. Від дослідників, інженерів, експертів з кібербезпеки до менеджерів та користувачів, кожен повинен бути повністю оснащений знаннями, навичками, етичними нормами та правовою обізнаністю. За його словами, це не лише команда, яка створює та експлуатує системи штучного інтелекту, але й ключова сила у запобіганні, виявленні та боротьбі з високотехнологічними злочинами в кіберпросторі.

У В'єтнамі буде прийнято закон про штучний інтелект.

На нещодавній національній науковій конференції, присвяченій штучному інтелекту, міністр науки і технологій Нгуєн Мань Хунг заявив, що ШІ відкриває великі можливості, але також порушує багато питань щодо етики, зайнятості та соціальної довіри. Тому розвиток ШІ має бути швидким, безпечним та гуманним.

За словами міністра Нгуєн Мань Хунга, ШІ не замінює людей, а служить людям, діючи як їхній помічник. ШІ – це потужний інструмент, але люди приймають рішення; тому ШІ повинен підтримувати, а не замінювати людське мислення, цінності та відповідальність. «Міністерство науки і технологій видасть національний кодекс етики для ШІ, який буде гармонізований з міжнародними стандартами, але розроблений з урахуванням реалій В'єтнаму, а також розробить закон про ШІ та стратегію ШІ», – заявив міністр Нгуєн Мань Хунг.

Джерело: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm