Штучний інтелект формує майбутнє – Частина 2: Виклики, що з ним пов’язані

Потенціал приходить з ризиком

Незаперечно, що штучний інтелект (ШІ) дедалі більше виявляється потужним інструментом для підтримки працівників та полегшення людського життя. Однак ці технологічні продукти стають схожими на «палицю з двома кінцями», коли їх використовують злочинці для скоєння шахрайства та атак у кіберпросторі.

У попереджувальних бюлетенях від Департаменту інформаційної безпеки ( Міністерства інформації та зв'язку ) або Асоціації кібербезпеки було зафіксовано багато випадків шахрайства з використанням технологій штучного інтелекту. Наприклад, пані Нгуєн Тхань Т., офісна працівниця в Ханої, під час спілкування з подругою через Facebook Messenger, подруга попрощалася та завершила розмову, але раптово повернулася до текстового повідомлення, попросивши позичити грошей та переказати гроші на банківський рахунок. Хоча ім'я на рахунку збігалося з ім'ям її подруги, пані Т. це підозрювала, тому вона запросила відеодзвінок для підтвердження. Подруга одразу погодилася, але дзвінок тривав лише кілька секунд через «перебої в мережі».

Побачивши обличчя своєї подруги у відеодзвінку , і голос також був правильним, пані Т. переказала гроші. Однак, лише після успішного переказу вона зрозуміла, що потрапила в пастку хакера.

Не лише пані Т, а й багато інших жертв, друзі та родичі також постраждали від шахрайства таким самим чином. Сума грошей, яку лиходії шахрайським шляхом виманили за допомогою інструментів та голосів Deep Fake, сягнула десятків мільйонів донгів.

Ще одним типовим прикладом використання штучного інтелекту для привласнення активів є випадок пана NTH, коли під час використання телефону Android шахраї встановлювали пастку з інструкціями щодо встановлення посилання на шкідливе програмне забезпечення. Звідти вони контролювали телефон і банківські рахунки, щоб переказати гроші третій стороні. Крім того, шкідливе програмне забезпечення також автоматично зв’язувалося з доступною контактною інформацією та надсилало автоматичні повідомлення з проханням про грошові перекази.

Пан НТХ сказав, що самозванець назвався « поліцейським », зателефонував на його номер телефону та попросив підтвердити його особисту інформацію. Оскільки жертва була похилого віку, не знайома з технологіями та довірлива, вона передала свій телефон третій особі, щоб попросити її виконати інструкції шахрая, тим самим завантаживши та встановивши на свій телефон шкідливий додаток «DichVuCong.apk».

Пан Тран Нгуєн Чунг, керівник Департаменту безпеки інформаційних систем (Департамент інформаційної безпеки), сказав: «З розвитком технології штучного інтелекту виявлення та розрізнення справжнього та фальшивого контенту в кіберпросторі стане складнішим, і будь-хто може стати мішенню, жертвою кібератак злочинців, які використовують технології штучного інтелекту. Однак, чи станеться жертвою, залежить від того, чи володіє кожна людина необхідними знаннями та інформацією».

Ця ситуація з шахрайством у сфері технологій штучного інтелекту виникає не лише у В'єтнамі, а й у багатьох країнах світу. Наразі агентства, організації та великі технологічні корпорації працюють разом над пошуком заходів та технічних рішень для виявлення та запобігання цьому в корені.

У поточний період важливим заходом є сприяння пропаганді, підвищення обізнаності людей про методи, хитрощі та способи розпізнавання та боротьби з цією складною формою підробки, щоб допомогти зменшити та обмежити вплив діпфейків на діяльність у кіберпросторі. Проактивно поширювати широкі попередження у засобах масової інформації про нові події та форми шахрайства.

«У разі отримання шантажних дзвінків із конфіденційними зображеннями чи відео, людям слід зберігати спокій, перевіряти та ретельно досліджувати походження зображень і відео», – сказав пан Тран Нгуєн Чунг.

Згідно з дослідницьким звітом «Визначення ризиків для світової економіки у 2024 році», підготовленим Економічним університетом (UEB) при В'єтнамському національному університеті в Ханої, одним із ризиків, що впливають на світову економіку, є ризик у технологічному секторі. У звіті зазначається, що в контексті швидкого зростання штучного інтелекту, управлінська політика не встигає за його розвитком. Дезінформація, яку надає ШІ, особливо в рік багатьох виборів у світі, таких як цей, створює багато проблем для безпеки, політики, оборони та миру в усьому світі.

Виступаючи перед журналістами газети «Tin Tuc», заступник міністра науки і технологій Нгуєн Хоанг Зянг сказав: «Прем’єр-міністр видав Рішення № 127/2021 про національну стратегію досліджень, розвитку та застосування штучного інтелекту до 2030 року. Для реалізації цього рішення Міністерство науки і технологій, а також інші міністерства та галузі рішуче та синхронно впроваджують ці заходи, наприклад, Міністерство юстиції досліджує юридичні аспекти, Міністерство інформації та зв’язку досліджує цифрові технології, Міністерство науки і технологій також підтримує, досліджує та розробляє «Індустрію 4.0»; досліджує та застосовує інформаційні технології, що сприяють розвитку цифрових та розумних міст. Однак, зі швидким та активним розвитком, також з’являються негативні аспекти та ризики ШІ, коли він зловживається, щоб стати інструментом кіберзлочинців з метою шахрайства, видавання себе за іншу особу, погроз, привласнення майна тощо».

Дотепер, поряд з дослідженнями, Міністерство науки і технологій та уряд також активно створюють правову базу, вивчаючи досвід інших розвинених країн, щоб сфера штучного інтелекту у В'єтнамі розвивала свій потенціал, сприяла розвитку, а також суворо контролювала, забезпечувала етику та гуманність у сфері штучного інтелекту.

Швидкий розвиток інструментів штучного інтелекту порушив багато питань щодо прав людини, етики, конфіденційності, інформаційної безпеки та юридичної відповідальності. Порівняно зі світом, В'єтнам все ще перебуває на ранніх стадіях розвитку штучного інтелекту. Тому існує потреба в спеціальних правилах та політиці щодо штучного інтелекту, які б підходили для всіх аспектів життя, економіки та суспільства у В'єтнамі.

Терміново видати правову базу

Управління темною стороною штучного інтелекту також є темою, яка обговорюється в кількох країнах. Європейський парламент схвалив перший у світі набір основних правил регулювання штучного інтелекту. Багато експертів з технологій вважають, що цей набір правил допоможе ЄС досягти обох цілей: мінімізувати негативний вплив технологічного розвитку на користувачів, а також наздогнати домінуюче становище ключових конкурентів на ринку.

Невдовзі після цього Генеральна Асамблея Організації Об'єднаних Націй ухвалила резолюцію щодо штучного інтелекту (ШІ), надаючи глобальну підтримку міжнародним зусиллям, спрямованим на забезпечення того, щоб ця нова технологія приносила користь усім країнам, поважала права людини та була «безпечною, надійною та надійною».

Пан Ву Нгок Сон, технічний директор акціонерної компанії «Національні технології кібербезпеки», сказав: «Штучний інтелект — це технологія, яка служить інтересам людини, підтримуючи автоматизацію багатьох різних етапів роботи. Це потужний інструмент, який використовується для багатьох різних цілей, таких як надання послуг запитань та відповідей, виробництво програмного забезпечення тощо. Однак ШІ має й негативну сторону, коли потрапляє в руки зловмисників з метою створення шахрайського контенту та шкідливих кодів для атаки на користувачів. Відповідно, ШІ не є інструментом, призначеним спеціально для створення продуктів чи злочинів, але важливим питанням є «як використовувати» ШІ».

«Я вважаю, що санкції та правові коридори насправді не відповідають швидкості розвитку штучного інтелекту. Нам знадобиться час, щоб розробити та впровадити політику, яка обмежить ризики використання штучного інтелекту у злих цілях, що впливають на права людини, а також на безпеку, порядок та соціальну безпеку», – сказав пан Ву Нгок Сон.

Д-р Данг Мінь Туан, директор Інституту CMC ATI, сказав: «З одного боку, нам все ще потрібно продовжувати дослідження та розробку нових технологій, оновлювати та вивчати методи використання штучного інтелекту у злих цілях. З іншого боку, ми також повинні сприяти чесності в науці та роботі. Відповідно, у В'єтнамі мають бути коригування та інвестиції в контент і конкретні політики щодо цього інструменту. Зокрема, ми також можемо використовувати інструменти штучного інтелекту для виявлення шкідливого контенту та коду. Штучний інтелект — це як «палиця з двома кінцями», яка створює безперервний процес впливу, постійно вдосконалюється з кінцевою метою служіння інтересам людини».

Експерти стверджують, що вимога полягає у відповідальному контролі розробки високотехнологічної продукції, оскільки нездатність регулювати та опанувати технології призведе до непередбачуваних наслідків, завдасть збитків економіці та вплине як на кожну людину, так і на все суспільство.

Видання конкретних та прозорих правил не лише допоможе запобігти та мінімізувати ризики, які може спричинити штучний інтелект, але й допоможе В'єтнаму привернути увагу та інвестиції від провідних світових технологічних підприємств, сприяючи розвитку вітчизняної індустрії інформаційних технологій та штучного інтелекту.

Заключна стаття: Паралельна розробка та управління ШІ

Джерело: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238