Технології штучного інтелекту створюють багато ризиків для дітей в Інтернеті

DNVN – Пан До Дуонг Хієн, експерт з ChildFund Vietnam, зазначив, що штучний інтелект приносить багато переваг, але також створює багато потенційних ризиків для дітей в інтернеті.

Виступаючи на семінарі «Сприяння співпраці у сфері захисту дітей в онлайн-середовищі», організованому В'єтнамською асоціацією інформаційної безпеки спільно з Департаментом інформаційної безпеки ( Міністерство інформації та зв'язку ) 21 листопада в Ханої, експерти зазначили, що в контексті швидкого розвитку цифрових технологій, які стають незамінним інструментом роботи та розваг у повсякденному житті кожної людини, також зростають ризики для безпеки, інформаційної безпеки та конфіденційності.

Для дітей ці небезпеки та ризики стають ще більш очевидними, коли вони не мають достатніх навичок, щоб виявляти та запобігати їм. Це виклики не лише для В'єтнаму, а й для багатьох інших країн світу . Тому захист дітей та зміцнення співпраці та зв'язків у кіберпросторі для захисту та розширення прав і можливостей дітей також є питаннями, що піднімаються в усьому світі.

Пан Данг Ву Сон - віце-президент VNISA.

Пан Данг Ву Сон, віце-президент VNISA, колишній голова Урядового комітету з питань шифрування, зазначив: «У цьому контексті програма «Захист та підтримка дітей для здорової та творчої взаємодії в онлайн-середовищі на період 2021-2025 років» створила рушійну силу для сприяння активній участі державних установ, громадських організацій та бізнесу. Однак на практиці все ще існують обмеження у зв’язках та координації між відповідними сторонами, що суттєво впливає на ефективність роботи із захисту дітей у кіберпросторі».

За словами пана Сона, VNISA прагне співпрацювати з державними органами управління, міжнародними організаціями та бізнесом для реалізації ініціатив щодо захисту дітей в Інтернеті. Останнім часом Асоціація провела багато заходів.

«Ми вважаємо, що зв’язок та співпраця є ключем до вирішення проблем та підвищення ефективності захисту дітей у кіберпросторі. VNISA зобов’язується продовжувати свої зусилля та тісно координувати дії з вітчизняними та іноземними партнерами для створення справді безпечного та сталого кіберсередовища для молодого покоління», – додав пан Данг Ву Сон.

Розповідаючи про вплив штучного інтелекту (ШІ) на дітей в Інтернеті, пан До Дуонг Хієн, експерт ChildFund Vietnam, зазначив, що ШІ швидко розвивається, приносячи користь, але також створюючи багато потенційних ризиків для дітей в Інтернеті.

«Штучний інтелект заохочує та сприяє дитячій творчості та ініціативності. Генеративний ШІ може надати дітям творчі інструменти для самовираження через композицію, мистецтво та музику. ШІ може допомогти дітям досліджувати та вивчати нові галузі, розширювати свої знання та навички», – зазначив пан Хієн, водночас попереджаючи про недоліки: «Це проблема створення неналежного контенту. Інструменти/алгоритми ШІ постачальників платформ можуть надавати контент, невідповідний віку та шкідливий. Крім того, генеративний ШІ може бути використаний для створення дезінформації або фейкових новин, які впливають на пізнання та поведінку дітей, а також на їхній розвиток».

Однак, ШІ також може відігравати роль інструменту для захисту дітей та моніторингу онлайн-контенту. ШІ має здатність виявляти, видаляти та швидко попереджати про образливий або неприйнятний контент у соціальних мережах та на інтернет-платформах. Виявлення та повідомлення про контент із сексуальним насильством над дітьми (CSAM): програми та програмне забезпечення підтримують виявлення документів, контенту CSAM та повідомлення про нього або блокування безпосередньо в системі. Інструменти ШІ можуть допомогти у виявленні насильницької поведінки.

Пан Нго Туан Ань, віце-президент VNISA, голова клубу VCSC (третій праворуч).

Говорячи про діяльність із захисту дітей в Інтернеті останнім часом, пан Нго Туан Ань, віцепрезидент VNISA, голова клубу VCSC, сказав: «Базовий стандарт TCCS:03 VNISA, який був щойно опублікований у червні 2024 року, є важливою віхою, що сприяє просуванню екосистеми продуктів та послуг для захисту дітей в Інтернеті. Цей стандарт також сприяє оцінці якості продуктів та послуг для захисту дітей в Інтернеті, щоб допомогти користувачам та батькам почуватися безпечніше у виборі продуктів та послуг. Це стане передумовою для сприяння участі підприємств, організацій, а також великої кількості користувачів, щоб об’єднати зусилля у захисті своїх дітей від небезпек та ризиків у кіберпросторі».

Пані Фан Тхі Кім Ліен, менеджерка програми захисту дітей та участі дітей World Vision International у В'єтнамі, зазначила, що цифрове середовище створює безліч можливостей, але й ризиків для розвитку дітей. У В'єтнамі 9 з 10 дітей користуються Інтернетом. Прагнучи створити безпечне та ефективне онлайн-середовище для дітей, World Vision International у В'єтнамі зосереджується на комплексних програмах розвитку цифрових навичок, щоб діти могли знати, як захистити себе та творчо використовувати Інтернет, а також бути проактивними у створенні безпечного та ефективного інтернет-середовища.

Нгуєн Дик

Джерело: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281