Стремительное развитие искусственного интеллекта (ИИ) привлекает большое внимание во всем мире и во Вьетнаме в частности. Эксперты оценивают ИИ как важнейший фактор 4-й промышленной революции, приносящий огромные преимущества и прорывы экономическому развитию страны. По данным консалтинговой компании Exactitude Consultancy, по состоянию на февраль 2024 года объём мирового рынка ИИ для обеспечения безопасности, общественной и национальной безопасности, по прогнозам, увеличится с 11,43 млрд долларов США в 2023 году до 47,32 млрд долларов США в 2030 году.

Хотя ИИ широко применяется во многих областях, помимо таких преимуществ, как предоставление информации, интеллектуальное прогнозирование ситуаций, связанных с критической инфраструктурой, или своевременное прогнозирование кризисных ситуаций, эта технология также несет в себе множество рисков и проблем.

Все формы кибератак могут использовать ИИ

Риски и вызовы, которые искусственный интеллект представляет для общества, права и кибербезопасности, были особо отмечены на конференции и выставке Vietnam Cyber Security Summit 2024 на тему «Безопасность в эпоху бурного развития искусственного интеллекта», организованной Департаментом информационной безопасности ( Министерство информации и коммуникаций ) совместно с IEC под эгидой Министерства информации и коммуникаций 30 мая.

W-KIN_4888.JPG.jpg
На семинаре выступил г-н Нгуен Ань Туан, заместитель директора Национального центра данных о народонаселении Департамента административной полиции и общественного порядка Министерства общественной безопасности. Фото: Оргкомитет

По словам подполковника Нгуен Ань Туана, заместителя директора Национального центра данных о народонаселении Департамента административной полиции по обеспечению общественного порядка (Министерство общественной безопасности), с точки зрения общества ИИ вызывает обеспокоенность по поводу нарушения неприкосновенности частной жизни; ИИ используется для дискриминации по признаку расы, класса, пола, этнической принадлежности, провоцируя более острые конфликты и противоречия; предоставляет ложную информацию, подменяет понятия, изменяет историю, искажает правду, вызывает возмущение общественного мнения, влияет на образование и культуру.

Г-н Нгуен Туан Ань, работающий непосредственно с данными, отметил: «Хотя вьетнамские министерства, ведомства и ведомства разработали собственные источники данных для профессиональной деятельности, их синтез, использование и оценка по-прежнему имеют множество ограничений, в частности, точность и полнота практически не гарантированы». Между тем, система ИИ работает эффективно только при наличии качественных входных данных. Если входные данные неверны или неточны, это приведёт к неточным результатам анализа ИИ или к «дискриминационным» и несправедливым прогнозам.

Что касается законодательства и политики, согласно статистике legalnodes.com, около 33 стран разработали правовые документы по ИИ, но их число по-прежнему ограничено и отсутствует единый набор всеобъемлющих стандартов в этой области. Страны разделились на два направления: одно из них – внесение поправок в действующее законодательство и интеграция ИИ во все сферы, а другое – принятие правовых документов, регулирующих ИИ комплексным образом. Вьетнам находится на начальном этапе развития и не имеет конкретных политик, правовых документов или институтов, связанных с ИИ.

Что касается кибербезопасности, то все виды кибератак сегодня могут использовать искусственный интеллект для повышения инициативы злоумышленника, нанося более серьёзный ущерб. Существуют такие формы атак, как использование вредоносных файлов, имитация, мошенничество, крупномасштабные атаки типа «отказ в обслуживании» и машинное обучение. В настоящее время, помимо интернет-сети, министерства, ведомства, филиалы и местные органы власти имеют собственные сети. Имеются случаи атак, несанкционированного доступа, и искусственный интеллект может быть использован для увеличения масштаба и уровня атак.

Использование ИИ для снижения рисков ИИ

Представитель Министерства общественной безопасности в ходе фактического управления и внедрения Национальной базы данных о населении предложил три решения по минимизации рисков ИИ.

Во-первых, необходимо оперативно завершить формирование правового коридора по ИИ, чтобы предвосхитить тенденции, выпустить документы, регулирующие этические аспекты процесса разработки, производства и применения ИИ, такие как защита конфиденциальности, персональных данных и прав человека отечественных и иностранных подразделений.

По словам г-на Нгуена Ань Туана, «во Вьетнаме действует Указ о защите персональных данных, но его практическое применение не отвечает требованиям обеспечения безопасности и сохранности данных». Поэтому он предложил принять закон о данных или закон о защите персональных данных. Кроме того, необходимо разработать более чёткие правила в отношении преступлений, связанных с ИИ, и конкретные стандарты для платформ подключения, обмена и обмена информацией, связанных с ИИ.

Во-вторых, исследуйте и применяйте проекты ИИ для борьбы с рисками, связанными с ИИ. ИИ создаётся людьми и является продуктом знаний, поэтому существуют разновидности «хорошего ИИ» и «плохого ИИ». Чтобы предотвратить развитие ИИ, можно использовать сам ИИ.

В-третьих, развитие ИИ должно идти рука об руку с вопросами кибербезопасности и информационной безопасности, чтобы предотвратить атаки и контролировать перехваты, которые могут привести к серьёзным последствиям. Уровень заботы об информационной безопасности среди подразделений недостаточен.

Департаменту административной полиции по охране общественного порядка необходимо обеспечивать безопасность и сохранность систем, проводить тщательную подготовку, регулярно создавать резервные копии и восстанавливать данные, а также периодически организовывать учения по реагированию на инциденты, чтобы быть готовыми отражать преднамеренные атаки ИИ.

Усилить контроль и надзор за процессом подключения и обмена информацией с подразделениями для своевременного выявления необычного поведения и нарушений правил защиты персональных данных при использовании и обработке информации.

Наконец, создавайте и применяйте ИИ для мониторинга журналов, анализа сетевого трафика, объединяя машинное обучение и естественный язык для повышения точности при принятии решений по устранению неполадок.