Предотвращение пересечения этических границ технологиями

Благодаря стремительному развитию искусственный интеллект (ИИ) производит «революцию» во многих областях — от здравоохранения, образования , бизнеса и до повседневной жизни. Однако негативные аспекты этой технологии создают серьёзные проблемы для управления и контроля информации в киберпространстве.

Наводнены фейковыми новостями, созданными искусственным интеллектом

Фейковые новости, генерируемые искусственным интеллектом, распространяются на платформах социальных сетей в основном для привлечения просмотров, лайков, увеличения числа взаимодействий с целью онлайн-продаж или получения прибыли от платформы.

Создатели фейковых новостей часто «следят» за актуальными общественными проблемами. Например, после серьёзного дорожно-транспортного происшествия 17 сентября на рынке Тан Лонг в коммуне Лао Бао провинции Куангчи , в результате которого 12 человек получили ранения и погибли, в социальных сетях появилось множество душераздирающих изображений, вызвавших слёзы у многих зрителей. Определив, что эти изображения созданы искусственным интеллектом, полиция коммуны Лао Бао выпустила предупреждение о распространении фейковых изображений, сеющих недопонимание. Это не только способствует распространению ложной информации, но и затрудняет расследование.

Аналогичным образом, воспользовавшись общественным вниманием к крушению туристического судна Blue Bay 58 в заливе Халонг (провинция Куангнинь) 19 июля, в результате которого погибли десятки людей, многие аккаунты в социальных сетях опубликовали трогательные изображения и истории о жертвах. Однако многие из этих материалов были поддельными, созданными с помощью искусственного интеллекта для «воздействия» на эмоции и привлечения внимания пользователей социальных сетей. В частности, широкое распространение фейковых изображений с преувеличенно сочувственным содержанием может причинить ещё большую эмоциональную травму семьям жертв.

Технологии искусственного интеллекта совершенствуются с каждым днём, и теперь создание видео с привлекательным контентом, полностью отвечающим замыслу пользователя, занимает всего несколько минут с помощью простых команд. В частности, платформы искусственного интеллекта нового поколения, такие как KlingAI, Veo 3, Sora..., пользуются большой популярностью у пользователей по всему миру, включая Вьетнам.

Кроме того, технология deepfake (глубокое обучение и фейк) также вызвала серьёзную обеспокоенность во всём мире, поскольку она позволяет создавать реалистичные изображения, звуки и видео, которые крайне сложно распознать как поддельные. В результате, как во Вьетнаме, так и по всему миру, произошла серия мошеннических действий, связанных с этой технологией.

Генерал-лейтенант Нгуен Минь Чинь, постоянный вице-президент Национальной ассоциации кибербезопасности, отметил тенденцию к злоупотреблению ИИ в незаконных целях. В частности, ИИ как услуга (сервисы, предоставляющие инструменты и приложения ИИ – PV) используется киберпреступниками для создания вредоносного кода, поддельных голосов, лиц, текстовых сообщений и т. д. для совершения мошенничества, сетевых атак, проникновения в системы данных и даже для подрыва безопасности и подрыва репутации организаций, предприятий и руководителей.

По словам г-на Чан Нгок Аня, технического директора Cyber Peace Company Limited (CyPeace), один из рисков для пользователей ИИ заключается в том, что они могут получить ложную информацию, созданную самим этим инструментом. Кроме того, существует ряд других проблем, таких как раскрытие конфиденциальной информации, персональных данных...

Предотвращение пересечения этических границ технологиями - Фото 1.

Предотвращение пересечения этических границ технологиями - Фото 2.

Поддельные изображения распространяются в интернете, чтобы «вызвать слезы» у зрителей, тем самым привлекая лайки и увеличивая взаимодействие (Скриншот)

Повышение ответственности пользователей

Прежде чем появятся технологические и правовые меры по строгому контролю за разработкой и использованием ИИ, пользователи должны активно и ответственно использовать эту технологию.

Эксперт по кибербезопасности Ву Нгок Сон, глава технологического департамента Национальной ассоциации кибербезопасности, отметил, что субъектами, эксплуатирующими и использующими ИИ, являются люди, поэтому положительные и отрицательные стороны ИИ тесно связаны с человеком. Если пользователи квалифицированы и применяют его в благих целях, технология будет развивать свои полезные преимущества. Напротив, если пользователи ИИ недостаточно разбираются в нём или используют его в незаконных целях, это может привести к серьёзным последствиям. «Чтобы эффективно использовать и эксплуатировать ИИ, необходимо сосредоточиться на формировании команд и процессов. ИИ только тогда повышает свою ценность, когда находится в руках тех, кто умеет им управлять», — сказал эксперт по кибербезопасности.

Учитывая опасность дипфейков — основного инструмента технологического мошенничества на сегодняшний день, в процессе разработки Закона об инвестициях и предпринимательстве Министерство финансов также подчеркнуло: Бизнес в сфере дипфейковых технологий необходимо регулировать как условную сферу деятельности, чтобы предотвратить злоупотребления технологиями, приводящие к сбоям в работе информационных систем, мошенничеству... По данным Министерства финансов, в настоящее время бизнес в сфере дипфейковых технологий является одной из новых сфер, которая создает сложные риски для безопасности и порядка, но не регулируется как условная сфера деятельности.

По словам адвоката Чан Ань Туана (Ханойская коллегия адвокатов), использование искусственного интеллекта для создания контента без разрешения, особенно ложной, фейковой или мошеннической информации, может нарушать положения Гражданского кодекса. Нарушители будут привлечены к административной ответственности или к возмещению ущерба. В случае серьёзных последствий может быть возбуждено уголовное дело. «Пользователям следует проявлять осторожность при использовании искусственного интеллекта, категорически избегать использования искусственного интеллекта для привлечения просмотров и лайков; повышать личную ответственность, соблюдать закон при использовании искусственного интеллекта, а также при участии в онлайн-среде», — рекомендовал адвокат Туан.

Генерал-лейтенант Нгуен Минь Чинь подчеркнул, что ключевым фактором устойчивого развития ИИ являются человеческие ресурсы. От исследователей, инженеров, экспертов по кибербезопасности до руководителей и пользователей – все они должны быть полностью оснащены знаниями, навыками, этическими принципами и правовой грамотностью. По словам г-на Чиня, это не только команда, которая создаёт и эксплуатирует системы ИИ, но и ключевая сила в предотвращении, выявлении и борьбе с высокотехнологичными преступлениями в киберпространстве.

Во Вьетнаме будет принят закон об искусственном интеллекте

На недавней национальной научной конференции по искусственному интеллекту министр науки и технологий Нгуен Мань Хунг заявил, что ИИ открывает огромные возможности, но также поднимает множество вопросов, касающихся этики, занятости и общественного доверия. Поэтому ИИ необходимо разрабатывать быстро, безопасно и гуманно.

По словам министра Нгуен Мань Хунга, ИИ не заменяет человека, а служит ему, является его помощником. ИИ — мощный инструмент, но решения принимают люди, поэтому пусть ИИ поддерживает, а не заменяет человеческое мышление, ценности и ответственность. «Министерство науки и технологий выпустит национальный этический кодекс в области ИИ, соответствующий международным стандартам, но адаптированный к вьетнамской практике, а также разработает закон и стратегию в области ИИ», — сообщил министр Нгуен Мань Хунг.

Источник: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm