ИИ формирует будущее. Часть 2: Проблемы, которые с этим связаны

Потенциал сопряжен с риском

Невозможно отрицать, что искусственный интеллект (ИИ) становится всё более мощным инструментом поддержки работников и облегчения жизни людей. Однако эти технологические продукты подобны «палке о двух концах», когда их используют злоумышленники для мошенничества и атак в киберпространстве.

В предупреждающих бюллетенях Департамента информационной безопасности ( Министерства информации и коммуникаций ) и Ассоциации кибербезопасности упоминалось множество зафиксированных случаев мошенничества с использованием технологий искусственного интеллекта. Например, г-жа Нгуен Тхань Т., офисная сотрудница из Ханоя, общалась с подругой в Facebook Messenger, та попрощалась и завершила разговор, но внезапно вернулась к отправке текстовых сообщений, попросив денег в долг и переведя их на банковский счёт. Хотя имя счёта совпадало с именем подруги, г-жа Т. заподозрила неладное и запросила видеозвонок для проверки. Подруга сразу согласилась, но звонок длился всего несколько секунд из-за «прерывистого интернет-соединения».

Увидев лицо подруги в видеозвонке , а также услышав её голос, г-жа Т. перевела деньги. Однако только после успешного перевода она поняла, что попала в ловушку хакера.

Не только г-жа Т., но и многие другие жертвы, друзья и родственники, также стали жертвами мошенничества. Сумма денег, выманенных мошенниками, используя инструменты и голоса для фейков, достигла десятков миллионов донгов.

Другим типичным примером использования ИИ для присвоения активов является случай с г-ном NTH. Используя телефон Android, мошенники установили ловушку с инструкцией по установке вредоносной ссылки. С её помощью они получали контроль над телефоном и банковскими счетами, чтобы перевести деньги третьему лицу. Кроме того, вредоносная программа автоматически связывалась с доступными контактными данными и отправляла автоматические сообщения с просьбой о переводе денег.

Г-н НТХ рассказал, что мошенник представился « полицейским », позвонил по его номеру телефона и попросил подтвердить его личные данные. Будучи пожилым, незнакомым с технологиями и доверчивым, жертва передала свой телефон третьему лицу, чтобы тот выполнил инструкции мошенника, загрузив и установив вредоносное приложение «DichVuCong.apk».

Г-н Тран Нгуен Чунг, руководитель Департамента безопасности информационных систем (Департамент информационной безопасности), отметил: «С развитием технологий искусственного интеллекта (ИИ) обнаружение и различение реального и поддельного контента в киберпространстве станет сложнее, и любой может стать целью, жертвой кибератак преступников, использующих технологии искусственного интеллекта. Однако, станет ли жертвой каждый человек, зависит от наличия у него необходимых знаний и информации».

Мошенничество с использованием технологий искусственного интеллекта наблюдается не только во Вьетнаме, но и во многих странах мира. В настоящее время ведомства, организации и крупные технологические корпорации совместно работают над поиском мер и технических решений для выявления и предотвращения подобных случаев на начальном этапе.

В настоящее время важной мерой является содействие пропаганде, повышение осведомлённости людей о методах, приёмах и способах распознавания и противодействия этой изощрённой форме мошенничества, чтобы помочь снизить и ограничить влияние дипфейка на деятельность в киберпространстве. Необходимо заблаговременно публиковать широкомасштабные предупреждения в СМИ о новых тенденциях и формах мошенничества.

«В случае получения звонков с шантажом и предоставлением конфиденциальных изображений или видео людям необходимо сохранять спокойствие, проверять и тщательно исследовать происхождение изображений и видео», — сказал г-н Тран Нгуен Чунг.

Согласно исследовательскому отчёту «Выявление рисков для мировой экономики в 2024 году», подготовленному Университетом экономики (UEB) при Вьетнамском национальном университете в Ханое, одним из рисков, влияющих на мировую экономику, является риск в технологическом секторе. В отчёте говорится, что в условиях стремительного развития искусственного интеллекта политика управления не успевает за его развитием. Дезинформация, распространяемая искусственным интеллектом, особенно в год, когда в мире проводится множество выборов, создаёт множество проблем для безопасности, политики, обороны и мира во всём мире.

Выступая перед журналистами газеты Tin Tuc, заместитель министра науки и технологий Нгуен Хоанг Жанг сказал: «Премьер-министр издал Постановление № 127/2021 о национальной стратегии исследований, разработки и применения искусственного интеллекта до 2030 года. Для его реализации Министерство науки и технологий, а также другие министерства и отрасли осуществляют радикальную и синхронную реализацию, например, Министерство юстиции исследует юридический аспект. Министерство информации и коммуникаций исследует цифровые технологии. Министерство науки и технологий также поддерживает, исследует и развивает Индустрию 4.0; Исследовало и применяет развитие информационных технологий, служащее развитию цифровых и умных городов. Однако, с быстрым и сильным развитием, также проявились негативные аспекты и риски ИИ, когда он используется злоупотреблениями, чтобы стать инструментом для киберпреступников в целях мошенничества, выдачи себя за другое лицо, угроз, присвоения имущества и т. д.

На сегодняшний день Министерство науки и технологий и правительство наряду с исследованиями также активно создают правовую базу, изучая опыт других развитых стран, чтобы сфера ИИ во Вьетнаме способствовала раскрытию своего потенциала, содействовала развитию, а также строго контролировала, обеспечивала этику и гуманизм в сфере искусственного интеллекта.

Стремительное развитие инструментов искусственного интеллекта (ИИ) подняло множество вопросов, касающихся прав человека, этики, конфиденциальности, информационной безопасности и юридической ответственности. По сравнению с другими странами мира, Вьетнам всё ещё находится на ранних этапах развития ИИ. Поэтому существует необходимость в конкретных правилах и политике в области ИИ, которые учитывали бы все аспекты жизни, экономики и общества во Вьетнаме.

Срочно выпустить правовую базу

Управление тёмной стороной искусственного интеллекта также является темой, обсуждаемой в ряде стран. Европейский парламент одобрил первый в мире свод базовых правил регулирования искусственного интеллекта. Многие эксперты в области технологий считают, что этот свод правил поможет ЕС достичь обеих целей: минимизировать негативное влияние развития технологий на пользователей и сократить отставание от доминирующего положения ключевых конкурентов на рынке.

Вскоре после этого Генеральная Ассамблея Организации Объединенных Наций приняла резолюцию об искусственном интеллекте (ИИ), обеспечив всеобщую поддержку международным усилиям по обеспечению того, чтобы эта новая технология приносила пользу всем странам, уважала права человека и была «безопасной, защищенной и заслуживающей доверия».

Г-н Ву Нгок Сон, технический директор акционерного общества «Национальная компания по технологиям кибербезопасности», отметил: «Искусственный интеллект — это технология, служащая интересам человека, поддерживающая автоматизацию различных этапов работы. Это мощный инструмент, используемый для самых разных целей, таких как предоставление услуг «вопрос-ответ», разработка программного обеспечения и т. д. Однако у искусственного интеллекта есть и отрицательная сторона, когда он попадает в руки злоумышленников, стремящихся создать мошеннический контент и вредоносные коды для атак на пользователей. Соответственно, искусственный интеллект не является инструментом, предназначенным специально для создания продуктов или совершения преступлений, но важным вопросом является «как использовать» искусственный интеллект».

«Я считаю, что санкции и правовые коридоры не поспевают за темпами развития ИИ. Нам потребуется время, чтобы разработать и внедрить политику, ограничивающую риски использования ИИ в неблаговидных целях, влияющие на права человека, а также на безопасность, порядок и социальную защищенность», — заявил г-н Ву Нгок Сон.

Доктор Данг Минь Туан, директор Института информационно-коммуникационных технологий (ATI) при CMC, отметил: «С одной стороны, нам по-прежнему необходимо продолжать исследования и разработку новых технологий, совершенствовать и изучать методы использования ИИ во вред. С другой стороны, мы также должны продвигать честность в науке и работе. Соответственно, необходимо вносить коррективы и инвестиции в контент и конкретные политики в отношении этого инструмента во Вьетнаме. В частности, мы также можем использовать инструменты ИИ для обнаружения вредоносного контента и кода. ИИ подобен «палке о двух концах», создавая непрерывный, непрерывный процесс воздействия, постоянно совершенствуясь с конечной целью — служить интересам человечества».

Эксперты утверждают, что необходимо ответственно контролировать разработку высокотехнологичной продукции, поскольку неспособность регулировать и осваивать технологии приведет к непредсказуемым последствиям, нанося ущерб экономике и затрагивая как каждого отдельного человека, так и все общество.

Принятие конкретных и прозрачных правил не только поможет предотвратить и минимизировать риски, которые может вызвать ИИ, но и поможет Вьетнаму привлечь внимание и инвестиции со стороны ведущих мировых технологических предприятий, способствуя развитию отечественной индустрии информационных технологий и ИИ.

Итоговая статья: Параллельная разработка и управление ИИ

Источник: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238