В мае 2024 года всемирно известные технологические гиганты последовали друг за другом, запустив новые версии искусственного интеллекта (ИИ), такие как OpenAI с GPT-4o, Google с Gemini 1.5 Pro... со множеством «суперумных» функций, добавленных для оптимизации пользовательского опыта. Однако нельзя отрицать, что эта технология используется киберпреступниками во многих сценариях онлайн-мошенничества.
Риск увеличивается
Выступая на недавнем семинаре, заместитель министра информации и коммуникаций Фам Дык Лонг указал на тот факт, что кибератаки постоянно растут, становятся все более изощренными и сложными. В частности, при поддержке ИИ риски, с которыми сталкиваются пользователи, будут расти экспоненциально. «Технология ИИ используется киберпреступниками для легкого создания новых вредоносных программ, новых и сложных фишинговых атак...» - предупредил заместитель министра Фам Дык Лонг.
Согласно отчету Департамента информационной безопасности Министерства информации и коммуникаций, риски кибербезопасности, связанные с ИИ, нанесли ущерб более чем на 1 квадриллион долларов США по всему миру, из которых 8000–10 000 миллиардов донгов только во Вьетнаме. Наиболее распространенным применением сегодня является использование ИИ для подделки голосов и лиц в целях мошенничества. Прогнозируется, что к 2025 году будет около 3000 атак в секунду, 12 вредоносных программ в секунду и 70 новых уязвимостей и слабых мест в день.
По словам г-на Нгуена Хуу Зиапа, директора BShield, специализирующегося на поддержке безопасности приложений, создание поддельных изображений и голосов не представляет сложности с развитием ИИ. Мошенники могут легко собирать данные пользователей из общедоступной информации, которую они публикуют в социальных сетях, или с помощью таких уловок, как онлайн-интервью по набору персонала, телефонные звонки от имени «органов власти». В симуляции, проведенной BShield, с доступного лица через видеозвонок мошенники могут поместить их на CCCD, прикрепить к телу движущегося человека, чтобы обмануть инструмент eKYC и быть распознанными системой как реальный человек.
Мошеннические методы с использованием технологии deepfake учащаются и становятся все более изощренными. Фото: LE TINH
С точки зрения пользователя, г-н Нгуен Тхань Трунг, ИТ-специалист из Хошимина, обеспокоен тем, что злоумышленники могут воспользоваться chatGPT для создания мошеннических писем с содержанием и стилем написания, похожими на настоящие письма от банков или авторитетных организаций. Эти письма, скорее всего, будут содержать вредоносное ПО, если пользователи нажмут на них, их данные определенно будут украдены, а их активы будут присвоены. «Программное обеспечение ИИ все больше совершенствуется, оно может создавать поддельные видео с лицами и голосами, которые на 95% похожи на реальных людей, жесты меняются в реальном времени, что делает их очень сложными для обнаружения зрителями», - сказал г-н Трунг.
Скоро будет готов юридический коридор
Чтобы ограничить риск высокотехнологичного мошенничества, эксперт по безопасности Фам Динь Тханг отметил, что пользователям необходимо регулярно обновлять свои знания об ИИ и не нажимать на ссылки неизвестного происхождения. Для предприятий следует выделить бюджет на обеспечение безопасности данных и работы системы. Сотрудники предприятий также должны пройти углубленную подготовку для доступа к реальным уязвимостям, возникающим в системе, что повышает способность определять типы кибератак.
Г-н Та Конг Сон, руководитель отдела разработки ИИ проекта по борьбе с мошенничеством, сказал, что ИИ глубоко укоренился в жизни пользователей и деятельности предприятий, агентств и подразделений благодаря своим чрезвычайно интеллектуальным функциям поддержки. В частности, технология ИИ теперь очень доступна и проста в использовании, что создаст условия для злоумышленников, чтобы легко воспользоваться ею в целях мошенничества. «Мошенники также постоянно меняют свои методы атак, пользователи должны регулярно обновлять информацию, чтобы знать, как это предотвратить», - рекомендовал г-н Сон.
По мнению экспертов, недавно обновленные модели GPT-4o и Gemini 1.5 Pro доказали, что интеллект ИИ не имеет границ. Поэтому, помимо поощрения предприятий к разработке инструментов и решений по борьбе с мошенничеством на основе ИИ, агентствам по управлению необходимо в ближайшее время завершить юридический коридор по ИИ, чтобы опережать тренд.
Подполковник Нгуен Ань Туан, заместитель директора Национального центра данных о народонаселении, заявил, что необходимо в ближайшее время выпустить документы, регламентирующие этику и ответственность отечественных и зарубежных поставщиков услуг в процессе разработки, производства, применения и использования ИИ. В то же время должны быть конкретные положения о технических стандартах для систем, которые используют, применяют, подключают и предоставляют услуги ИИ. «Необходимо исследовать и применять проекты ИИ для борьбы с рисками ИИ. Поскольку ИИ создается людьми, является продуктом знаний, будут вариации «хорошего ИИ» и «плохого ИИ», поэтому можно предотвратить развитие искусственного интеллекта самим искусственным интеллектом», - отметил подполковник Туан.
Проблемы кибербезопасности
Подполковник Нгуен Ань Туан признал, что ИИ создает проблемы для безопасности сети. Соответственно, вредоносное программное обеспечение, поддерживаемое ИИ, может быть установлено в файлах документов, когда пользователи загружают файлы документов, этот вредоносный код проникнет в систему. Кроме того, с помощью специальных технологий ИИ хакеры могут имитировать систему, атаковать дыры в безопасности. ИИ может создавать множество приложений с изображениями, поддельными названиями приложений и веб-сайтов Министерства общественной безопасности, чтобы люди могли их загрузить, установить и предоставить информацию, такую как номер удостоверения личности, пароль для входа. «ИИ также разработает собственное программное обеспечение, гибридное вредоносное ПО между многими линиями вредоносного ПО, будет иметь более сложные механизмы обхода безопасности, автоматически менять гибкие исходные коды», - предупредил подполковник Нгуен Ань Туан.
Источник: https://nld.com.vn/toi-pham-mang-co-them-bi-kip-tu-ai-196240601195415035.htm
Комментарий (0)