Искусственный интеллект (ИИ) совершает колоссальные прорывы, открывая беспрецедентные возможности для экономического развития, инноваций и повышения качества жизни. Однако наряду с этими огромными преимуществами ИИ также становится инструментом, используемым для осуществления все более изощренных, масштабных и труднообнаружимых мошеннических действий, что настоятельно требует от международного сообщества предотвращения риска превращения ИИ в «оружие» для преступников.
Когда ИИ используется в незаконных целях, последствия могут распространяться с беспрецедентной скоростью. Поэтому глобальное ужесточение регулирования ИИ направлено не на подавление инноваций, а на обеспечение безопасного, ответственного и благоприятного для общества развития технологий. Цифровое мошенничество становится все более изощренным.
Развитие искусственного интеллекта влечет за собой негативные последствия, в том числе потенциальную возможность его использования в качестве инструмента для содействия мошенникам.
Стремительное развитие искусственного интеллекта коренным образом меняет методы работы киберпреступников. Если раньше мошенники полагались в основном на спам, поддельные электронные письма или простые заранее заготовленные звонки, то теперь ИИ автоматизировал практически весь процесс мошенничества, от сбора данных и анализа психологии жертвы до создания крайне убедительных сфабрикованных сценариев.
Одна из самых тревожных технологий сегодня — это дипфейки, которая использует искусственный интеллект для создания поддельных изображений, видео или голосов, настолько реалистичных, что их трудно различить невооруженным глазом. Имея всего несколько секунд голосовых или графических данных, собранных из социальных сетей, злоумышленники могут создавать поддельные звонки или видео, выдавая себя за родственников, руководителей предприятий, деловых партнеров или даже государственных чиновников.
Согласно последнему отчету Международной организации уголовной полиции (Интерпол), киберпреступность в настоящее время составляет более 30% всех зарегистрированных преступлений в более чем половине стран Азиатско-Тихоокеанского региона, участвовавших в исследовании. В 2024 году в регионе было выявлено и нейтрализовано более 6,5 миллиардов киберугроз.
Недавно в Гонконге (Китай) произошёл шокирующий инцидент, когда компания была обманута на 25 миллионов долларов после онлайн-встречи, на которой все участники оказались жертвами технологии дипфейк. Ещё более тревожно то, что ИИ не только помогает подделывать изображения и голоса, но и способен взаимодействовать в режиме реального времени. Системы ИИ могут общаться в чате, отвечать на вопросы и корректировать контент в зависимости от реакции жертвы, что делает мошеннические схемы более убедительными, чем когда-либо.
В Малайзии, по прогнозам, к 2025 году число онлайн-мошенничеств достигнет 66 204, что на 87% больше, чем 35 368 в 2024 году, при этом мошенничество с инвестициями приведет к убыткам в размере до 1,47 миллиарда ринггитов. Генеральный инспектор полиции Малайзии Мохд Халид Исмаил заявил, что мошеннические схемы становятся все более изощренными, поскольку преступные группировки используют технологические достижения и современные коммуникационные платформы.
В Таиланде Комиссия по ценным бумагам и биржам (SEC) сообщила, что за первые пять месяцев 2026 года она рассмотрела восемь уголовных дел, связанных с манипулированием ценами на акции, мошенничеством, предоставлением ложной информации и незаконной торговлей на фондовом рынке, в результате чего в общей сложности 43 человека были обвинены в нарушениях. В рамках борьбы с онлайн-мошенничеством в сфере инвестиций тайские власти заморозили 368 счетов и торговых каналов, нарушавших правила. Время обработки дел варьировалось от 7 до 48 часов с момента получения информации, что помогло ограничить потери для населения.
Согласно данным Бельгийского управления по финансовым услугам и рынкам (FSMA), в Европе только за последние шесть месяцев 2025 года бельгийские потребители сообщили об общих убытках в размере более 23,4 млн евро в результате инвестиционного мошенничества. В течение 2025 года FSMA получило 2911 жалоб, связанных с незаконной деятельностью, что примерно на 11% больше по сравнению с 2024 годом. Большая часть этих убытков пришлась на мошеннические онлайн-платформы, связанные с криптовалютами… Предупреждение о рисках
В ответ на мошеннические схемы, использующие искусственный интеллект, ведущие спецслужбы, входящие в разведывательный альянс «Пять глаз» (США, Великобритания, Австралия, Канада и Новая Зеландия), 23 июня 2026 года выступили с серьезным предупреждением о растущих рисках, связанных с искусственным интеллектом, заявив, что миру необходимо срочно принять меры, прежде чем эта технология выйдет из-под контроля человека.
В совместном заявлении альянс безопасности «Пять глаз» отметил, что темпы развития ИИ сейчас опережают темпы развития механизмов управления безопасностью и защиты. Эксперты предупреждают, что ИИ перестал быть просто технологией будущего и стал инструментом, используемым киберпреступными группировками и враждебными силами в опасных целях.
Одна из самых больших проблем — это растущее использование языков программирования больших моделей (LLM) для автоматизации процесса написания вредоносного кода. Это позволяет даже людям с ограниченными техническими навыками создавать сложное программное обеспечение для кибератак, от программ-вымогателей до инструментов вторжения, способных обходить многоуровневую традиционную защиту. Кроме того, технология дипфейков (изображения и голоса, созданные с помощью ИИ) также развивается с пугающей скоростью. Созданные с помощью ИИ поддельные изображения, видео и голоса достигли очень высокого уровня реализма, став инструментами для крупномасштабных фишинговых кампаний, кражи информации или распространения дезинформации. По данным альянса «Пять глаз», риски выходят за рамки киберпреступности и финансового мошенничества. ИИ также может быть использован для манипулирования общественным мнением, распространения фейковых новостей и вмешательства в демократические процессы, что напрямую влияет на национальную безопасность многих стран.
В свете этой реальности пять стран выпустили ряд срочных рекомендаций по снижению рисков, связанных с ИИ. Основное внимание в этих предложениях уделяется переходу от подхода «после инцидента» к модели «проактивного предотвращения». Альянс призывает крупные технологические корпорации взять на себя большую ответственность за разрабатываемые ими продукты на основе ИИ. Соответственно, меры кибербезопасности должны быть интегрированы на этапе проектирования системы, а не добавляться только после начала использования продукта. Агентства безопасности также подчеркивают важность расширения обмена данными и разведывательной информацией в режиме реального времени между государственным и частным секторами для раннего выявления уязвимостей безопасности, связанных с ИИ. Страны ужесточают регулирование ИИ, чтобы предотвратить волну мошенничества в сфере технологий .
В условиях все более серьезной проблемы мошенничества с использованием ИИ многие страны и международные организации начали внедрять жесткие нормативные меры для пресечения злоупотреблений в этой области. Европейский союз (ЕС) возглавляет эти усилия, приняв Закон об ИИ, который считается первым в мире всеобъемлющим законом о регулировании искусственного интеллекта.
Согласно Закону ЕС об искусственном интеллекте, опубликованному 10 июня 2026 года и вступающему в силу 2 августа 2026 года, поставщики чат-ботов и систем искусственного интеллекта, взаимодействующих напрямую с пользователями, должны четко указывать на нечеловеческий характер такого взаимодействия. Поставщики систем, генерирующих агрегированный контент из изображений, аудио, видео и текста, должны обеспечить его разметку в машиночитаемом формате. Дипфейки и контент, созданный с помощью ИИ и используемый в общественной жизни, должны быть четко обозначены для конечных пользователей. Штрафы за нарушения могут достигать 15 миллионов евро или 3% от годового глобального дохода организации, в зависимости от того, какая сумма больше. В некоторых случаях, связанных с запрещенными действиями, штрафы могут достигать 35 миллионов евро или 7% от дохода.
В дополнение к Закону об ИИ Европейская комиссия также опубликовала Кодекс практики по прозрачности контента ИИ, в котором содержится указание предприятиям внедрять такие меры, как цифровые водяные знаки, метаданные и унифицированные идентификаторы ИИ по всему блоку. На национальном уровне многие страны, такие как Франция, Германия и Италия, вносят поправки в свои уголовные законы, чтобы напрямую бороться с использованием дипфейков в мошеннических, клеветнических целях или целях незаконного присвоения.
Тем временем бельгийские финансовые регуляторы постоянно обновляют свои списки мошеннических инвестиционных платформ и усиливают предупреждения для общественности. Однако эксперты сходятся во мнении, что, хотя закон важен, он не может быть единственным решением…
Согласно VNA
Источник: https://hdll.vn/vi/thong-inform-ly-luan---thuc-tien/canh-bao-lua-dao-gia-tang-tu-tri-tue-nhan-tao-ai.html
![[Фото] Премьер-министр Ле Мин Хунг председательствует на тематической сессии, посвященной содействию развитию науки и технологий и инноваций.](https://vphoto.vietnam.vn/thumb/1200x675/vietnam/resource/IMAGE/2026/06/23/1782207872934_ndo_br_dsc-1724-jpg.webp)
