Компания Microsoft выявила международную киберпреступную сеть, которая смогла обойти защиту сервисов искусственного интеллекта и создать вредоносный контент, включая конфиденциальные фотографии знаменитостей и другую порнографию.

Хакеры собрали учетные данные сервисов из общедоступных источников и использовали их для доступа к сервисам генеративного ИИ, включая Azure OpenAI от Microsoft.

Затем они модифицируют возможности продуктов ИИ и продают доступ к ним другим преступным группировкам, инструктируя их, как создавать вредоносный контент.

хакер d3sign/Moment RF
Microsoft публично раскрыла имена четырёх хакеров, продающих инструменты для «обхода» службы искусственного интеллекта. Фото: d3sign/Moment RF

По данным Microsoft, этими лицами являются: Ариан Ядегарния (псевдоним Fiz) из Ирана, Алан Крысяк (Drago) из Великобритании, Рики Юэнь (cg-dot) из Гонконга (Китай) и Фат Фунг Тан (Asakuri) из Вьетнама.

Все четверо обвиняются в принадлежности к киберпреступной сети Storm-2139. Двое других — граждане США, но Microsoft не раскрывает их личности в целях безопасности расследования.

Microsoft заявляет, что Storm-2139 делится на три основные группы: создатели, поставщики и конечные пользователи. Создатели создают незаконные инструменты для злоупотребления сервисом генеративного ИИ; поставщики затем модифицируют их и предлагают конечным пользователям по разным ценам и с разными услугами; и, наконец, пользователи используют эти инструменты для создания вредоносного контента, часто связанного с порноактрисами и порнографическими изображениями.

Данная информация была опубликована компанией Microsoft на фоне растущих опасений по поводу неправомерного использования генеративного ИИ для создания поддельных изображений как знаменитостей, так и обычных людей, а также детской порнографии.

Такие компании, как Microsoft и OpenAI, запрещают подобные практики и принимают технические меры для их предотвращения, но хакерские группы, подобные описанной выше, все равно находят способы «обойти правила».

По словам Стивена Масады, помощника главного юрисконсульта отдела по борьбе с цифровыми преступлениями (DCU) компании Microsoft, они признают серьезность и долгосрочность воздействия оскорбительных изображений на жертв.

Компания стремится защищать пользователей, внедряя в платформу меры безопасности на основе искусственного интеллекта и защищая сервис от незаконного и вредоносного контента.

В декабре 2024 года DCU подал иск в Восточном округе Вирджинии (США) против 10 неустановленных лиц, которые занимались деятельностью, нарушающей законодательство США и политику Microsoft.

Суд выдал временный запретительный судебный приказ и предварительное судебное предписание, позволяющие Microsoft заблокировать веб-сайт, используемый для преступной деятельности, что нарушило работу группировки.

Примечательно, что после этого события некоторые участники, подозреваемые в принадлежности к группировке Storm-2139, отправили электронные письма консультантам Microsoft, в которых обвиняли друг друга.

«Этот ответ подчеркивает влияние правовых действий Microsoft и демонстрирует, как меры могут эффективно пресекать деятельность сетей киберпреступников путем захвата инфраструктуры и создания сильного сдерживающего эффекта для их участников», — написала Microsoft в своем блоге 27 февраля.

(По данным Microsoft, Bloomberg)