В отличие от предыдущего периода, когда доступ к искусственным инструментам для создания дипфейковых видео был весьма ограничен, многие инструменты на основе ИИ, такие как Grok, ChatGPT, Meta AI, Gemeni и DeepSeek, получили широкое распространение и предоставляют бесплатное использование базовых функций, включая создание изображений. Пользователи могут создавать желаемые изображения, обрезать и редактировать их, не разбираясь в специализированных методах обработки. Это привело к росту использования ИИ для создания изображений с эффектом склейки лиц в самых разных целях — от развлечений до угроз в интернете.
Г-жа Ын (округ 1, Хошимин) рассказала, что однажды стала жертвой манипуляции изображениями с помощью искусственного интеллекта. Ей угрожали, и её потребовали заплатить крупную сумму денег за доступ к «конфиденциальным» данным, хотя все они были созданы с помощью инструментов искусственного интеллекта. В частности, преступники собирали её личные изображения, вставляли лица в непристойный контент, создавали чаты с конфиденциальной информацией, а затем приходили к г-же Ын, чтобы шантажировать её.
Преступники используют ИИ для редактирования, обрезки и шантажа жертв
«Они показали мне скриншоты фейковых чатов, изображений и видео, которые они создали, а затем потребовали 100 миллионов донгов за удаление контента. Должна признать, что эти составные изображения невозможно распознать как настоящие или поддельные», — поделилась жертва, добавив, что она сообщила властям о вышеописанном поведении.
Случай с г-жой Ын — лишь один из многих недавних инцидентов, связанных с использованием искусственного интеллекта и инструментов редактирования изображений во вредоносных целях. В настоящее время пользователи социальных сетей во Вьетнаме по-прежнему весьма «беззаботно» делятся личными изображениями, фотографиями друзей и родственников в интернете и публично, несмотря на многочисленные предупреждения экспертов в области информационной безопасности по этому поводу.
Недавно Министерство общественной безопасности также разослало пользователям телефонов предупреждение о появлении преступников, использующих изображения и видеозаписи людей, находящиеся в открытом доступе в интернете, а затем редактирующих, обрезающих и объединяющих их для создания контента деликатного характера с целью угроз и шантажа. «Рекомендуется проявлять бдительность при получении сообщений или звонков с вышеуказанным содержанием и не переводить деньги в случае угроз. При обнаружении признаков мошенничества или вымогательства имущества следует незамедлительно сообщить об этом в ближайшее отделение полиции через приложение VNeID», — говорится в уведомлении.
Помимо шантажа, преступники могут использовать многочисленные публичные личные изображения и видео жертвы для создания фейкового контента, чтобы опорочить репутацию в рабочей среде, отомстить и нанести ущерб чести и достоинству. Примечательно, что эти поддельные документы становятся всё более изощрёнными и их всё сложнее распознать как обычным людям, так и тем, кто интересуется вопросами искусственного интеллекта.
Исследование, проведённое польской компанией Tidio, разрабатывающей чат-боты на основе искусственного интеллекта для поддержки продаж, в конце прошлого года показало, что большинство интернет-пользователей всё чаще испытывают трудности с различением изображений, созданных искусственным интеллектом. Компания утверждает, что 87% респондентов путают изображения, созданные искусственным интеллектом, с фотографиями реальных людей. Кроме того, 62% респондентов выразили интерес к искусственному интеллекту и машинному обучению, однако половина из них не смогла правильно распознать изображения, созданные искусственным интеллектом.
В настоящее время не существует конкретных правил использования ИИ в киберпреступности, однако использование изображений других людей для угроз, шантажа или распространения ложной информации по-прежнему может подпадать под действие положений, касающихся преступлений, связанных с унижением других лиц, вымогательством имущества или распространением непристойной культурной продукции.
Столкнувшись с этой ситуацией, эксперты рекомендуют пользователям проявлять осторожность при публикации личных изображений в социальных сетях и использовать инструменты безопасности для контроля конфиденциальности.
Источник: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm
Комментарий (0)