Новый австралийский инструмент искусственного интеллекта борется с вредоносными фейковыми изображениями

В Австралии разрабатывают Silverer — инструмент на основе искусственного интеллекта, помогающий предотвращать дипфейки и защищать персональные данные. Он находится на стадии тестирования и предназначен для борьбы с киберпреступностью.

По данным корреспондента VNA в Сиднее, Университет Монаша и Федеральная полиция Австралии (AFP) совместно работают над разработкой принципиально нового инструмента на основе искусственного интеллекта (ИИ), который позволит замедлить и предотвратить создание преступниками вредоносных фейковых изображений и материалов со сценами насилия над детьми с использованием ИИ.

Инструмент Silverer является разработкой Лаборатории искусственного интеллекта для правоохранительных органов и общественной безопасности (AiLECS), стратегической исследовательской инициативы Агентства по делам полиции и безопасности (AFP) и Университета Монаша, которая применяет искусственный интеллект для решения сложных задач в области охраны правопорядка и безопасности. В настоящее время инструмент находится на экспериментальной стадии разработки под руководством аспирантки Университета Монаша Элизабет Перри.

По данным Университета Монаша, в основе проекта лежит метод «отравления данных» (Data Poisoning). Этот метод заключается в тонком изменении исходных онлайн-данных, что значительно затрудняет создание, обработку и несанкционированное использование изображений и видео моделями искусственного интеллекта и машинного обучения (МО).

Поскольку инструментам ИИ требуются большие объемы исходных данных, отравление данных приводит к тому, что модель выдает неточные, искаженные или искаженные результаты, что упрощает обнаружение поддельных изображений или видео, созданных преступниками.

Перри, аспирант, объясняет, что пользователи могут использовать Silverer для редактирования изображений перед их загрузкой в ​​социальные сети или интернет. Это позволяет изменить пиксели, обманывая ИИ-модель, делая вывод искажённым, покрытым «искажениями» или совершенно неузнаваемым.

Доцент Кэмпбелл Уилсон — соруководитель AiLECS и эксперт по цифровой криминалистике — заявил, что создание поддельных и вредоносных изображений с использованием технологий с открытым исходным кодом становится все более серьезной проблемой из-за простоты их использования.

Агентство AFP зафиксировало рост количества материалов о насилии над детьми, созданных с помощью искусственного интеллекта, поскольку преступники используют эту технологию для производства и распространения больших объемов поддельной порнографии в Интернете.

Университет Монаша заявил, что общая цель проекта Silverer — разработка простой в использовании технологии для австралийцев, желающих защитить свои персональные данные в социальных сетях. В настоящее время рассматривается возможность запуска пилотной версии инструмента для внутреннего использования в AFP.

(TTXVN/Вьетнам+)

Источник: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp