Новая технология помогает предотвратить обучение ИИ на основе несанкционированных данных

По данным Национального научного агентства Австралии, новая технология позволяет тонко изменять содержание изображений, делая их нечитаемыми для моделей искусственного интеллекта, но при этом оставаясь неизменными для человеческого глаза.

Австралийские ученые разработали новую технологию, которая может помешать системам искусственного интеллекта (ИИ) незаконно обучаться на изображениях, произведениях искусства и другом онлайн-контенте.

Технология, разработанная Национальным научным агентством Австралии (CSIRO), позволяет тонко изменять содержание изображений, делая их нечитаемыми для моделей искусственного интеллекта, при этом оставаясь неизменными для человеческого глаза. Об этом говорится в проекте, разработанном CSIRO совместно с Австралийским центром совместных исследований в области кибербезопасности (CSCRC) и Чикагским университетом.

Авторы утверждают, что этот прорыв может помочь художникам, организациям и пользователям социальных сетей защитить свои рабочие и личные данные от использования для обучения систем искусственного интеллекта или создания дипфейков — высокореалистичных поддельных видео , изображений или аудио, созданных искусственным интеллектом. Например, пользователи смогут автоматически наносить защитный слой на изображения перед публикацией, не позволяя ИИ изучать черты лица для создания дипфейков.

Аналогичным образом оборонные организации могут защищать конфиденциальные спутниковые снимки или данные о киберугрозах.

По словам доктора Деруя Вана, ученого из CSIRO, этот метод использует прочную математическую основу, чтобы гарантировать, что модели ИИ не смогут обучаться на этом контенте, или, другими словами, эта технология делает данные «необучаемыми» для ИИ до такой степени, что это защищает конфиденциальность и авторские права, сохраняя при этом их полезность для людей.

Он добавил, что эта защита остается в силе, даже если ИИ пытается адаптироваться или переобучается.

Доктор Ван отметил, что эту технологию можно применять автоматически в больших масштабах. Он добавил, что социальная сеть или веб-сайт могут встраивать этот защитный слой во все загружаемые изображения. Это может ограничить распространение дипфейков, снизить риск кражи интеллектуальной собственности и помочь пользователям контролировать свой контент.

Хотя в настоящее время метод применим только к изображениям, исследователи планируют распространить его на текст, музыку и видео. Технология пока находится на стадии теоретических разработок и её эффективность была продемонстрирована только в лабораторных условиях.

Вышеуказанная научная работа под названием «Примеры данных, которые можно доказать и которые невозможно изучить» была удостоена награды за выдающиеся исследования на Симпозиуме по безопасности сетей и распределенных систем (NDSS) 2025 года./.

(TTXVN/Вьетнам+)

Источник: https://www.vietnamplus.vn/ky-thuat-moi-giup-ngan-chan-ai-hoc-hoi-tu-du-lieu-khong-duoc-phep-post1055216.vnp