Новий австралійський інструмент штучного інтелекту бореться зі шкідливими діпфейковими зображеннями

Австралія розробляє Silverer – інструмент штучного інтелекту, який допомагає запобігати діпфейкам та захищати персональні дані, і який перебуває на стадії тестування для боротьби з кіберзлочинністю.

За повідомленням кореспондента VNA у Сіднеї, Університет Монаша та Австралійська федеральна поліція (AFP) співпрацюють у розробці нового новаторського інструменту штучного інтелекту (ШІ), який уповільнить та запобіжить створенню злочинцями шкідливих дипфейкових зображень та матеріалів про жорстоке поводження з дітьми за допомогою ШІ.

Інструмент під назвою Silverer є продуктом Лабораторії штучного інтелекту для правоохоронних органів та безпеки громади (AiLECS), стратегічної дослідницької співпраці між AFP та Університетом Монаша, яка застосовує штучний інтелект для вирішення складних проблем правоохоронних органів та безпеки. Наразі інструмент, що знаходиться на пілотній фазі, розробляється під керівництвом аспірантки Університету Монаша Елізабет Перрі.

За даними Університету Монаша, проєкт використовує техніку під назвою «Отруєння даних» як основний метод у цьому новому інструменті. Цей метод передбачає ненав’язливу зміну онлайн-даних, що значно ускладнює моделям штучного інтелекту та машинного навчання (ML) створення, маніпулювання та неправильне використання зображень чи відео .

Оскільки інструменти штучного інтелекту потребують великої кількості вихідних даних, отруєння даних призводить до того, що модель створює неточні, перекручені або пошкоджені результати, що полегшує виявлення підроблених зображень або відео, створених злочинцями.

Перрі, аспірант, пояснює, що користувачі можуть використовувати Silverer для редагування зображень перед завантаженням їх у соціальні мережі чи інтернет. Це змінить пікселі, щоб обдурити модель штучного інтелекту, зробивши їхній результат спотвореним, покритим «спотвореннями» або повністю невпізнанним.

Доцент Кемпбелл Вілсон, співдиректор AiLECS та експерт з цифрової криміналістики, заявив, що створення підроблених та шкідливих зображень за допомогою технологій з відкритим кодом стає все серйознішою проблемою через простоту їх використання.

Агентство Франс Прес задокументувало зростання кількості матеріалів, що містять зображення жорстокого поводження з дітьми, створених за допомогою штучного інтелекту, оскільки злочинці використовують цю технологію для створення та поширення великої кількості фальшивої порнографії в Інтернеті.

Університет Монаша заявив, що загальна мета проєкту Silverer — розробити просту у використанні технологію для австралійців, які хочуть захистити свої персональні дані в соціальних мережах. Пілотна версія інструменту наразі розглядається для внутрішнього використання в рамках AFP./.

(TTXVN/В'єтнам+)

Джерело: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp