Южнокорейские официальные лица заявили 27 апреля, что Национальная избирательная комиссия страны (НИК) внедрила модель искусственного интеллекта (ИИ) для обнаружения фейковых новостей, разработанную Национальной службой судебной экспертизы (НСК) с целью предотвращения распространения поддельных видеоматериалов в ходе досрочных президентских выборов 3 июня.
Эта модель искусственного интеллекта называется Aegis, в честь щита, который использовал Зевс в греческой мифологии. NEC будет использовать Aegis для обнаружения сложных фейковых видеороликов, созданных с помощью искусственного интеллекта, которые трудно распознать невооруженным глазом. Aegis был совместно разработан NFS и Корейским институтом электронных технологий (KETI).
С апреля прошлого года NFS проводит исследования в рамках проекта, организованного KETI и финансируемого Институтом планирования и оценки информационных и коммуникационных технологий. Проект называется «Саморазвивающаяся технология обнаружения дипфейков для предотвращения социальных побочных эффектов, вызванных ИИ».
Aegis был разработан на втором году проекта при участии Корейского национального полицейского университета, KAIST, Cleon (компания по созданию лиц и голосов на основе искусственного интеллекта) и Wysiwyg Studios (компания по производству фильмов). Aegis оптимизирован для обнаружения самых сложных поддельных видео.
Согласно пересмотренному Закону о выборах на государственную службу Южной Кореи, который вступит в силу в январе 2024 года, создание и распространение фейковых видеороликов, созданных с помощью искусственного интеллекта, в предвыборных целях является незаконным. Однако в последнее время в Интернете участились случаи распространения фейковых видеороликов, нацеленных на ведущих кандидатов в президенты, большинство из которых содержат клеветнический или оскорбительный контент. Например, фейковые видеоролики, на которых кандидат от Демократической партии (ДП) Ли Джэ Мён носит форму заключенного, или кандидат от Партии народной власти (ПНП) Хан Дон Хун снимает парик.
9 апреля NEC создала целевую группу по борьбе с поддельными дипфейками на основе искусственного интеллекта, используя трехэтапный процесс обнаружения. Соответственно, сначала руководитель визуально проверит видеозаписи. Если видео трудно различить, для его анализа будет использована модель искусственного интеллекта, например Aegis, а затем будет проведена оценка экспертами по искусственному интеллекту.
«В основном мы используем Aegis от NFS из-за его высокой точности обнаружения, но мы также проводим перекрестную проверку с другими моделями», — сказал представитель NEC.
Система Aegis предназначена для обнаружения выходных данных, полученных с помощью метода диффузии — одного из новейших методов генерации изображений с использованием искусственного интеллекта. Существует два основных метода генерации изображений с использованием ИИ: генеративно-состязательные сети (GAN) и диффузионные модели. GAN включают в себя две конкурирующие нейронные сети для быстрой генерации изображений, но полученные изображения часто искажаются, что упрощает их обнаружение.
Напротив, современные генераторы изображений, такие как Midjourney и DALL-E от OpenAI, используют диффузионный подход (добавление искусственного шума к изображению, а затем его удаление для получения изображения высокого разрешения и качества). Поэтому изображение, полученное методом диффузии, гораздо сложнее отличить от реального изображения, используя только обычные методы обнаружения.
Aegis усовершенствован и теперь может обнаруживать даже фейковые видеоролики, созданные с использованием методов диффузии.
«Мы оснащаем Aegis не только для обнаружения дипфейков и дипфейков, но и для анализа того, создан ли контент в вредоносных целях», — заявил представитель NFS.
Источник: https://www.vietnamplus.vn/han-quoc-su-dung-tri-tue-nhan-tao-phat-hien-video-gia-mao-ve-bau-cu-post1035586.vnp
Комментарий (0)