Дипфейк войны в Газе вызывает опасения по поводу ИИ

Эти изображения, просмотренные в интернете миллионы раз, представляют собой дипфейки, созданные с помощью искусственного интеллекта. При внимательном рассмотрении можно заметить характерные признаки: странно изогнутые пальцы или глаза, светящиеся неестественным светом.

Однако возмущение, которое вызывают эти фейковые изображения, вполне реально.

Фотографии войны Израиля и ХАМАС наглядно и болезненно иллюстрируют опасность ИИ как инструмента пропаганды, используемого для создания реалистичных изображений.

С тех пор, как в прошлом месяце начались боевые действия, в социальных сетях циркулируют обработанные с помощью цифровых технологий фотографии, которые используются для ложных заявлений об ответственности за жертвы или для введения людей в заблуждение относительно зверств, которые никогда не происходили.

Поддельные изображения войны в Газе вызывают новые опасения, изображение 1 — Палестинец собирает вещи из-под завалов в Газе. Фото AP.

Технологические достижения происходят всё чаще и практически без контроля. Это делает очевидным риск превращения ИИ в ещё одну форму оружия и даёт возможность заранее предвидеть, что произойдёт в будущих конфликтах, выборах и других важных событиях.

«Прежде чем ситуация наладится, она станет намного хуже», — сказал Жан-Клод Голденстейн, генеральный директор CREOpoint, технологической компании со штаб-квартирой в Сан-Франциско и Париже, которая использует ИИ для оценки обоснованности онлайн-жалоб.

Его компания составила базу данных самых вирусных фейковых изображений, появляющихся в секторе Газа. «Изображения, видео и аудио: благодаря креативному ИИ это шаг вперёд, которого вы никогда раньше не видели», — сказал он.

Имран Ахмед, генеральный директор Центра противодействия цифровой ненависти, некоммерческой организации, которая отслеживает дезинформацию, связанную с войной, заявил, что пропагандисты, создающие такие изображения, умело воздействуют на самые глубокие порывы и тревоги людей.

Чем пугающе изображение, тем выше вероятность, что пользователи его запомнят и поделятся им, непреднамеренно распространяя дальнейшую дезинформацию. Подобная дезинформация, генерируемая искусственным интеллектом, начала стремительно распространяться после российско-украинского конфликта.

Каждый новый конфликт или избирательный сезон открывает новые возможности для распространителей дезинформации. Многие эксперты по искусственному интеллекту и политологи предупреждают о рисках в следующем году, когда в нескольких странах, включая США, Индию, Пакистан, Украину, Индонезию и Мексику, пройдут важные выборы.

Риск использования искусственного интеллекта и социальных сетей для распространения лжи среди американских избирателей встревожил законодателей обеих партий в Вашингтоне. На недавних слушаниях, посвящённых опасностям технологий дипфейка, конгрессмен США Джерри Коннолли, демократ из Вирджинии, заявил, что США необходимо инвестировать в финансирование разработки инструментов искусственного интеллекта, предназначенных для противодействия другим видам искусственного интеллекта.

Профессор Дэвид Дёрманн из Университета Буффало заявил, что эффективное реагирование на политические и социальные проблемы, создаваемые дезинформацией, генерируемой ИИ, потребует как более совершенных технологий, так и лучшего регулирования.

Май Ань (по данным AP)

Источник