Использование искусственного интеллекта (ИИ) для создания ложной информации с целью повлиять на результаты президентских выборов в США уже не вызывает беспокойства, а стало реальностью. 22 января Министерство юстиции штата Нью-Гэмпшир (США) опубликовало уведомление о ситуации, когда некоторым гражданам была предоставлена поддельная запись голоса президента Джо Байдена с просьбой не голосовать на местных праймериз.
Запись, созданная с использованием технологии Deepfake на базе искусственного интеллекта, призывает избирателей «сохранить» свои бюллетени и утверждает, что «голоса граждан будут иметь решающее значение в ноябре, а не в следующий вторник».
Голос президента США Джо Байдена был подделан, чтобы призвать избирателей не голосовать
По данным Bloomberg, компания Pindrop Security, занимающаяся обнаружением голосового мошенничества, обнаружила, что поддельный голос Байдена был создан с помощью технологии стартапа ElevenLabs — стартапа в сфере ИИ, который специализируется на разработке генераторов голоса на основе искусственного интеллекта, использующих языковые модели, способные добавлять к контенту интонации, похожие на человеческие, на основе контекста.
Компания предлагает тысячи готовых голосов, созданных с помощью искусственного интеллекта, которые пользователи могут выбрать или создать свои собственные. На своём сайте ElevenLabs сообщает, что голоса политиков, созданные с помощью технологии Deepfake, могут быть использованы в определённых ситуациях, например, в сатире, карикатурах и т. д.
«Мы прилагаем все усилия, чтобы предотвратить злоупотребления нашими аудиоинструментами на основе искусственного интеллекта, и относимся к злоупотреблениям крайне серьёзно», — говорится в заявлении компании. Компания заблокировала аккаунт вскоре после того, как обнаружила, что кто-то создал поддельную запись голоса президента Джо Байдена, связанную с выборами.
Кэтлин Карли, профессор компьютерных наук в Университете Карнеги-Меллона, заявила, что это дело — лишь «вершина айсберга» в плане давления на избирателей. «Это лишь предвестник того, что может произойти», — подчеркнула Карли.
Ссылка на источник
Комментарий (0)