Эти изображения, просмотренные в интернете миллионы раз, — дипфейки, созданные с помощью искусственного интеллекта. При внимательном рассмотрении можно заметить характерные признаки: странно изогнутые пальцы или глаза, сверкающие неестественным светом.
Однако возмущение, которое вызвали эти фейковые изображения, вполне реально.
Фотографии войны Израиля и ХАМАС наглядно и болезненно иллюстрируют опасность ИИ как инструмента пропаганды, используемого для создания реалистичных изображений.
С тех пор, как в прошлом месяце начались боевые действия, в социальных сетях циркулируют обработанные с помощью цифровых технологий фотографии, которые используются для ложных заявлений об ответственности за жертвы или для введения людей в заблуждение относительно зверств, которые никогда не происходили.
Палестинец собирает вещи из-под завалов в Газе. Фото AP.
Технологические достижения происходят всё чаще и практически без контроля. Это делает очевидным риск превращения ИИ в ещё одну форму оружия и даёт возможность заранее представить, чего следует ожидать в будущих конфликтах, выборах и других важных событиях.
«Прежде чем ситуация наладится, она станет намного хуже», — сказал Жан-Клод Голденстейн, генеральный директор CREOpoint, технологической компании со штаб-квартирой в Сан-Франциско и Париже, которая использует ИИ для оценки обоснованности онлайн-жалоб.
Его компания составила базу данных самых вирусных фейковых изображений, появляющихся в секторе Газа. «Изображения, видео и аудио: благодаря генеративному ИИ это шаг вперёд, которого вы никогда раньше не видели», — сказал он.
Имран Ахмед, генеральный директор Центра противодействия цифровой ненависти, некоммерческой организации, которая отслеживает дезинформацию о войне, заявил, что пропагандисты, создающие такие изображения, умело воздействуют на самые глубокие побуждения и тревоги людей.
Чем пугающе изображение, тем выше вероятность, что пользователи его запомнят и поделятся им, непреднамеренно распространяя дальнейшую дезинформацию. Подобная дезинформация, генерируемая искусственным интеллектом, начала стремительно распространяться после российско-украинского конфликта.
Каждый новый конфликт или избирательный сезон открывает новые возможности для распространителей дезинформации, в связи с чем многие эксперты по искусственному интеллекту и политологи предупреждают о рисках в следующем году, когда в нескольких странах, включая США, Индию, Пакистан, Украину, Индонезию и Мексику, пройдут важные выборы.
Законодатели от обеих партий в Вашингтоне предупреждают о риске использования искусственного интеллекта и социальных сетей для распространения лжи среди американских избирателей. На недавних слушаниях, посвящённых опасностям технологий дипфейка, конгрессмен США Джерри Коннолли, демократ из Вирджинии, заявил, что США необходимо инвестировать в финансирование разработки инструментов искусственного интеллекта, предназначенных для противодействия другим видам искусственного интеллекта.
Профессор Дэвид Дёрманн из Университета Буффало заявил, что эффективное реагирование на политические и социальные проблемы, вызванные дезинформацией, генерируемой ИИ, потребует как более совершенных технологий, так и лучшего регулирования.
Май Ань (по данным AP)
Источник
Комментарий (0)