В недавнем выступлении в Вашингтоне (США) г-н Смит заявил, что его наибольшую обеспокоенность в отношении искусственного интеллекта вызывает технология deepfake, создающая изображения и видео , которые выглядят реалистично. Он призвал принять меры, которые помогут людям отличать настоящие фотографии и видео от поддельных.
«Мы должны решить проблемы, связанные с дипфейками», — заявил президент Microsoft. «Мы должны принять меры по борьбе с использованием ИИ для изменения легитимного контента с целью введения людей в заблуждение или обмана».
Он также призвал лицензировать важнейшие формы ИИ с «обязанностями по обеспечению безопасности, физической безопасности, кибербезопасности и национальной безопасности». По его словам, нам нужны новые меры экспортного контроля, как минимум на шаг улучшенные по сравнению с существующими, чтобы гарантировать, что модели ИИ не будут украдены или использованы с нарушением экспортного контроля.
Регулирование ИИ стало горячей темой после публичного запуска чат-бота ChatGPT от OpenAI. Законодатели штата Вашингтон ломают голову над тем, как ввести регулирование ИИ, поскольку крупные и мелкие компании спешат вывести ИИ на рынок.
На прошлой неделе Сэм Альтман, генеральный директор OpenAI, заявил Сенату США, что использование ИИ для вмешательства в честность выборов вызывает «серьёзную обеспокоенность». Он также заявил о необходимости регулирования ИИ и призвал к глобальному сотрудничеству в этой области.
Смит утверждал, что люди должны нести ответственность за любые проблемы, вызванные искусственным интеллектом. Он призвал законодателей установить «предохранительные тормоза» для технологий искусственного интеллекта, используемых для управления электросетями, водоснабжением и другими критически важными объектами инфраструктуры, чтобы люди могли взять управление на себя. Он также упомянул систему, подобную «Знай своего клиента» (KYC), которая позволяет разработчикам мощных моделей искусственного интеллекта знать, как используются их технологии, и информировать общественность о том, какой контент, созданный искусственным интеллектом, используется для выявления фейковых видеороликов.
Ранее на этой неделе в социальных сетях стало вирусным изображение взрыва возле Пентагона, полученное с помощью искусственного интеллекта, которым поделились многие аккаунты с «голубой галочкой». Источник изображения неясен, и, хотя Министерство обороны США подтвердило, что это подделка, оно всё же привело к значительному падению фондового рынка в течение нескольких минут.
Одним из сайтов, опубликовавших фотографию, был OSINTdefender , аккаунт в Twitter с синим тиком и более чем 336 000 подписчиков. Владелец аккаунта позже извинился за распространение ложной информации, заявив, что это пример того, как «подобные изображения можно легко использовать для манипулирования информацией».
Это также одно из нескольких популярных изображений ИИ за последние недели, включая Папу Римского в стильном белом халате, черно-белую фотографию, которая выиграла премию Sony World Photography Award, и бывшего президента Дональда Трампа, арестованного полицией.
(По данным CNN, The Guardian)
Источник
Комментарий (0)