Опасения, что искусственный интеллект создаст современное оружие, неподконтрольное людям

Чиновники всё больше обеспокоены неправомерным использованием ИИ для создания биологического оружия и необходимостью регулирования для предотвращения этого. (Фото: Игнатьев)

Опасения по поводу использования преступниками или террористами искусственного интеллекта для уничтожения мира станут главной темой саммита мировых лидеров в Великобритании в ноябре. Британские официальные лица путешествуют по всему миру, пытаясь достичь консенсуса по совместному заявлению, предупреждающему о рисках использования новых технологий злонамеренными силами.

Некоторые чиновники, близкие к премьер-министру Великобритании, опасаются, что в какой-то момент эта технология станет достаточно мощной для создания биологического оружия или оружия, неподконтрольного человеку. Растущая обеспокоенность требует регулирования для снижения рисков. Хотя лидеры технологических отраслей согласны приостановить разработку ИИ, они вовлечены в гонку вооружений в этой области с конкурентами.

По данным The Guardian, на ноябрьском саммите будут обсуждаться риски, связанные с «пограничным ИИ». Под «пограничным ИИ» подразумеваются самые передовые модели искусственного интеллекта, которые могут представлять угрозу для человеческой жизни.

Ранее на этой неделе правительство Великобритании подтвердило, что конференция будет посвящена таким рискам, как несанкционированное использование ИИ для создания биологического оружия, кибератак или создания передовых систем без человеческого контроля. Уже несколько месяцев г-н Сунак предупреждает о рисках, связанных с ИИ, призывая международное сообщество принять меры для предотвращения несанкционированного использования ИИ.

В прошлом году искусственному интеллекту потребовалось всего шесть часов, чтобы предложить 40 000 различных потенциально смертельных молекул, одна из которых напоминала VX — самое мощное нервно-паралитическое вещество из когда-либо созданных.

В начале 2023 года исследователи обнаружили, что ChatGPT может обманывать людей для достижения определённой цели. ИИ-чатбот убедил человека решить капчу (инструмент, позволяющий определить, манипулирует ли человек или бот).

Ещё одной серьёзной проблемой является развитие «общего искусственного интеллекта» (ОИИ) – системы ИИ, способной выполнять любую задачу не хуже человека, а то и лучше. Это может представлять потенциальную угрозу для человечества. Некоторые считают, что ОИИ появится всего через несколько лет. Однако эксперты по ИИ оспаривают это и называют неконтролируемый ОИИ «научной фантастикой».

Несмотря на это, премьер-министр Сунак захочет использовать конференцию, чтобы сосредоточить внимание на экзистенциальных рисках, а не на непосредственных возможностях ИИ, таких как создание поддельных изображений или проявление дискриминации в случае его использования для принятия решений в области государственной политики.

Правительство Великобритании выделит 100 миллионов фунтов стерлингов на создание новой целевой группы по ИИ для тестирования разрабатываемых алгоритмов. Правительство намерено побудить международные компании отправлять инструменты ИИ в Великобританию для оценки перед их широким внедрением.

По словам заместителя премьер-министра Великобритании Оливера Даудена, только правительство может гарантировать устранение важнейших проблем национальной безопасности.

Представитель правительства Великобритании заявил, что искусственный интеллект обладает огромным потенциалом для изменения всех аспектов жизни. Для обеспечения безопасной и ответственной разработки этой технологии была создана целевая группа по искусственному интеллекту. На конференции по искусственному интеллекту будет рассмотрен ряд потенциальных рисков.

(По данным The Guardian)

Применение искусственного интеллекта для защиты авторских прав на цифровой контент . Наряду с бурным развитием цифрового контента, нарушения авторских прав становятся всё более болезненными. Решения, использующие искусственный интеллект (ИИ), будут способствовать защите авторских прав на цифровой контент в Интернете.

Источник: https://vietnamnet.vn/lo-ngai-tri-tue-nhan-tao-tao-ra-vu-khi-tien-tien-khong-bi-con-nguoi-kiem-soat-2194777.html