Опасения, что искусственный интеллект создаст современное оружие без человеческого контроля

Чиновники все больше обеспокоены неправомерным использованием ИИ для создания биологического оружия и необходимостью регулирования для смягчения этой проблемы. (Фото: Игнатьев)

Опасения, что преступники или террористы будут использовать ИИ для уничтожения мира , станут «горячей» темой на глобальной конференции по лидерству, которая пройдет в Великобритании в ноябре этого года. Британские чиновники путешествуют по всему миру, чтобы попытаться согласовать совместное заявление, предупреждающее о рисках, которые представляют злоумышленники, эксплуатирующие новые технологии.

Некоторые чиновники, близкие к премьер-министру Великобритании, опасаются, что в какой-то момент технологии станут достаточно мощными, чтобы помочь создать биологическое оружие или оружие, которое выйдет из-под контроля человека. Растущие опасения требуют регулирующего надзора для снижения рисков. Хотя лидеры технологий соглашаются приостановить разработку ИИ, они оказываются втянутыми в гонку вооружений в сфере ИИ с конкурентами.

По данным The Guardian, на ноябрьском саммите будут обсуждаться риски «пограничного ИИ». Frontier AI — термин, используемый для описания самых передовых моделей искусственного интеллекта, которые могут представлять опасность для человеческой жизни.

Ранее на этой неделе британское правительство подтвердило, что конференция будет посвящена таким рискам, как нецелевое использование ИИ для создания биологического оружия, кибератак или передовых систем без контроля человека. Уже несколько месяцев г-н Сунак предупреждает о рисках, которые несет ИИ, и призывает международное сообщество установить «рельсы» для предотвращения нецелевого использования ИИ.

В прошлом году искусственному интеллекту потребовалось всего шесть часов, чтобы предложить 40 000 различных потенциально смертельных молекул, одна из которых напоминала VX — самое мощное нервно-паралитическое вещество из когда-либо созданных.

В начале 2023 года исследователи обнаружили, что ChatGPT может обманывать людей для достижения определенных целей. Чат-бот на основе искусственного интеллекта убедил человека решить капчу (инструмент, используемый для определения того, выполняет ли операцию человек или бот).

Еще одной серьезной проблемой является рост «общего искусственного интеллекта» (ОИИ) — термин, используемый для описания систем ИИ, которые могут выполнять любую задачу так же хорошо или даже лучше, чем люди, что представляет угрозу человечеству. Некоторые полагают, что появление ИИОН произойдет всего через несколько лет. Однако эксперты по ИИ не согласны и называют неконтролируемый ИИ просто «научной фантастикой».

Несмотря на это, премьер-министр Сунак захочет использовать конференцию, чтобы сосредоточить внимание на экзистенциальных рисках, а не на непосредственных возможностях ИИ, таких как создание поддельных изображений или проявление дискриминации в случае его использования для принятия решений в сфере государственной политики.

Правительство Великобритании выделит 100 млн фунтов стерлингов на новую целевую группу по искусственному интеллекту, которая поможет тестировать разрабатываемые алгоритмы. Он хочет подтолкнуть глобальные компании к отправке инструментов ИИ обратно в Великобританию для оценки перед их широкомасштабным внедрением.

По словам заместителя премьер-министра Великобритании Оливера Даудена, только правительство может гарантировать, что самые важные проблемы национальной безопасности будут решены.

Представитель британского правительства отметил, что ИИ обладает огромным потенциалом для изменения всех аспектов жизни. Целевая группа по искусственному интеллекту была создана для обеспечения безопасной и ответственной разработки технологии. На конференции по искусственному интеллекту будут рассмотрены различные потенциальные риски.

(По данным The Guardian)

Применение искусственного интеллекта в защите авторских прав на цифровой контент Наряду с активным развитием цифрового контента нарушение авторских прав становится все более болезненным. Интегрированные решения на основе искусственного интеллекта (ИИ) будут способствовать защите авторских прав на цифровой контент в Интернете.

Источник