Опасения, что преступники или террористы будут использовать ИИ для уничтожения мира , станут главной темой саммита мировых лидеров в Великобритании в ноябре. Британские официальные лица путешествуют по всему миру, пытаясь достичь консенсуса по совместному заявлению, предупреждающему о рисках использования новых технологий злоумышленниками.
Некоторые чиновники, близкие к премьер-министру Великобритании, опасаются, что в какой-то момент эта технология станет достаточно мощной для создания биологического оружия или оружия, неподконтрольного человеку. Растущая обеспокоенность порождает призывы к регулированию для снижения рисков. Хотя лидеры технологических отраслей согласны приостановить разработку ИИ, они вовлечены в гонку вооружений в этой области с конкурентами.
По данным The Guardian, на ноябрьском саммите будут обсуждаться риски «пограничного ИИ». Пограничный ИИ — это термин, используемый для описания самых передовых моделей ИИ, которые могут поставить под угрозу человеческую жизнь.
Ранее на этой неделе правительство Великобритании подтвердило, что конференция будет посвящена таким рискам, как несанкционированное использование ИИ для создания биологического оружия, кибератаки и создание передовых систем без человеческого контроля. Уже несколько месяцев г-н Сунак предупреждает о рисках, связанных с ИИ, призывая международное сообщество принять меры для предотвращения несанкционированного использования ИИ.
В прошлом году искусственному интеллекту потребовалось всего шесть часов, чтобы предложить 40 000 различных потенциально смертельных молекул, одна из которых напоминала VX — самое мощное нервно-паралитическое вещество из когда-либо созданных.
В начале 2023 года исследователи обнаружили, что ChatGPT может обманывать людей ради достижения определённой цели. ИИ-чат-бот убедил человека решить капчу (инструмент, позволяющий определить, кто манипулирует: человек или бот).
Ещё одной серьёзной проблемой является появление «искусственного интеллекта общего назначения» (ИИГО) – системы ИИ, способной выполнять любую задачу не хуже человека, а то и лучше. Это может означать гибель для человечества. Некоторые считают, что ИИГО появится всего через несколько лет. Однако эксперты по ИИ оспаривают это и называют неконтролируемый ИИГО «научной фантастикой».
Несмотря на это, премьер-министр Сунак захочет использовать конференцию, чтобы сосредоточить внимание на экзистенциальных рисках, а не на непосредственных возможностях ИИ, таких как создание поддельных изображений или проявление дискриминации в случае его использования для принятия решений в области государственной политики.
Правительство Великобритании выделит 100 миллионов фунтов стерлингов на создание новой рабочей группы по ИИ для тестирования разрабатываемых алгоритмов. Правительство намерено побудить международные компании отправлять инструменты ИИ в Великобританию для оценки перед их широким внедрением.
По словам заместителя премьер-министра Великобритании Оливера Даудена, только правительство может гарантировать устранение важнейших проблем национальной безопасности.
Представитель правительства Великобритании отметил, что искусственный интеллект обладает огромным потенциалом для изменения всех аспектов жизни. Для обеспечения безопасной и ответственной разработки этой технологии была создана Целевая группа по искусственному интеллекту. На конференции по искусственному интеллекту будет рассмотрен ряд потенциальных рисков.
(По данным The Guardian)
Источник
Комментарий (0)