Компании будут сотрудничать с Институтом безопасности искусственного интеллекта США (US AI Safety Institute), подразделением Национального института стандартов и технологий (NIST), федерального агентства США. Это рассматривается как важный шаг в управлении и контроле за технологиями искусственного интеллекта, которые вызывают серьёзную озабоченность с момента запуска ChatGPT от OpenAI.
«Это только начало, но важная веха в усилиях по ответственному управлению будущим ИИ», — заявила Элизабет Келли, директор Института безопасности ИИ США.
В рамках соглашения Институт безопасности искусственного интеллекта США будет предоставлять обеим компаниям обратную связь по потенциальным улучшениям безопасности их моделей как до, так и после их выпуска для широкой публики. Институт также будет тесно сотрудничать с Институтом безопасности искусственного интеллекта Великобритании в этом процессе.
«Партнёрство с Институтом безопасности искусственного интеллекта США (ИИ) позволяет использовать их обширный опыт для тщательного тестирования наших моделей перед их широким внедрением. Это расширяет наши возможности по выявлению и снижению рисков, способствуя ответственной разработке ИИ», — заявил Джек Кларк, соучредитель и руководитель отдела политики Anthropic.
Этот шаг является частью усилий по реализации указа Белого дома по ИИ, который должен быть принят в 2023 году и направлен на создание правовой основы для быстрого развертывания моделей ИИ в США.
Но пока федеральное правительство придерживается добровольного подхода, законодатели Калифорнии, технологического центра Америки, 28 августа приняли законопроект о безопасности ИИ на уровне штата. Если законопроект будет подписан губернатором, он введет более строгие правила в отношении отрасли ИИ.
Сэм Альтман, генеральный директор OpenAI, высказался в поддержку регулирования ИИ на национальном уровне, а не на уровне штатов, утверждая, что это поможет избежать риска создания препятствий для исследований и инноваций в области ИИ.
Действия ведущих технологических компаний и правительства США демонстрируют тенденцию к достижению баланса между инновациями и безопасностью в быстро развивающейся сфере ИИ.
Источник: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html
Комментарий (0)