Новый искусственный интеллект может быть использован для создания биологического оружия.

На телефоне показан интерфейс для изучения GPT-o1 от OpenAI — Фото: FINANCIAL TIMES

Как сообщила газета Financial Times 13 сентября, компания OpenAI признала, что ее модель GPT-o1, запущенная 12 сентября, «значительно» увеличивает риск использования искусственного интеллекта (ИИ) для создания биологического оружия.

В документации OpenAI, объясняющей принцип работы GPT-o1, подтверждается, что новая модель имеет «средний уровень риска» в отношении вопросов, связанных с химическим, биологическим, радиологическим и ядерным оружием. Это самый высокий уровень риска, когда-либо присвоенный OpenAI своим моделям ИИ.

По данным OpenAI, это означает, что GPT-o1 может «значительно улучшить» возможности экспертов по производству биологического оружия для неправомерного использования.

Мира Мурати, технический директор OpenAI, заявила, что, хотя GPT-o1 все еще находится на этапе тестирования, расширенные возможности этой модели требуют от компании крайней "осторожности" в отношении планов по ее внедрению в публичный доступ.

Г-жа Мурати также заявила, что модель была тщательно протестирована междисциплинарной группой экспертов. Эти специалисты были наняты компанией OpenAI для изучения ограничений модели, разработанной компанией.

Как сообщил Мурати, в ходе испытаний было установлено, что модель GPT-o1 значительно лучше соответствует общим критериям безопасности, чем ее предшественницы.

Кроме того, представители OpenAI заверили, что пробная версия GPT-o1 «безопасна для развертывания» и не может создавать рисков, более сложных, чем риски, связанные с уже разработанными технологиями.

Несмотря на эти заверения, значительная часть научного сообщества и энтузиастов искусственного интеллекта по-прежнему в значительной степени пессимистично оценивает будущее этой технологии.

Растут опасения по поводу слишком быстрого развития ИИ, опережающего темпы разработки и утверждения регулирующих его норм.

Профессор Йошуа Бенджио, специалист по информатике из Университета Монреаля и один из ведущих мировых ученых в области искусственного интеллекта, заявил, что если OpenAI в настоящее время представляет собой «средний риск» химического и биологического оружия, то «это лишь подчеркивает важность и срочность» регулирования этой области, например, принятия вызвавшего бурные дебаты законопроекта в Калифорнии.

Этот ученый подчеркнул, что подобные институты особенно необходимы в контексте того, что искусственный интеллект все больше приближается к уровню универсального искусственного интеллекта (УИИ), то есть способности рассуждать наравне с человеком.

«Чем ближе новаторские модели ИИ приближаются к общему искусственному интеллекту, тем выше риски, если не будут приняты надлежащие меры предосторожности. Улучшение способностей ИИ к рассуждению и его потенциальное использование для мошенничества крайне опасны», — оценил Бенджио.

Источник: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm