Компания Meta выпустила новый набор инструментов с открытым исходным кодом для обеспечения безопасности ИИ.

Компания Meta стремится утвердиться в качестве пионера в разработке технологий искусственного интеллекта.

Компания Meta представила Purple Llama — проект, посвященный созданию инструментов с открытым исходным кодом, позволяющих разработчикам оценивать и повышать надежность и безопасность создаваемых моделей искусственного интеллекта (ИИ) до их развертывания.

Мета подчеркнула необходимость совместных усилий для обеспечения безопасности ИИ, а также заявила, что проблемы ИИ нельзя решать в отрыве от контекста.

Компания заявила, что цель Purple Llama — создать общую платформу для разработки более безопасного генеративного ИИ на фоне растущей обеспокоенности по поводу больших языковых моделей и других технологий ИИ.

Гарет Линдал-Уайз, директор по информационной безопасности в компании Ontinue, специализирующейся на кибербезопасности, назвал Purple Llama «позитивным и активным шагом» на пути к более безопасным технологиям искусственного интеллекта.

Проект Purple Llama сотрудничает с разработчиками ИИ; облачными сервисами, такими как AWS и Google Cloud; компаниями-производителями полупроводников, такими как Intel, AMD и Nvidia; и компаниями-разработчиками программного обеспечения, включая Microsoft.

Первый набор инструментов, выпущенный в рамках проекта Purple Llama, — это CyberSecEval — инструмент оценки рисков кибербезопасности программного обеспечения на основе искусственного интеллекта.

В нем используется языковая модель, позволяющая выявлять неуместные или вредные тексты, включая обсуждения насилия или противоправной деятельности.

Разработчики могут использовать CyberSecEval для проверки того, склонны ли их модели ИИ генерировать небезопасный код или поддерживать кибератаки.

Исследование компании Meta показало, что большие языковые модели часто указывают на уязвимый код, что подчеркивает важность непрерывного тестирования и совершенствования для обеспечения безопасности ИИ.

Llama Guard — это ещё один набор инструментов — большая языковая модель, обученная распознавать потенциально опасные или оскорбительные выражения.

Разработчики могут использовать Llama Guard для проверки того, генерирует ли их модель или принимает небезопасный контент, что помогает отфильтровывать запросы, которые могут привести к неприемлемому результату.

(по данным IFW)

Он вкладывает значительные средства в искусственный интеллект, запуская пять новых квантовых проектов.

Он намерен вложить значительные средства в разработку крупномасштабных квантовых компьютеров и поддержку новых технологий, включая создание самого мощного в стране суперкомпьютера с искусственным интеллектом, Isambard.

Ремень GUIDi AI заменяет трости для слабовидящих.

Благодаря применению технологий искусственного интеллекта этот высокотехнологичный пояс станет незаменимым помощником для людей с нарушениями зрения, заменив громоздкие трости.

Альянс технологических гигантов, занимающихся разработкой искусственного интеллекта с открытым исходным кодом, будет конкурировать с OpenAI.

Компании Meta, IBM, Intel, Sony, Dell и другие технологические компании недавно объявили о создании альянса Open Source AI Alliance для разработки ответственных технологий с упором на меры безопасности.

Уникальный подход к разработке чат-ботов с использованием искусственного интеллекта в Китае.

Воспользовавшись неиспользованным рынком, созданным OpenAI и Google, китайские технологические компании получают значительную прибыль от тенденции персонализации в разработке чат-ботов на основе искусственного интеллекта.

Источник