Meta щойно випустила новий набір інструментів для безпеки на основі штучного інтелекту з відкритим кодом.

Meta прагне утвердитися як піонер у розробці технологій штучного інтелекту.

Meta представила Purple Llama, проєкт, присвячений створенню інструментів з відкритим кодом для розробників, щоб вони могли оцінювати та підвищувати надійність і безпеку згенерованих моделей штучного інтелекту (ШІ) перед їх розгортанням.

Мета наголосив на необхідності спільних зусиль для забезпечення безпеки штучного інтелекту, водночас зазначивши, що проблеми, пов'язані зі штучним інтелектом, не можна вирішувати ізольовано.

Компанія заявила, що метою Purple Llama є створення спільної платформи для розробки безпечнішого генеративного штучного інтелекту на тлі зростаючої стурбованості щодо моделей великих мов та інших технологій штучного інтелекту.

Гарет Ліндаль-Вайз, директор з інформаційної безпеки компанії з кібербезпеки Ontinue, назвав Purple Llama «позитивним та проактивним кроком» до безпечнішої технології штучного інтелекту.

Project Purple Llama співпрацює з розробниками штучного інтелекту; хмарними сервісами, такими як AWS та Google Cloud; напівпровідниковими компаніями, такими як Intel, AMD та Nvidia; та компаніями-розробниками програмного забезпечення, включаючи Microsoft.

Першим набором інструментів, випущеним Purple Llama, є CyberSecEval – інструмент оцінки ризиків кібербезпеки на базі штучного інтелекту.

Він має мовний шаблон, який визначає неприйнятний або шкідливий текст, зокрема обговорення насильства чи незаконної діяльності.

Розробники можуть використовувати CyberSecEval, щоб перевірити, чи схильні їхні моделі штучного інтелекту до створення небезпечного коду або підтримки кібератак.

Дослідження Meta показало, що великі мовні моделі часто вказують на вразливий код, що підкреслює важливість постійного тестування та вдосконалення для безпеки ШІ.

Llama Guard – це ще один інструментарій, велика мовна модель, навчена виявляти потенційно шкідливу або образливу мову.

Розробники можуть використовувати Llama Guard, щоб перевірити, чи генерує або приймає їхня модель небезпечний контент, допомагаючи фільтрувати запити, які можуть призвести до неналежного виводу.

(за даними IFW)

Він значно інвестує у штучний інтелект, запускаючи п'ять нових квантових проектів.

Він інвестуватиме значні кошти в розробку великомасштабних квантових комп'ютерів та підтримку нових технологій, зокрема в створення найпотужнішого в країні суперкомп'ютера зі штучним інтелектом — Isambard.

Пояс GUIDi AI замінює тростини для людей з вадами зору.

Завдяки застосуванню технології штучного інтелекту, цей високотехнологічний пояс стане супутником для людей з вадами зору, замінивши громіздкі тростини.

Альянс технологічних гігантів, що займається розробкою штучного інтелекту з відкритим кодом, конкуруватиме з OpenAI.

Meta, IBM, Intel, Sony, Dell та інші технологічні компанії нещодавно оголосили про створення Альянсу відкритого штучного інтелекту (Open Source AI Alliance) для розробки відповідальних технологій з акцентом на заходах безпеки.

Унікальний підхід до розробки чат-ботів на базі штучного інтелекту в Китаї.

Користуючись неосвоєним ринком OpenAI та Google, китайські технологічні компанії отримують значний прибуток від тенденції персоналізації в розробці чат-ботів на базі штучного інтелекту.

Джерело: https://vietnamnet.vn/meta-moi-phat-hanh-bo-cong-cu-nguon-mo-bao-dam-an-toan-ai-2225140.html