Пошук стандартів безпеки для штучного інтелекту

СГГП 31.07.2023 09:35

Після того, як Європа почала розробляти та невдовзі запровадила перший у світі закон про штучний інтелект (ШІ), чотири провідні американські «гіганти» інтернет-інтелектуального аналізу даних щойно створили групу під назвою Frontier Model Forum.

Основна мета Форуму моделей фронтирів — просування відповідального штучного інтелекту. Фото: THINKWITHNICHE

Сторони об'єднуються

Група, до якої входять Anthropic, Google, Microsoft та OpenAI, власник ChatGPT, заявила, що основними цілями Форуму моделей Frontier є допомога у зменшенні ризиків, що виникають через платформи штучного інтелекту, та розробка галузевих стандартів. Форум моделей Frontier створить новий форум з такими основними цілями: сприяння дослідженням безпеки штучного інтелекту для підтримки розробки, зниження ризиків та стандартизації оцінок та рівнів безпеки; визначення найкращих практик для розробки та впровадження моделей, а також допомога громадськості у розумінні природи, можливостей, обмежень та впливу технології; а також співпраця з політиками, науковцями, громадянським суспільством та компаніями для обміну знаннями про ризики та безпеку.

Технологічні гіганти традиційно чинили опір посиленню регулювання, але цього разу технологічна галузь значною мірою змінила свою позицію щодо ризиків, що виникають через штучний інтелект. Компанії, що беруть участь в ініціативі Frontier Model Forum, зобов'язалися ділитися передовим досвідом між собою та робити інформацію загальнодоступною для урядів та громадянського суспільства.

Зокрема, Форум моделей Frontier зосередиться на масштабних, але ще молодих платформах машинного навчання, які виводять штучний інтелект на новий рівень складності, що також є потенційним фактором ризику. Крім того, Форум моделей Frontier також підтримуватиме розробку застосунків, що вирішують основні суспільні проблеми, такі як: пом'якшення наслідків зміни клімату та адаптація до них, раннє виявлення та профілактика раку, а також захист від кіберзагроз.

Простір для потенційного руйнування

Оголошення американськими компаніями про створення Форуму Frontier Model з'явилося через кілька днів після того, як 25 липня сенатори США попередили про ризик використання штучного інтелекту для біологічних атак на слуханнях у підкомітеті Судового комітету Сенату США. Нещодавно сім великих технологічних компаній, включаючи OpenAI, Alphabet та Meta, добровільно зобов'язалися перед Білим домом розробити систему маркування всього контенту, створеного штучним інтелектом, від тексту, зображень, аудіо до відео , щоб забезпечити користувачам прозорість інформації та гарантувати безпеку цієї технології.

Хоча штучний інтелект ще не здатний створювати біологічну зброю, це «середньостроковий» ризик, який може становити серйозну загрозу національній безпеці США протягом наступних двох-трьох років, зазначив Даріо Амодей, генеральний директор AI Anthropic. Це пояснюється тим, що суб'єкти, які здійснюють масштабні біологічні атаки, більше не обмежуються тими, хто має спеціалізовані знання в цій галузі.

Світ зіткнувся з вибуховим зростанням контенту, створеного за допомогою технології генеративного штучного інтелекту. Від США до Європи та Азії регуляторні заходи поступово посилюються. За даними CNN, починаючи з вересня, Сенат США проведе серію з дев'яти додаткових семінарів для членів, щоб дізнатися про те, як штучний інтелект може впливати на робочі місця, національну безпеку та інтелектуальну власність. Якщо буде досягнуто угоди, до США Європейський Союз матиме перший у світі закон про управління штучним інтелектом наступного року, який, як очікується, набуде чинності у 2026 році.

Переваги, які штучний інтелект приносить суспільству, незаперечні, але лунає все більше попереджень про потенційні ризики цієї нової технології. У червні Генеральний секретар ООН Антоніу Гутерріш підтримав пропозицію кількох керівників у сфері штучного інтелекту щодо створення міжнародного наглядового органу за ШІ, подібного до Міжнародного агентства з атомної енергії (МАГАТЕ).

Повернувшись на форум Frontier Model Forum, президент Microsoft Бред Сміт заявив, що ця ініціатива є важливим кроком у об'єднанні технологічних компаній для просування відповідального використання штучного інтелекту на благо всього людства. Аналогічно, віцепрезидент OpenAI з глобальних справ Анна Маканджу зазначила, що передові технології штучного інтелекту мають потенціал принести значні переваги суспільству, і це вимагає нагляду та управління.

Джерело