Пошук стандартів безпеки для штучного інтелекту

СГГП 31 липня 2023 р., 09:35

Після того, як Європа почала розробляти та невдовзі запровадила перший у світі закон про штучний інтелект (ШІ), чотири провідні гіганти інтернет-даних США щойно створили групу під назвою Frontier Model Forum.

Основна мета Форуму моделей фронтирів — відповідальне просування штучного інтелекту. Фото: THINKWITHNICHE

Сторони зближуються

Група, до якої входять Anthropic, Google, Microsoft та OpenAI, власник ChatGPT, заявила, що основними цілями Форуму моделей фронтирів є допомога у зменшенні ризиків, що виникають через платформи штучного інтелекту, та розробка галузевих стандартів. Форум моделей фронтирів створить новий форум з такими основними цілями: сприяння дослідженням безпеки штучного інтелекту для підтримки розробки, зменшення ризиків та стандартизації оцінок та рівнів безпеки; визначення найкращих практик для розробки та впровадження моделей; допомога громадськості у розумінні природи, можливостей, обмежень та впливу технології; а також співпраця з політиками, науковцями, громадянським суспільством та компаніями для обміну знаннями про ризики та безпеку.

Технологічні гіганти традиційно чинили опір посиленню регулювання, але цього разу технологічна галузь загалом змінила свою позицію щодо зростаючих занепокоєнь щодо ризиків, які створює штучний інтелект. Компанії, що беруть участь в ініціативі Frontier Model Forum, зобов'язалися ділитися передовим досвідом між собою та робити інформацію публічно доступною для урядів та громадянського суспільства.

Зокрема, Форум моделей фронтирів зосередиться на масштабних, але все ще молодих платформах машинного навчання, які виводять штучний інтелект на новий рівень складності, що також є потенційним фактором ризику. Крім того, Форум моделей фронтирів також підтримуватиме розробку застосунків, що вирішують основні суспільні проблеми, такі як: пом'якшення наслідків зміни клімату та адаптація до них, раннє виявлення та профілактика раку, а також протидія кіберзагрозам.

Простір для потенційного руйнування

Оголошення американськими компаніями про створення Форуму Frontier Model з'явилося через кілька днів після того, як 25 липня сенатори США попередили про ризик використання штучного інтелекту для біологічних атак на слуханнях у підкомітеті Судового комітету Сенату США. Нещодавно сім великих технологічних компаній, включаючи OpenAI, Alphabet та Meta, добровільно зобов'язалися перед Білим домом розробити систему ідентифікації всього контенту, створеного штучним інтелектом, від тексту, зображень, аудіо до відео , щоб забезпечити прозорість для користувачів та зробити цю технологію безпечнішою.

Даріо Амодей, генеральний директор AI Anthropic, зазначив, що хоча штучний інтелект ще не здатний створювати біологічну зброю, він є «середньостроковим» ризиком і становить серйозну загрозу національній безпеці США протягом наступних двох-трьох років. Причина полягає в тому, що суб'єкти, які здійснюють масштабні атаки з використанням біологічної зброї, більше не обмежуються тими, хто має спеціалізовані знання в цій галузі.

Світ зіткнувся з вибуховим зростанням контенту, створеного за допомогою технології генеративного штучного інтелекту. Від США, Європи до Азії контроль поступово посилюється. За даними CNN, починаючи з вересня, Сенат США проведе серію з дев'яти додаткових семінарів для членів, щоб дізнатися про те, як штучний інтелект може впливати на робочі місця, національну безпеку та інтелектуальну власність. До США, якщо буде досягнуто угоди, Європейський Союз наступного року матиме перший у світі закон про управління штучним інтелектом, який, як очікується, набуде чинності з 2026 року.

Переваги, які штучний інтелект приносить суспільству, незаперечні, але лунає все більше попереджень про потенційні ризики цієї нової технології. У червні Генеральний секретар ООН Антоніу Гутерріш підтримав пропозицію кількох керівників у сфері штучного інтелекту щодо створення міжнародного наглядового органу за ШІ, подібного до Міжнародного агентства з атомної енергії (МАГАТЕ).

Повернувшись на форум Frontier Model Forum, президент Microsoft Бред Сміт заявив, що ця ініціатива є важливим кроком у об'єднанні технологічних компаній для просування відповідального використання штучного інтелекту на благо всього людства. Аналогічно, віцепрезидент OpenAI з глобальних справ Анна Маканджу зазначила, що передові технології штучного інтелекту мають потенціал принести значні переваги суспільству, і це вимагає нагляду та управління.

Джерело