OpenAI підтримує ідею нових ліцензій для розробки передових моделей штучного інтелекту

Відповідно, компанія, яка володіє ChatGPT та Dall-E, взяла на себе низку зобов’язань щодо політики щодо штучного інтелекту. «Компанія прагне співпрацювати з урядом США та політиками в усьому світі для підтримки розробки вимог до ліцензування всіх високопродуктивних моделей штучного інтелекту в майбутньому».

Ідея процесу ліцензування розробки штучного інтелекту, яку спільно просувають лідери галузі, такі як OpenAI та уряд, створює умови для потенційного конфлікту між стартапами та розробниками відкритого коду, які розглядають це як спробу ускладнити проникнення у сферу штучного інтелекту.

На слуханнях у Конгресі США генеральний директор OpenAI Сем Альтман якось порушив ідею створення агентства, відповідального за ліцензування або анулювання продуктів штучного інтелекту, якщо вони порушують встановлені правила.

Розкриття інформації OpenAI з'явилося на тлі того, як інші великі компанії зі штучного інтелекту, такі як Microsoft та Google, також розглядають аналогічні кроки.

Однак, віце-президент компанії з глобальних справ Анна Маканджу заявила, що документ про внутрішню політику відрізнятиметься від політики, яку, як очікується, опублікує Білий дім. OpenAI заявила, що не «наполягає», але вважає ліцензування «практичним» способом для урядів регулювання нових систем.

«Для урядів важливо знати, чи можуть ці надпотужні системи потенційно завдати шкоди», і «існує дуже мало способів для органів влади дізнатися про ці системи без самостійного повідомлення».

Маканджу сказав, що OpenAI підтримує ліцензування лише моделей ШІ, потужніших за GPT-4, і хоче гарантувати, що менші стартапи не нестимуть регуляторного тягаря.

Підзвітність та прозорість

OpenAI також у внутрішній документації зазначила, що готова бути більш відкритою щодо даних, які вона використовує для навчання генераторів зображень, таких як Dall-E. Компанія заявляє, що прагне прозорого та підзвітного підходу до даних розробки ШІ.

Аналітики зазначили, що зобов'язання, викладені в меморандумі OpenAI, дуже узгоджуються з деякими політичними пропозиціями, зробленими Microsoft у травні. OpenAI зазначила, що, незважаючи на отримання інвестицій у розмірі 10 мільярдів доларів від Microsoft, вона залишається незалежною компанією.

Крім того, компанія, яка володіє ChatGPT, також провела опитування щодо водяних знаків, щоб відстежити справжність та авторські права на зображення, створені штучним інтелектом.

У меморандумі OpenAI, схоже, визнає потенційні ризики, які системи штучного інтелекту становлять для ринку праці та нерівності. У проекті документа компанія заявила, що проведе дослідження та надасть рекомендації політикам щодо захисту економіки від потенційних «зривів».

Компанія також заявила, що готова надати людям доступ та тестувати свої системи на наявність вразливостей у різних сферах, включаючи образливий контент, ризики маніпуляцій, дезінформацію, та підтримує створення спільного центру обміну інформацією з питань кібербезпеки.

(За даними Блумберга)

Джерело