OpenAI поддерживает идею новых лицензий для разработки продвинутых моделей ИИ

Соответственно, компания, владеющая ChatGPT и Dall-E, взяла на себя ряд обязательств в отношении политики в области ИИ. «Компания стремится сотрудничать с правительством США и политиками по всему миру, чтобы поддержать разработку требований лицензирования для всех высокопроизводительных моделей ИИ в будущем».

Идея лицензирования разработки ИИ, совместно продвигаемая лидерами отрасли, такими как OpenAI, и правительством, создает условия для потенциального конфликта между стартапами и разработчиками ПО с открытым исходным кодом, которые видят в ней попытку затруднить выход в сферу ИИ.

На слушаниях в Конгрессе США генеральный директор OpenAI Сэм Альтман однажды поднял идею создания агентства, ответственного за лицензирование или отзыв продуктов ИИ, если они нарушают установленные правила.

Раскрытие информации OpenAI произошло на фоне того, что другие крупные компании в области ИИ, такие как Microsoft и Google, также рассматривают возможность принятия аналогичных мер.

Однако вице-президент компании по глобальным вопросам Анна Маканджу заявила, что документ о внутренней политике будет отличаться от той, которую, как ожидается, опубликует Белый дом. OpenAI заявила, что не «навязывает», а считает лицензирование «практичным» способом регулирования новых систем для правительств.

«Правительствам важно знать, могут ли эти сверхмощные системы потенциально причинить вред», и «у властей очень мало способов узнать об этих системах, не сообщая о них самим».

Маканджу заявил, что OpenAI поддерживает лицензирование только более мощных моделей ИИ, чем GPT-4, и хочет гарантировать, что небольшим стартапам не придется нести бремя регулирования.

Подотчетность и прозрачность

OpenAI также заявила во внутренней документации о своей готовности более открыто говорить о данных, используемых для обучения генераторов изображений, таких как Dall-E. Компания заявляет о своей приверженности прозрачному и ответственному подходу к данным, используемым для разработки ИИ.

Аналитики отметили, что обязательства, изложенные в меморандуме OpenAI, в значительной степени соответствуют некоторым политическим предложениям Microsoft, сделанным в мае. OpenAI отметила, что, несмотря на инвестиции в размере 10 миллиардов долларов от Microsoft, она остаётся независимой компанией.

Кроме того, компания, которой принадлежит ChatGPT, также провела исследование водяных знаков для отслеживания подлинности и авторских прав на изображения, созданные с помощью ИИ.

В меморандуме OpenAI, по всей видимости, признаёт потенциальные риски, которые системы ИИ представляют для рынка труда и неравенства. В проекте меморандума компания заявила, что проведёт исследования и предоставит рекомендации политикам для защиты экономики от потенциальных «переломов».

Компания также заявила, что открыта для доступа и тестирования своих систем на предмет уязвимостей в различных областях, включая оскорбительный контент, риски манипуляции, дезинформацию, а также поддерживает создание совместного центра обмена информацией по кибербезопасности.

(По данным Bloomberg)

Источник