Сем Альтман залишає Комітет безпеки OpenAI, залишаючи його незалежній групі

Згідно з оголошенням в офіційному блозі OpenAI, Комітет з безпеки стане незалежною наглядовою групою під керівництвом ради. Професор Університету Карнегі-Меллона Зіко Колтер очолить Комітет разом з іншими членами, такими як генеральний директор Quora Адам Д'Анджело, генерал армії США у відставці Пол Накасоне та колишній виконавчий віце-президент Sony Ніколь Селігман. Усі ці члени наразі є членами ради директорів OpenAI.

Після відставки Альтмана комітет завершив перевірку безпеки останньої моделі штучного інтелекту компанії, o1. Група продовжуватиме отримувати брифінги від команди безпеки OpenAI та залишає за собою право відкласти випуск, якщо проблеми безпеки не будуть вирішені.

Згідно з OpenAI, Комітет відіграватиме важливу роль у забезпеченні технічного нагляду за поточними та майбутніми моделями, а також у моніторингу після релізу. Компанія прагне створити вбудовані процеси безпеки з чіткими критеріями оцінки, щоб забезпечити безпечний випуск усіх своїх моделей штучного інтелекту.

Рішення Альтмана залишити комітет було прийнято після того, як група з п'яти сенаторів США надіслала лист із проханням до OpenAI роз'яснити свою політику безпеки. Майже половина співробітників OpenAI, які зосереджувалися на вивченні довгострокових ризиків штучного інтелекту, залишили компанію за останні роки. Колишні дослідники OpenAI критикували Альтмана за те, що він не виступає за суворе регулювання ШІ, натомість віддаючи перевагу політиці, яка сприяє комерційним цілям компанії.

Автор зображення: Джастін Салліван / Getty Images

Крім того, OpenAI значно збільшила свої витрати на лобіювання в Конгресі США. Компанія заклала бюджет у розмірі 800 000 доларів США на перші шість місяців 2024 року порівняно з 260 000 доларів США за весь 2023 рік. Альтман також приєднався до Ради з безпеки та захисту штучного інтелекту Міністерства внутрішньої безпеки США, де він брав участь у розробці рекомендацій щодо ШІ в критичній інфраструктурі країни.

Хоча Альтман залишив Комітет з питань безпеки та конфіденційності, мало що може свідчити про те, що комітет прийматиме рішення, які можуть серйозно перешкодити комерційному розвитку OpenAI. У травні OpenAI заявила, що прагнутиме розглянути «обґрунтовану критику» своєї роботи через комітет, хоча «обґрунтована критика» є значною мірою суб’єктивною.

У редакційній статті в The Economist у травні дві колишні члени правління OpenAI, Хелен Тонер та Таша МакКолі, висловили стурбованість щодо здатності компанії керувати собою, стверджуючи, що OpenAI наразі не здатна нести відповідальність під тиском прибутку.

Прибутки стають дедалі важливішим рушієм для OpenAI. Компанія зараз залучає 6,5 мільярда доларів у новому раунді фінансування, що оцінить її у понад 150 мільярдів доларів. Щоб залучити інвесторів, OpenAI може розглянути можливість відмови від своєї гібридної некомерційної структури, яка покликана обмежити прибутки інвесторів, щоб забезпечити мету розвитку ШІ для спільного блага людства.

Хунг Нгуєн (за даними TechCrunch)

Джерело: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html