Світ не готовий до розвитку штучного інтелекту, такого ж розумного, як людський мозок.

За словами старшого дослідника OpenAI, світ не готовий до загального штучного інтелекту (ЗШІ) або до того моменту, коли штучний інтелект стане таким же розумним, як людський мозок.

Чи є штучний інтелект загалом ризиком?

Роками дослідники розмірковували про появу штучного загального інтелекту, або ШЗІ, де штучні системи зможуть виконувати широкий спектр завдань так само добре, як і люди. Багато хто розглядає його появу як екзистенційний ризик, оскільки це може дозволити комп'ютерам працювати так, як люди не можуть собі уявити.

За словами пана Майлза Бріндейджа, світ не готовий до епохи штучного інтелекту (ШІ).

Тепер людина, якій доручено забезпечити готовність розробника ChatGPT OpenAI до AGI, визнає, що ні світ, ні сама компанія «не готові» до наступного кроку. Майлз Брундейдж був «старшим радником OpenAI з питань готовності до AGI», але цього тижня оголосив про свій відхід, оскільки компанія розпустила групу.

«Ні OpenAI, ні будь-яка інша новаторська лабораторія не готова (до ЗШІ), як і світ. Щоб було зрозуміло, я не думаю, що це суперечлива заява керівництва OpenAI, а радше питання про те, чи компанія та світ на шляху до готовності у потрібний час», – сказав Брундейдж, який шість років допомагав формувати ініціативи компанії щодо безпеки ШІ.

Відхід Брундейджа є останнім у серії помітних звільнень з команд безпеки OpenAI. Ян Лейке, відомий дослідник, пішов після того, як заявив, що «культура та процеси безпеки відійшли на другий план на користь блискучих продуктів». Співзасновник Ілля Суцкевер також пішов, щоб запустити власний стартап у сфері штучного інтелекту, зосереджений на розробці безпечного штучного інтелекту (ЗШІ).

Розпуск Брандейджем своєї групи «AGI Readiness» відбувся лише через кілька місяців після того, як компанія розпустила свою групу «Superalignment», яка займалася пом'якшенням довгострокових ризиків, пов'язаних зі штучним інтелектом, що виявило суперечності між початковою місією OpenAI та її комерційними амбіціями.

Тиск на прибутки збиває OpenAI з безпечного шляху

Повідомляється, що OpenAI стикається з тиском щодо переходу з некомерційної організації на комерційну компанію протягом двох років, інакше ризикує втратити фінансування з нещодавнього раунду інвестицій у розмірі 6,6 мільярда доларів. Цей зсув у бік комерціалізації вже давно викликає занепокоєння у Брундеджа, який висловлював занепокоєння з 2019 року, коли OpenAI вперше створив свій комерційний підрозділ.

Генеральний директор OpenAI Сем Альтман відчуває «головний біль» через тиск, який компанія чинить, прагнучи прибутку.

Пояснюючи свій відхід, Брандейдж посилався на посилення обмежень на його свободу проведення досліджень та публікацій у відомій компанії. Він наголосив на необхідності незалежного голосу в обговореннях політики ШІ, вільного від галузевої упередженості та конфлікту інтересів. Консультуючи керівництво OpenAI з питань внутрішньої підготовки, він вважає, що тепер може мати більший вплив на глобальне управління ШІ ззовні організації.

Ці відходи також відображають глибший культурний розрив в OpenAI. Багато дослідників об’єдналися для розвитку досліджень у галузі штучного інтелекту та тепер опинилися в середовищі, де дедалі більше орієнтовано на продукт. Внутрішній розподіл ресурсів став гарячою точкою — звіти свідчать про те, що команді Лейке було відмовлено в обчислювальній потужності для досліджень безпеки, перш ніж її було розформовано.

Останніми місяцями OpenAI зіткнулася з питаннями щодо своїх планів щодо розробки штучного інтелекту та того, наскільки серйозно компанія ставиться до безпеки. Хоча ChatGPT була заснована як некомерційна організація, що займається дослідженням способів створення безпечного штучного інтелекту, її успіх приніс значні інвестиції та тиск на використання нової технології з метою отримання прибутку.

Джерело: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm