Модель «суперінтелекту» стоїть за скандалом з OpenAI

За даними джерел Tech.co , поки тривала суперечка щодо звільнення генерального директора Сема Альтмана та його подальшого повернення до OpenAI, один із чуток стосувався листа, надісланого дослідниками компанії раді директорів, у якому висловлювалися занепокоєння щодо моделі суперінтелекту штучного інтелекту, що розробляється та потенційно може становити загрозу для людства.

Проект Q*

Кажуть, що модель, відома всередині компанії як Project Q* (вимовляється Q-зірка), являє собою важливий прорив у прагненні OpenAI створити загальний штучний інтелект (AGI) — високоавтономну гілку суперінтелекту, здатну до кумулятивного навчання та перевершувати людей у більшості завдань.

За словами людей, знайомих з цим питанням, Q* може ознаменувати значний крок вперед у розвитку штучного інтелекту, радикально покращивши можливості ШІ щодо міркування та наблизивши OpenAI до серйозного прориву в розвитку ЗШІ.

На відміну від сучасних моделей штучного інтелекту, які зосереджені на здатності генерувати відповіді на основі попередньо вивченої інформації, ЗШІ – це автономна система, яка може застосовувати «розум» до рішень, надаючи їй можливості вирішення проблем на людському рівні.

Хоча ЗШІ ще не повністю реалізований, багато експертів вважають, що ця технологія також матиме здатність до кумулятивного навчання, що є ще однією рисою, яка дає людям можливість покращувати свої здібності.

Деякі джерела стверджують, що Q* — проект OpenAI — зміг продемонструвати вищезазначені властивості під час вирішення задач. Крім того, завдяки величезній обчислювальній потужності моделі, Q* зміг перевершити учнів початкової школи, демонструючи навички міркування та когнітивні здібності, що значно перевершують можливості сучасних технологій штучного інтелекту.

Незрозуміло, як довго розробляється Q* і які можуть бути його застосування, але OpenAI повідомив співробітників та членів правління про проєкт ще до того, як виник кадровий скандал.

Етичні проблеми

Хоча генеральний директор OpenAI Сем Альтман впевнений, що технологія AGI стимулюватиме інновації, деякі дослідники швидко вказали на потенційні небезпеки проекту.

У листі до ради директорів дослідники попередили про потенційну небезпеку цього потужного алгоритму для людства. Конкретні етичні проблеми щодо штучного інтелекту, викладені в листі, не розкривалися, але попереджень було достатньо, щоб виправдати рішення ради директорів звільнити Альтмана.

Тим часом, початковою причиною звільнення Альтмана було те, що генеральний директор «погано комунікував». Невдовзі він знайшов нову посаду в Microsoft. Це спонукало 700 із 770 співробітників OpenAI погрожувати зробити те саме, якщо генерального директора не поновлять на посаді.

Оскільки компанія опинилася під загрозою краху, рада директорів OpenAI була змушена поновити Альтмана на керівній посаді, що також призвело до серйозної реорганізації керівного складу компанії та висвітлило глибокі розбіжності в її керівництві.

Тепер, коли Альтман повернувся до влади, і проект Q*, ймовірно, знову отримає зелене світло, це викликає нові питання.

Наскільки реалістичним є Проєкт Q*?

Хоча бурхливі дні в OpenAI привернули увагу до концепції ЗШІ, це не перший раз, коли Альтман згадує цю технологію.

Підприємець із Кремнієвої долини опинився у скрутному становищі у вересні, порівнявши ЗШІ із «звичайною людиною, яку можна найняти колегою». Він продовжив свої коментарі минулого року про те, що ШІ може «зробити все, що можна, з колегою, що працює віддалено», зокрема навчитися бути лікарем та хорошим програмістом.

Хоча порівняння ЗШІ з інтелектом «пересічної людини» не є чимось новим, використання цієї фрази Альтманом було визнано «огидним» фахівцем з етики ШІ та професором Кембриджського університету Генрі Шевліном, оскільки занепокоєння щодо впливу ШІ на безпеку зайнятості зростає.

Потенційні прориви в ЗШІ також викликають тривогу у інших дослідників — технологія розробляється швидше, ніж люди можуть повністю усвідомити її вплив.

OpenAI вважає, що позитивні результати ЗШІ роблять ризиковане «мінне поле» вартим того, щоб його досліджувати. Але оскільки компанія продовжує рухатися в цьому напрямку, багато хто хвилюється, що Альтман ставить комерційний успіх вище за інтереси користувачів і суспільства.

Phuong Anh (Джерело: Tech.co, The Guardian)

Джерело