Модель «суперінтелекту», що стоїть за суперечкою щодо OpenAI

За даними джерел Tech.co , поки розгорталася суперечка навколо звільнення генерального директора Сема Альтмана та його подальшого повернення до OpenAI, один із чуток стосувався листа, надісланого дослідниками компанії раді директорів, у якому висловлювалися занепокоєння щодо того, що модель суперінтелекту штучного інтелекту, що розвивається, потенційно становить загрозу для людства.

Проект Q*

Модель, внутрішньо відома як Project Q* (вимовляється Q-зірка), рекламується як потенційно значний прорив у прагненні OpenAI до загального штучного інтелекту (AGI) – високоавтономної гілки суперінтелекту, здатної до кумулятивного навчання та перевершування людей у більшості завдань.

За даними джерел, близьких до справи, Q* може ознаменувати значний крок вперед у галузі штучного інтелекту, радикально покращивши можливості мислення ШІ та наблизивши OpenAI до серйозного прориву в розробці ЗШІ.

На відміну від сучасних моделей штучного інтелекту, які зосереджені на генеруванні відповідей на основі попередньо вивченої інформації, ЗШІ – це автономна система, яка може застосовувати «розум» до рішень, що дає їй здатність вирішувати проблеми на людському рівні.

Хоча ЗШІ ще не повністю реалізований, багато експертів вважають, що ця технологія також матиме потенціал для кумулятивного навчання, ще однієї характеристики, яка дозволяє людям покращувати свої здібності.

Деякі джерела припускають, що Q* – проект OpenAI – зміг продемонструвати вищезгадані властивості під час вирішення задач. Крім того, завдяки величезній обчислювальній потужності моделі, Q* зміг перевершити учнів початкової школи, демонструючи навички міркування та когнітивні здібності, що набагато перевершують сучасні технології штучного інтелекту.

Незрозуміло, як довго розробляється Q* і які можуть бути його потенційні застосування, але OpenAI повідомив співробітників та членів правління про проєкт до того, як виникла кадрова суперечка.

Етичні проблеми

Хоча генеральний директор OpenAI Сем Альтман впевнений, що технологія AGI стимулюватиме інновації, деякі дослідники поспішили вказати на потенційні небезпеки проекту.

У листі до ради директорів дослідники попередили про потенційну небезпеку, яку цей потужний алгоритм становить для людства. Конкретні етичні проблеми щодо штучного інтелекту, викладені в листі, не розголошувалися, але попереджень було достатньо, щоб виправдати рішення ради директорів звільнити Альтмана.

Тим часом, початковою причиною звільнення Альтмана було те, що генеральний директор мав «погані комунікативні навички». Невдовзі після цього він знайшов нову посаду в Microsoft. Через це 700 із 770 співробітників OpenAI погрожували зробити те саме, якщо генерального директора не поновлять на посаді.

Оскільки компанія опинилася на межі краху, рада директорів OpenAI була змушена повторно призначити Альтмана на керівну посаду, що також призвело до серйозної реорганізації керівного складу компанії та виявило глибокі розбіжності в її керівництві.

Тепер, коли Альтман повернувся на цю посаду, і проект Q*, ймовірно, знову отримає зелене світло, це викликає нові питання.

Наскільки реалістичним є Проєкт Q*?

Хоча бурхливі часи в OpenAI привернули увагу до концепції ЗШІ, це не перший раз, коли Альтман згадує цю технологію.

Ще у вересні підприємець із Кремнієвої долини опинився у скрутному становищі після того, як порівняв ЗШІ зі «звичайною людиною, яку можна найняти колегою». Далі він повторив свої минулорічні коментарі про те, що цей ШІ може «зробити все, що можна, з колегою, що працює віддалено», зокрема навчитися бути лікарем та хорошим програмістом.

Хоча порівняння ЗШІ з інтелектом «пересічної людини» не є чимось новим, використання цієї фрази Альтманом було визнано «огидним» фахівцями з етики ШІ та професором Кембриджського університету Генрі Шевліном, оскільки занепокоєння щодо впливу ШІ на безпеку зайнятості зростає.

Потенційні прориви в ЗШІ також б'ють на сполох у інших дослідників – технологія розвивається швидше, ніж люди можуть повністю зрозуміти її вплив.

OpenAI вважає, що позитивні результати штучного інтелекту (ЗШІ) роблять це ризиковане «мінне поле» вартим спроби. Однак, оскільки компанія продовжує рухатися в цьому напрямку, багато хто хвилюється, що Альтман надає пріоритет комерційному успіху, а не вигоді для користувачів та суспільства.

Phuong Anh (Джерело: Tech.co, The Guardian)

Джерело