Чи може проєкт «суперштучного інтелекту», який загрожує людству, сприяти звільненню генерального директора OpenAI Альтмана?

У повідомленні від 23 листопада агентство Reuters посилалося на два джерела, які стверджували, що про лист ніколи раніше не згадувалося, і що алгоритм штучного інтелекту був значним розвитком до того, як 17 листопада було звільнено Сема Альтмана, співзасновника та генерального директора OpenAI. За цими джерелами, лист був одним із факторів у переліку причин, що призвели до рішення звільнити раду директорів OpenAI.

Дослідники, які написали та надіслали листа, не одразу відповіли на запит про коментар.

Альтман тріумфально повернувся пізно ввечері 21 листопада, після того, як понад 700 співробітників OpenAI погрожували звільнитися та приєднатися до Microsoft разом зі звільненим генеральним директором. Це завершило майже тиждень безладів, спричинених низкою неочікуваних подій в OpenAI, одній з найвідоміших дослідницьких компаній у світі та власнику популярного додатку ChatGPT.

OpenAI sa thải CEO sau bức thư cảnh báo mối nguy từ thuật toán AI mới? - Ảnh 1. — Пан Альтман на заході АТЕС у США 16 листопада.

За даними одного з джерел, одна з давніх старших менеджерів OpenAI, Міра Мураті, 22 листопада згадала співробітникам проєкт під назвою Q* (вимовляється «Q Star») і повідомила, що лист було надіслано раді директорів компанії перед світовою технологічною хвилею минулих вихідних.

Після публікації цієї історії речниця OpenAI заявила, що пані Мураті повідомила співробітникам про те, що збираються повідомити ЗМІ, але вона не коментувала точність інформації.

Сем Альтман повертається на посаду генерального директора OpenAI

Одне з джерел повідомило, що OpenAI досягла прогресу в проекті Q*. Деякі співробітники компанії вважають, що цей проект може стати проривом у прагненні OpenAI до суперінтелекту, також відомого як штучний загальний інтелект (ШЗІ). Компанія визначає ШЗІ як систему штучного інтелекту, яка розумніша за людей.

Завдяки своїм величезним обчислювальним ресурсам нова модель може вирішити деякі проблеми, стверджує джерело. Хоча модель виконує математичні обчислення лише на рівні початкової школи, джерело зазначило, що вирішення таких проблем вселяє дослідників великий оптимізм щодо майбутнього успіху Q*.

Дослідники розглядають математику як передову в розвитку генеративного ШІ. Наразі генеративний ШІ може писати та перекладати між мовами, хоча відповіді на одні й ті ж питання можуть бути дуже різними. Але оволодіння математикою – де є лише одна правильна відповідь – означає, що ШІ зможе міркувати краще, як людський інтелект. Дослідники ШІ вважають, що це можна застосувати до нових наукових досліджень.

На відміну від комп'ютера, який може вирішувати лише обмежену кількість обчислень, штучний інтелект (ШІ) може узагальнювати, навчатися та розуміти проблеми. У листі до ради директорів OpenAI дослідники наголосили на потужності та потенційних небезпеках ШІ, за даними джерел. Комп'ютерні науковці давно обговорюють небезпеки, що виникають від надрозумних машин, наприклад, чи можуть вони вирішити знищити людство заради власної вигоди.

У цьому контексті пан Альтман очолив зусилля, спрямовані на перетворення ChatGPT на одне з найшвидше зростаючих програмних застосунків в історії та залучення інвестицій, а також обчислювальних ресурсів, необхідних від Microsoft для наближення до узагальненого суперінтелекту, або AGI.

Окрім оголошення низки нових інструментів на заході цього місяця, пан Альтман минулого тижня у Сан-Франциско заявив світовим лідерам, що, на його думку, ЗШІ (загальний штучний інтелект) досяжний.

Наступного дня рада директорів OpenAI звільнила пана Альтмана.

Посилання на джерело