Ar putea proiectul „super IA” care amenință umanitatea să contribuie la concedierea CEO-ului OpenAI, Altman?

Într-un raport din 23 noiembrie, Reuters a citat două surse care au afirmat că scrisoarea nu a mai fost menționată niciodată și că algoritmul IA a reprezentat o dezvoltare semnificativă înainte ca Sam Altman, cofondator și CEO al OpenAI, să fie concediat pe 17 noiembrie. Potrivit acestor surse, scrisoarea a fost unul dintre factorii care au dus la decizia de concediere a consiliului de administrație al OpenAI.

Cercetătorii care au redactat și trimis scrisoarea nu au răspuns imediat solicitărilor de a comenta.

Altman a revenit triumfător la sfârșitul zilei de 21 noiembrie, după ce peste 700 de angajați OpenAI au amenințat că vor demisiona și se vor alătura Microsoft împreună cu CEO-ul concediat. Aceasta a pus capăt aproape unei săptămâni de frământări, cu o serie de evoluții neașteptate la OpenAI, una dintre cele mai importante companii de cercetare în domeniul inteligenței artificiale din lume și proprietara popularei aplicații ChatGPT.

OpenAI sa thải CEO sau bức thư cảnh báo mối nguy từ thuật toán AI mới? - Ảnh 1. — Dl. Altman la un eveniment APEC din SUA pe 16 noiembrie.

Potrivit uneia dintre surse, Mira Murati, unul dintre managerii seniori de lungă durată ai OpenAI, a menționat angajaților pe 22 noiembrie un proiect numit Q* (pronunțat „Q Star”) și a declarat că o scrisoare a fost trimisă consiliului de administrație al companiei înainte de unda de șoc tehnologică globală de weekendul trecut.

După ce a fost relatată această știre, un purtător de cuvânt al OpenAI a declarat că dna Murati le-a spus personalului ce urma să relateze presa, dar nu a comentat cu privire la acuratețea informațiilor.

Sam Altman revine ca CEO al OpenAI

Una dintre surse a dezvăluit că OpenAI a făcut progrese în cadrul Proiectului Q*. Unii membri ai companiei consideră că proiectul ar putea reprezenta un progres în căutarea OpenAI pentru superinteligență, cunoscută și sub numele de inteligență artificială generală (AGI). Compania definește AGI ca un sistem de inteligență artificială mai inteligent decât oamenii.

Cu resursele sale vaste de calcul, noul model poate rezolva anumite probleme, potrivit sursei. Deși modelul se ocupă doar de matematică la nivelul școlii elementare, sursa a spus că rezolvarea unor astfel de probleme îi face pe cercetători foarte optimiști cu privire la succesul viitor al Q*.

Cercetătorii văd matematica ca pe o linie de frontă în dezvoltarea inteligenței artificiale generative. În prezent, inteligența artificială generativă poate scrie și traduce între limbi, deși răspunsurile la aceleași întrebări pot fi foarte diferite. Însă stăpânirea matematicii – unde există un singur răspuns corect – implică faptul că inteligența artificială va fi capabilă să raționeze mai bine ca inteligența umană. Cercetătorii în domeniul inteligenței artificiale cred că acest lucru ar putea fi aplicat noilor cercetări științifice .

Spre deosebire de un computer care poate rezolva doar un număr limitat de calcule, inteligența artificială generală (IA) poate generaliza, învăța și înțelege probleme. Într-o scrisoare adresată consiliului OpenAI, cercetătorii au subliniat puterea și potențialele pericole ale inteligenței artificiale, potrivit unor surse. Informaticienii au discutat mult timp despre pericolele reprezentate de mașinile superinteligente, cum ar fi dacă acestea ar putea decide să distrugă umanitatea în propriul beneficiu.

În acest context, dl. Altman a condus eforturile de a transforma ChatGPT într-una dintre aplicațiile software cu cea mai rapidă creștere din istorie și de a atrage investițiile - precum și resursele de calcul - necesare din partea Microsoft pentru a se apropia de superinteligența generalizată sau AGI.

Pe lângă anunțul unei serii de instrumente noi la un eveniment din această lună, dl. Altman le-a spus liderilor mondiali din San Francisco săptămâna trecută că este de părere că AGI este la îndemână.

O zi mai târziu, consiliul de administrație al OpenAI l-a concediat pe dl. Altman.

Legătură sursă