Lumea nu este pregătită să dezvolte o inteligență artificială la fel de inteligentă ca creierul uman.

Lumea nu este pregătită pentru inteligența artificială generală (AGI) sau pentru punctul în care inteligența artificială va fi la fel de inteligentă ca creierul uman, potrivit unui cercetător senior de la OpenAI.

Este inteligența artificială în general un risc?

Ani de zile, cercetătorii au speculat despre apariția inteligenței artificiale generale, sau AGI, în cadrul căreia sistemele artificiale vor putea gestiona o gamă largă de sarcini la fel de bine ca oamenii. Mulți văd apariția acesteia ca pe un risc existențial, deoarece ar putea permite computerelor să funcționeze în moduri pe care oamenii nu și le pot imagina.

Potrivit domnului Miles Brindage, lumea nu este pregătită pentru era inteligenței artificiale generale (AGI).

Acum, omul însărcinat cu asigurarea că dezvoltatorul ChatGPT, OpenAI, este pregătit pentru AGI recunoaște că nici lumea, nici compania însăși nu sunt „pregătite” pentru următorul pas. Miles Brundage a fost „consultant senior al OpenAI pentru pregătirea AGI”, dar și-a anunțat plecarea săptămâna aceasta, odată cu desființarea grupului de către companie.

„Nici OpenAI, nici vreun alt laborator de pionierat nu este pregătit (pentru AGI) și nici lumea. Ca să fie clar, nu cred că aceasta este o declarație controversată în rândul conducerii OpenAI, ci mai degrabă o întrebare legată de dacă firma și lumea sunt pe cale să fie pregătite la momentul potrivit”, a declarat Brundage, care a petrecut șase ani contribuind la modelarea inițiativelor companiei în materie de siguranță în domeniul inteligenței artificiale.

Plecarea lui Brundage marchează cea mai recentă dintr-o serie de plecări notabile din echipele de siguranță ale OpenAI. Jan Leike, un cercetător proeminent, a plecat după ce a declarat că „cultura și procesele de siguranță au trecut pe plan secund în favoarea produselor strălucitoare”. Cofondatorul Ilya Sutskever a plecat, de asemenea, pentru a lansa propriul startup de inteligență artificială axat pe dezvoltarea de inteligență artificială automată (AGI) sigură.

Desființarea de către Brundage a grupului său „AGI Readiness” vine la doar câteva luni după ce compania a desființat grupul său „Superalignment” dedicat atenuării riscurilor pe termen lung legate de inteligența artificială, expunând tensiunile dintre misiunea inițială a OpenAI și ambițiile sale comerciale.

Presiunea profitului împinge OpenAI de pe calea sigură

Se pare că OpenAI se confruntă cu presiuni pentru a trece de la o organizație non-profit la una cu scop lucrativ în termen de doi ani - sau riscă să piardă finanțarea din recenta rundă de investiții de 6,6 miliarde de dolari. Această trecere către comercializare a fost mult timp o preocupare pentru Brundage, care și-a exprimat rezervele încă din 2019, când OpenAI și-a înființat pentru prima dată divizia cu scop lucrativ.

CEO-ul OpenAI, Sam Altman, are o „durere de cap” din cauza presiunii pe care o are compania pentru a căuta profit.

În explicarea plecării sale, Brundage a invocat restricțiile tot mai mari asupra libertății sale de a cerceta și publica în cadrul importantei companii. El a subliniat necesitatea unei voci independente în discuțiile privind politica de inteligență artificială, liberă de părtiniri din partea industriei și conflicte de interese. După ce a consiliat conducerea OpenAI cu privire la pregătirile interne, el consideră că poate avea acum un impact mai mare asupra guvernanței globale a inteligenței artificiale din afara organizației.

Plecările reflectă, de asemenea, o diviziune culturală mai profundă în cadrul OpenAI. Mulți cercetători s-au alăturat pentru a avansa cercetarea în domeniul inteligenței artificiale și se află acum într-un mediu din ce în ce mai mult axat pe produs. Alocarea internă a resurselor a devenit un punct de criză - rapoartele indică faptul că echipei lui Leike i s-a refuzat puterea de calcul pentru cercetarea în domeniul siguranței înainte de a fi desființată.

OpenAI s-a confruntat în ultimele luni cu întrebări legate de planurile sale de dezvoltare a inteligenței artificiale și de cât de serios tratează siguranța. Deși a fost fondată ca o organizație non-profit dedicată cercetării modului de a construi inteligență artificială sigură, succesul ChatGPT a atras investiții semnificative și presiune pentru a utiliza noua tehnologie în scop lucrativ.

Sursă: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm