Modelul de „superinteligență” din spatele controversei OpenAI

Conform surselor Tech.co , în timp ce controversa din jurul demiterii CEO-ului Sam Altman și a revenirii ulterioare la OpenAI era în desfășurare, unul dintre zvonurile care circulau se referea la o scrisoare trimisă de cercetătorii companiei consiliului de administrație, în care își exprimau îngrijorarea cu privire la modelul de superinteligență artificială în curs de dezvoltare, care ar putea reprezenta o amenințare la adresa umanității.

Proiectul Q*

Modelul, cunoscut intern sub numele de Proiectul Q* (pronunțat Q-star), este considerat a reprezenta o descoperire majoră în eforturile OpenAI de a dezvolta inteligența artificială generală (AGI) - o ramură extrem de autonomă a superinteligenței, capabilă de învățare cumulativă și de a depăși performanțele umane în majoritatea sarcinilor.

Conform unor surse apropiate situației, Q* ar putea marca un salt major înainte în domeniul inteligenței artificiale prin îmbunătățirea radicală a capacităților de raționament ale IA și prin aducerea OpenAI mai aproape de un progres major în dezvoltarea IA.

Spre deosebire de modelele actuale de inteligență artificială, care se concentrează pe generarea de răspunsuri bazate pe informații pre-învățate, inteligența artificială generală (AGI) este un sistem autonom care poate aplica „rațiunea” deciziilor, oferindu-i capacitatea de a rezolva probleme la nivel uman.

Deși AGI nu este încă pe deplin realizată, mulți experți consideră că această tehnologie va avea și potențialul pentru învățare cumulativă, o altă caracteristică ce permite oamenilor să își îmbunătățească abilitățile.

Unele surse sugerează că Q* – un proiect OpenAI – a reușit să demonstreze proprietățile menționate anterior în rezolvarea problemelor. În plus, datorită imensei puteri de calcul a modelului, Q* a reușit să depășească performanțele elevilor de școală primară, demonstrând abilități de raționament și capacități cognitive mult superioare celor ale tehnologiei actuale de inteligență artificială.

Nu este clar de cât timp este în dezvoltare Q* și care ar putea fi potențialele sale aplicații, dar OpenAI a informat angajații și membrii consiliului de administrație despre proiect înainte de a apărea controversa privind personalul.

Preocupări etice

Deși CEO-ul OpenAI, Sam Altman, este încrezător că tehnologia AGI va stimula inovația, unii cercetători s-au grăbit să sublinieze potențialele pericole ale proiectului.

Într-o scrisoare adresată consiliului de administrație, cercetătorii au avertizat asupra pericolului potențial pe care acest algoritm puternic îl reprezintă pentru umanitate. Preocupările etice specifice legate de inteligența artificială, subliniate în scrisoare, nu au fost dezvăluite, dar avertismentele au fost suficiente pentru a justifica decizia consiliului de a-l concedia pe Altman.

Între timp, motivul inițial invocat pentru demiterea lui Altman a fost că directorul general avea „abilități slabe de comunicare”. La scurt timp după aceea, acesta a găsit un nou post la Microsoft. Această acțiune i-a determinat pe 700 dintre cei 770 de angajați ai OpenAI să amenințe că vor face același lucru dacă directorul general nu era repus în funcție.

Cum compania se afla în pragul colapsului, consiliul de administrație al OpenAI a fost forțat să-l numească din nou pe Altman în funcția de conducere – ceea ce a dus și la o revizuire majoră a echipei executive a companiei și a scos în evidență diviziuni profunde în cadrul conducerii acesteia.

Acum, că Altman este din nou în rol și că este probabil ca Proiectul Q* să primească din nou undă verde, acest lucru ridică noi întrebări.

Cât de realist este Proiectul Q*?

Deși vremurile turbulente de la OpenAI au adus în centrul atenției conceptul de AGI, aceasta nu este prima dată când Altman menționează tehnologia.

În septembrie, antreprenorul din Silicon Valley a intrat în bucluc după ce a comparat inteligența artificială generală (IA) cu „o ființă umană obișnuită pe care ai putea-o angaja ca și coleg”. El a continuat să reitereze comentariile pe care le-a făcut anul trecut despre cum această inteligență artificială ar putea „face orice ai putea face cu un coleg de la distanță”, inclusiv să învețe să fie medic și un bun programator.

Deși compararea inteligenței artificiale generale (IAG) cu inteligența unui „om obișnuit” nu este nimic nou, utilizarea expresiei de către Altman a fost considerată „dezgustătoare” de către specialiștii în etică a inteligenței artificiale și de profesorul Henry Shevlin de la Universitatea Cambridge, pe măsură ce îngrijorările legate de impactul IA asupra siguranței locului de muncă cresc.

Potențialele descoperiri în domeniul inteligenței arabile (AGI) trag un semnal de alarmă și pentru alți cercetători – și anume că tehnologia se dezvoltă mai repede decât pot oamenii să-i înțeleagă pe deplin impactul.

OpenAI consideră că rezultatele pozitive ale AGI fac ca acest „câmp minat” riscant să merite încercat. Cu toate acestea, pe măsură ce compania continuă să avanseze în această direcție, mulți se tem că Altman prioritizează succesul comercial în detrimentul beneficiilor utilizatorilor și al societății.

Comentariu (0)